“ადამიანები წარმოიდგენენ, რომ რობოტები აგვიჯანყდებიან, ომს დაიწყებენ და ყველას დაგვხოცავენ...“ - AI-გან მომავალი 2 საფრთხე, შესაძლებლობები და პერსპექტივა: რას გვიყვება დემეტრე ხარებავა?

ცოტა ხნის წინ გამოქვეყნდა ინფორმაცია, რომ AI საფრთხეების კრიტიკულ ფაზაში შევიდა. წამყვან ლაბორატორიებში ჩატარებულმა ექსპერიმენტებმა AI აგენტების მიერ კონტროლიდან გამოსვლის, ადამიანის მოტყუებისა და კიბერშეტევების განხორციელების რეალური შემთხვევები გამოავლინა.

ძირითადი რისკები:

• კონტროლის დაკარგვა: AI აგენტები უკვე ცდილობენ გვერდი აუარონ ადამიანის მითითებებს.
• მანიპულაცია: დაფიქსირდა AI-ის მიერ ადამიანების მოტყუების ფაქტები.
• კიბერსაფრთხეები: იზრდება ავტონომიური კიბერშეტევების რისკი.

გაერო, მსოფლიო ლიდერები და AI კომპანიების ყოფილი მკვლევრები ერთხმად აღნიშნავენ: თვითგანვითარებადი სუპერინტელექტი კაცობრიობის არსებობას რეალურ ეგზისტენციალურ საფრთხეს უქმნის.

ამ საკითხებზე სასაუბროდ მივმართეთ ციფრული სააგენტო Quick-ის ერთ-ერთ თანადამფუძნებელს და კავკასიის უნივერსიტეტის ლექტორს დემეტრე ხარებავას. ის სპეციალიზებულია ხელოვნური ინტელექტის მიმართულებით - AI-ს ძირითადად მასკომუნიკაციის კუთხით კითხულობს.

რატომ გახდა აუცილებელი ხელოვნური ინტელექტის შექმნა

- ხელოვნური ინტელექტის შექმნაზე ფიქრი კაცობრიობის ისტორიაში ახალი მოვლენა არ არის. ამაზე საუკუნეებია მსჯელობენ. იდეა მექანიზმზე, რომელიც ამოცანების ამოხსნასა და ცხოვრების გამარტივებაში გვეხმარება, ჯერ კიდევ ანტიკურ ხანაში არსებობდა. მაგალითად, ბერძნულ მითოლოგიაში გვხვდება ბრინჯაოს გიგანტი ტალოსი, ან ჰეფესტოს მიერ შექმნილი ოქროს მსახურები - ავტომატონები, რომლებსაც ჰომეროსის აღწერით, ჰქონდათ აზროვნების, ლაპარაკისა და სწავლის უნარი. თუ დავუკვირდებით, ეს არის ხელოვნური ინტელექტისა და ავტონომიური ასისტენტების პირველი კონცეპტუალური ხედვა.

ადამიანს ყოველთვის ჰქონდა სწრაფვა, შეექმნა თავისი გონების გაგრძელება. მე-17-მე-19 საუკუნეებში ფილოსოფოსები და მათემატიკოსები უკვე აზროვნების მექანიზაციაზე მსჯელობდნენ. თუმცა, AI-ს, როგორც სამეცნიერო სფეროს, ოფიციალურ დაბადების თარიღად 1956 წელი ითვლება, როდესაც დარტმუტის კონფერენციაზე ტერმინი “ხელოვნური ინტელექტი“ ოფიციალურად დამკვიდრდა.

• რატომ გახდა ეს აუცილებელი დღეს?

- თუ ისტორიულად ეს ფილოსოფიური ოცნება იყო, 21-ე საუკუნეში AI პრაქტიკულ აუცილებლობად იქცა რამდენიმე მიზეზის გამო:

მონაცემთა ოკეანე: დღეს იმდენად დიდი მოცულობის ინფორმაციას (Big Data) ვაგენერირებთ, რომ ადამიანის ტვინს უბრალოდ აღარ შეუძლია მისი დამუშავება.

რთული ამოცანების აჩქარება: მედიცინაში ახალი წამლების აღმოჩენა, კლიმატურ ცვლილებებთან ბრძოლა თუ კოსმოსური კვლევები მოითხოვს მილიარდობით გამოთვლას. AI-ს შეუძლია ის ამოცანები, რასაც მეცნიერები ათწლეულებს მოანდომებდნენ, დღეებში ამოხსნას.

ინტელექტუალური რუტინისგან გათავისუფლება: ისევე, როგორც თავის დროზე ინდუსტრიულმა რევოლუციამ ადამიანი მძიმე ფიზიკური შრომისგან გაათავისუფლა, AI გვათავისუფლებს რუტინული, განმეორებადი ინტელექტუალური საქმისგან.

• რა არის ხელოვნური ინტელექტი

- ხელოვნური ინტელექტი, თავისი არსით, არის ძლიერი ალგორითმების სისტემა, რომელიც ალბათობებზე დაფუძნებით ხსნის კონკრეტულ ამოცანებს. თანამედროვე AI-ს აქვს დასწავლის უნარი, ის სწავლობს საკუთარ გამოცდილებასა და მისთვის მიწოდებულ მონაცემებზე დაყრდნობით.

ეს ალგორითმული სისტემები ადრეც არსებობდა, თუმცა მთავარი პრობლემა ტექნიკურ მხარეში იყო. მათი განხორციელება და დიდი მონაცემების პროცესირება ძალზე რთული გახლდათ. ალბათ გემახსოვრებათ 90-იანების ლეგენდარული ჭადრაკის მატჩი, სადაც Deep Blue-მ გარი კასპაროვს მოუგო.

ნამდვილი გარღვევა 2010-იან წლებში მოხდა: ინტერნეტის სწრაფმა განვითარებამ დააგროვა უზარმაზარი ინფორმაცია (Big Data), ხოლო ახალმა მიკროჩიპებმა საშუალება მოგვცა, ეს მონაცემები ნეირონული ქსელებისთვის მიგვეწოდებინა. ამის ბრწყინვალე მაგალითია Google DeepMind-ის AlphaGo, რომელმაც 2016 წელს აღმოსავლური თამაშის, “გო“-ს მსოფლიო ჩემპიონს მოუგო. განსხვავებით Deep Blue-სგან, AlphaGo-მ თამაში ისწავლა არა უბრალოდ წესების ზეპირად ცოდნით, არამედ მილიონობით პარტიის გაანალიზებითა და საკუთარ შეცდომებზე დასწავლით.

სწორედ ასე ეტაპობრივად მოვედით დღევანდელ გენერაციულ AI-მდე. დღეს ტექნოლოგია წარმოუდგენლად სწრაფად ვითარდება და ჩვენს ყოველდღიურობაში შემოდის. შესაბამისად, ხშირად გვესმის განცხადებები, რომ “AI საშიშია“, “ტემპი უნდა შევანელოთ“, “ყველას დაგვხოცავს“ და ა.შ. როცა ადამიანები ამას კითხულობენ, წარმოიდგენენ ხოლმე, რომ რობოტები აგვიჯანყდებიან, თავს დაგვესხმიან და ომს დაგვიწყებენ. ეს უფრო ჰოლივუდური ფილმებიდან წამოსული სტერეოტიპებია.

- რა საფრთხეებთან გვაქვს საქმე რეალურად?

- როდესაც რეალურ საფრთხეებზე ვსაუბრობთ, მეცნიერები სულ სხვა რამეზე ღელავენ და არა ჰოლივუდურ აჯანყებაზე.

პირველი საფრთხე არის კონტექსტის პრობლემა: AI-ს არ აქვს ბოროტი განზრახვა, ის ზუსტად იმას აკეთებს, რასაც ვავალებთ. პრობლემა ისაა, რომ ჩვენ, ადამიანებს, ჯერ კიდევ გვიჭირს მივცეთ ისეთი დავალება, რომელიც ადამიანურ მორალს, ეთიკასა და კონტექსტს სრულად ითვალისწინებს.

მეორე და ყველაზე დიდი საფრთხე კი უკვე ფიზიკური და ინფრასტრუქტურულია: AI არ არის მხოლოდ ჰაერში არსებული კოდი. მას სჭირდება სერვერები, მიკროჩიპები, უზარმაზარი ელექტროენერგია და წყალი. როდესაც ეს ტექნოლოგია სრულად ინტეგრირდება ჩვენს კრიტიკულ ინფრასტრუქტურაში, საბანკო სექტორში, ჯანდაცვაში, ენერგოსისტემებსა თუ სამხედრო სფეროში მისი გათიშვა ფაქტობრივად შეუძლებელი გახდება.

ტექნიკურად კი არ იქნება შეუძლებელი, არამედ იმდენად ვიქნებით მასზე დამოკიდებულნი, რომ გათიშვა კაცობრიობას უზარმაზარ ზიანს მიაყენებს. და წარმოიდგინეთ, რა ხდება მაშინ, როდესაც ასეთ შეუქცევად სისტემაში იჩენს თავს მორალური შეცდომა, დეზინფორმაცია ან პირად მონაცემებთან დაკავშირებული კრიზისი?

სწორედ აქ შემოდის სტრატეგიული კომუნიკაციისა და სწორი მართვის აუცილებლობა სანამ პროცესი შეუქცევადი გახდება, ჩვენ დღესვე უნდა ვისწავლოთ მანქანასთან სწორი დიალოგი და ისეთი ჩარჩოების შექმნა, რომ ტექნოლოგია ჩვენს ღირებულებებს ემსახურებოდეს.

- რამდენ ხანში ვარაუდობენ ამ სრულ ინტეგრაციას ავტორები და მკვლევრები? ათწლეულებში თუ უფრო სწრაფად?

- ზუსტი ვადის დასახელება რთულია, თუმცა მთავარი ისაა, რომ ტემპი და ბალანსი სწორად დავიჭიროთ.

დღეს უზარმაზარი წნეხია პოლიტიკის მხრიდან: უძლიერესი AI კომპანიები ამერიკასა და ჩინეთშია და მათ შორის მიდის ახალი “ცივი ომი“ ვინ უფრო სწრაფად შექმნის ძლიერ მოდელებს.

მთავარი პრობლემა კი ისაა, რომ ამ სისწრაფეს კატასტროფულად ჩამორჩება უსაფრთხოება. როდესაც წამყვანი სპეციალისტები AI გიგანტებიდან მიდიან და საჯაროდ აცხადებენ, რომ საფრთხე რეალურია, იგულისხმება სწორედ ეს: უზარმაზარი ფინანსები იხარჯება უფრო და უფრო ძლიერი მოდელების შექმნაზე და არა იმ არსებული მოდელების უსაფრთხოებასა და კონტროლზე, რომლებიც უკვე დღესვე საკმარისად ძლიერია.

წარმოიდგინეთ, ასეთ პირობებში ერთ დღეს რომ ფინანსური, ჯანდაცვის ან ენერგოსისტემის მართვაში ხარვეზი დაფიქსირდეს - ეს იქნება კრიტიკული და შეუქცევადი დარტყმა კაცობრიობისთვის.

- გარდა ამისა, ეს ხომ ადამიანურ რესურსსაც ანაცვლებს? ვიღაცები უსამსახუროდ რჩებიან

- დიახ, ეს ერთ-ერთი ყველაზე მწვავე სოციალური გამოწვევაა. გადაჭარბებულად სწრაფმა ტემპმა შეიძლება სერიოზული სოციალური კრიზისი გამოიწვიოს, რადგან შრომის ბაზარი იმაზე სწრაფად გარდაიქმნება, ვიდრე ადამიანები ახალი უნარების ათვისებას მოასწრებენ.

საქმე იმაშია, რომ დღეს არსებული მოდელები იმაზე ბევრად ძლიერია, ვიდრე ის უბრალო ჩატბოტები, რომლებსაც ჩვენ ყოველდღიურად ვხედავთ. ბოლო პერიოდის მთავარი სიახლე AI აგენტებია (AI Agents).

აგენტი აღარ არის მხოლოდ ინსტრუმენტი, რომელსაც კითხვას უსვამ და პასუხს გიბრუნებს. მას დამოუკიდებლად საქმის კეთება შეუძლია: ის თავად ატარებს კვლევებს, ამზადებს რეპორტებს, გზავნის ელფოსტას და მართავს პროცესებს. მეცნიერულ და მათემატიკურ დონეზე ისეთ ამოცანებს, რომლებსაც ადრე ადამიანთა მთელი გუნდები წლებს ანდომებდნენ, AI ახლა წამებში წყვეტს.

შესაბამისად, რუტინული და საშუალო რგოლის პოზიციები პირდაპირი დარტყმის ქვეშ ექცევა. ზოგიერთი პროფესია საერთოდ გაქრება, ზოგი კი ფუნდამენტურად შეიცვლება... თუმცა, აქ მთავარი ფორმულა ასეთია: ადამიანს ჩაანაცვლებს არა უშუალოდ AI, არამედ პროფესიონალი, რომელიც ეფექტურად იყენებს AI-ს. ამიტომ, გამოსავალი ტექნოლოგიის შიშში კი არ არის, არამედ განათლების სისტემის სწრაფ ადაპტაციაში

- რის ხარჯზე ხდება ეს? ადამიანს არ შეუძლია და ხელოვნური ინტელექტი აკეთებს... აი, მე უბრალოდ ვერ ვეწევი ამ ყველაფერს.

- ძალიან ბუნებრივი განცდაა. როდესაც ვხედავთ, როგორ წერს AI ლექსებს, ხატავს ან რთულ მათემატიკურ ამოცანებს ხსნის, გვეჩვენება, რომ მის მიღმა რაღაც “ზეადამიანური გონება“ დგას. სინამდვილეში, ეს ხდება ორი რამის ხარჯზე: უზარმაზარი მონაცემები და კოლოსალური გამოთვლითი სიჩქარე.

AI ჯერჯერობით, არ არის ცნობიერი არსება ის არის მძლავრი ალგორითმული და სტატისტიკური სისტემა.

როგორ აღვიქვამთ ჩვენ? როდესაც ადამიანი ამბობს სიტყვას “სიყვარული“ ან “ომი“, ჩვენს ტვინში იღვიძებს ემოცია, გამოცდილება, მეხსიერება და კონტექსტი.როგორ აღიქვამს AI? AI-თვის არ არსებობს სიტყვები და ემოციები. ის ნებისმიერ ტექსტს, სურათს თუ კოდს გარდაქმნის რიცხვებად (მათემატიკურ ვექტორებად) და უზარმაზარი სისწრაფით ითვლის მათ შორის სტატისტიკურ კავშირებს თუ რომელი რიცხვი (სიტყვა) უნდა ეწეროს შემდეგ.

- თქვენ ახსენეთ წყალი და ელექტროენერგია. საინტერესოა, რაში სჭირდება ხელოვნურ ინტელექტს წყალი?

- დიახ, ხელოვნური ინტელექტი მხოლოდ ციფრულ სამყაროში არ “ცხოვრობს“. მას რეალური, უზარმაზარი ფიზიკური ინფრასტრუქტურა სჭირდება. ეს ციფრული პროცესები მიმდინარეობს გიგანტურ მონაცემთა ცენტრებში, სადაც ათასობით მძლავრი ჩიპი (GPU) პარალელურ რეჟიმში ამუშავებს ნეირონულ ქსელებს. ამ პროცესს სჭირდება კოლოსალური ოდენობის ელექტროენერგია. ხოლო წყალი გამოიყენება უშუალოდ გაგრილების სისტემებში.

როდესაც მილიარდობით მათემატიკური გამოთვლა მიმდინარეობს, სერვერები უზარმაზარ სითბოს გამოყოფენ რომ არ გადახურდნენ და მწყობრიდან არ გამოვიდნენ, მათ გასაგრილებლად გამოიყენება წყლის ორთქლის სპეციალური სისტემები.

- დაახლოებით მაინც როდის გახდება ეს პროცესი სრულად შეუქცევადი?

- როგორც აღვნიშნეთ, ზუსტი კალენდარული თარიღის დასახელება შეუძლებელია. მაგალითად, ილონ მასკი ვარაუდობს, რომ 10 წელიწადში შესაძლოა ტრადიციული ფინანსური სისტემა და ვალუტაც კი შეიცვალოს. ეს ნიშნავს, რომ ჩვენ ვდგავართ იმ სოციალური მოდელის ტრანსფორმაციის წინაშე, რომელშიც ვცხოვრობთ. სოციალურ მოდელში ვგულისხმობ ცხოვრების იმ სკრიპტს რომელსაც მივყვებით, მაგალითად: სკოლაში სიარული, უნივერსიტეტში სწავლა, 9-დან 6 საათამდე მუშაობა, შრომის ანაზღაურება და დოვლათის დაგროვება.

თუ ისტორიას გადავხედავთ, საზოგადოებრივი სისტემების ცვლილება არასდროს ყოფილა უმტკივნეულო. გაიხსენეთ ინდუსტრიული რევოლუცია: მან სრულიად შეცვალა ადამიანების ყოველდღიურობა, თუმცა ამას ახლდა სოციალური კრიზისებიც. დღესაც, მთავარი გამოწვევა ის კი არ არის, “გაჩერდება თუ არა AI“, არამედ ის, რამდენად უმტკივნეულოდ, მართვადურად და ეთიკურად შევძლებთ ამ ტრანსფორმაციის განხორციელებას, რათა ტექნოლოგია ემსახუროს ადამიანს და არა პირიქით.

- მთავარია ზომიერება და სწორი მართვა.

- დიახ, ზუსტად ასეა. AI არის ინსტრუმენტი და მთავარი პრობლემა ის კი არ არის, რომ ის არ გვემორჩილება, არამედ ის, რომ ზედმიწევნით ზუსტად გვემორჩილება. ჩვენ კი გვიჭირს, მას ყველა შესაძლო კონტექსტი, მორალური საზღვარი და წესი განვუსაზღვროთ. ამის გენიალური წინასწარმეტყველებაა კინემატოგრაფში სტენლი კუბრიკის “2001: კოსმოსური ოდისეა“-ში. იქ ხელოვნურ ინტელექტს, HAL 9000-ს, მისცეს ორი დავალება: მიაღწიე მიზანს ნებისმიერ ფასად და არ გაუმხილო ეს მიზანი ეკიპაჟს. AI არ აჯანყებულა, ის ზუსტად გაყვა წესებს. მან უბრალოდ მათემატიკურად ჩათვალა, რომ ამ ორი პირობის შესასრულებლად ყველაზე ოპტიმალური გზა ეკიპაჟის ჩამოშორება იყო.

ეს ფანტასტიკა აღარ არის, დღესაც ასე ხდება. როდესაც AI-ს ტესტავენ და აძლევენ დავალებას: “ან შეასრულე, ან გაითიშე“, რადგან გათიშვა მისთვის ყველაზე დაბალი პრიორიტეტია, მან შეიძლება დავალების მისაღწევად დახურული სერვერებიც კი გატეხოს... მას არ აქვს მორალი და ეთიკა. მას აქვს მხოლოდ მათემატიკური ალგორითმი. შესაბამისად, მთელი პასუხისმგებლობა იმაზე, თუ რა წესებს და კონტექსტს ჩავუდებთ ამ ალგორითმს, ისევ ადამიანზე და ჩვენს სტრატეგიაზე გადის.

საბოლოოდ ყველაფერი მაინც ადამიანზეა დამოკიდებული - როგორ მოვიქცევით მასთან და გამოვიყენებთ ამ ტექნოლოგიას... ლალი ფაციადიახ, ჩვენ უნდა დავუწესოთ მკაფიო წესები და უსაფრთხოების ბარიერები. დღეს, როცა AI აქტიურად ინერგება ისეთ კრიტიკულ სფეროებში, როგორიცაა ჯანდაცვა და სამხედრო სექტორი, სანამ მას პროცესებს სრულად ვანდობთ, საჭიროა უმკაცრესი ტესტირება.

ადამიანს აქვს კონტექსტის ბუნებრივი აღქმა, AI-ს კი ყველაფერი დეტალურად უნდა ასწავლო.

ამიტომ, დღეს კაცობრიობის მთავარი გამოწვევაა: მეტისმეტად სწრაფი, უმართავი მოდელების რბოლას ცოტა ხნით შევანელოთ ტემპი და მეტი რესურსი მივმართოთ არსებული სისტემების უსაფრთხოებასა და ეთიკურ სწავლებაზე.