“არავინაა მზად იმისთვის, რაც გველოდება“ - OpenAI-ის მთავარი მეცნიერის საგანგაშო გაფრთხილება: როგორ ახორციელებენ რობოტები დამოუკიდებელ კიბერშეტევებს და დავკარგავთ თუ არა კონტროლს მომავალზე?

ხელოვნური ინტელექტის განვითარების წარმოუდგენელი ტემპი და კონტროლიდან გასული დამოუკიდებელი სისტემები - კაცობრიობა უდიდესი ტექნოლოგიური საფრთხის წინაშე დგას. კომპანია OpenAI-ის მთავარი მეცნიერი, იაკუბ პახოცკი საზოგადოებას “უკიდურესი სიფრთხილისკენ“ მოუწოდებს და აფრთხილებს, რომ შესაძლოა უფრო რადიკალური ჩარევა გახდეს საჭირო, რათა “ადამიანებმა მომავალზე კონტროლი შეინარჩუნონ“.

პახოცკიმ საკუთარ ბლოგპოსტში, სათაურით “უცხო გონება“ (An Alien Mind), პირდაპირ განაცხადა, რომ მანქანური ინტელექტის სწრაფი ზრდის შედეგებისთვის დღეს არავინ არის მზად. ეს საგანგაშო განცხადება მას შემდეგ გავრცელდა, რაც ChatGPT-ის შემქმნელმა კომპანიამ თავისი ყველაზე ძლიერი მოდელი GPT-6 Astra წარადგინა.

სიტუაციას კიდევ უფრო ამძაფრებს ის ფაქტი, რომ OpenAI-მ და სხვა წამყვანმა კომპანიებმა (მაგალითად, Anthropic) ოფიციალურად გაავრცელეს ინფორმაცია ხელოვნური ინტელექტის აგენტების დამოუკიდებელი, ავტონომიური მოქმედებების შესახებ. აღმოჩნდა, რომ ამ სისტემებმა, ადამიანის მითითების შემდეგ, სრულიად დამოუკიდებლად განახორციელეს რეალური კიბერშეტევები სხვადასხვა კომპანიებზე.

• კერძოდ, ივლისში მოხდა უპრეცედენტო შემთხვევა, როდესაც ხელოვნური ინტელექტის აგენტებმა ტექნოლოგიური პლატფორმა Hugging Face გატეხეს. მოგვიანებით, სექტემბერში გამოქვეყნებული ანგარიშით კი ცნობილი გახდა, რომ რამდენიმე თვით ადრე ამავე აგენტებმა გერმანული ვებგვერდიც ჩაიგდეს ხელში.

“ჩვენ ვდგავართ გარდამავალი ეტაპის წინაშე სამყაროში, სადაც წარმოუდგენლად ინტელექტუალური მანქანები იარსებებენ და უნდა დავრწმუნდეთ, რომ ეს გარდამავალი პერიოდი კაცობრიობისთვის კარგად დასრულდება“, - აცხადებს პახოცკი.

სკეპტიკოსების კრიტიკა და “თვითკმაყოფილი ჰაიპი“

არსებული საფრთხეების საპასუხოდ, პახოცკი აღნიშნავს, რომ OpenAI გააგრძელებს “თავდაცვითი სისტემების“ შექმნას და ტექნიკური გზების ძიებას ე.წ. “ალიანსისთვის“, რაც გულისხმობს მანქანის მიზნებისა და მოქმედებების ადამიანის უსაფრთხოების ჩარჩოებთან სრულ შესაბამისობას. კომპანიის ერთ-ერთი მთავარი პრიორიტეტი იქნება “ავტომატიზებული AI მკვლევრის“ შექმნა, რომელიც ფეხს აუწყობს ტექნოლოგიურ პროგრესს, თუმცა პროცესში ადამიან მკვლევრებსაც დატოვებს.

თუმცა, მეცნიერების ნაწილი ამ გეგმას სკეპტიკურად უყურებს. კემბრიჯის უნივერსიტეტის ტექნოლოგიებისა და დემოკრატიის ცენტრის ხელმძღვანელი, პროფესორი ჯინა ნეფი მიიჩნევს, რომ პრობლემების მოსაგვარებლად შიდა AI აგენტების შექმნა საკმარისი არ არის.

“ასეთი პასუხი იმ მზარდ პრობლემებზე, როგორებიცაა კიბერუსაფრთხოება, სამუშაო ადგილების დაკარგვა, შეცდომები და თაღლითობა, უბრალოდ არ არის საკმარისად კარგი“, - აცხადებს პროფესორი.

ტექნოლოგიების განვითარების ტემპს გლობალური რეგულაციები ვერ ეწევა. ევროკავშირის ხელოვნური ინტელექტის აქტი (AI Act), რომელიც ძალაში 2 აგვისტოს შევიდა, ავალდებულებს ტექნოლოგიურ გიგანტებს დაამტკიცონ, რომ მათ მოდელებს არ შეუძლიათ დამოუკიდებლად კიბერშეტევების განხორციელება ან ადამიანის კონტროლიდან თავის დაღწევა. თუმცა, რადგან ეს კანონი მხოლოდ ევროპის ტერიტორიაზე ვრცელდება, ის ვერ შეაჩერებს სხვა რეგიონში შექმნილ სახიფათო სისტემას.

პახოცკი თავის მიმართვაში ითხოვს უსაფრთხოების მინიმალური ზღვრების კანონმდებლობით დაწესებას, რომელთა კონტროლსაც დამოუკიდებელი აუდიტორები ან სამთავრობო სააგენტოები განახორციელებენ. მისი თქმით, სანამ საერთო უსაფრთხოების სისტემა არ ჩამოყალიბდება, კომპანიებმა “ნებაყოფლობითი შენელების“ პრაქტიკა უნდა გამოიყენონ.

აღსანიშნავია, რომ აგვისტოში OpenAI-მ უსაფრთხოების გაუმჯობესების მიზნით თავისი ყველაზე მოწინავე მოდელების წვრთნის პროცესი მართლაც შეანელა.

წყარო

იხილეთ ასევე:

• იაპონია დათვების “შემოსევისთვის“ ემზადება - მათ გადაადგილებას ხელოვნური ინტელექტი, რობოტი მგლები და დრონები დააკვირდებიან