"ისინი მალე ზეადამიანური სისტემები გახდებიან... ხელოვნურმა ინტელექტმა შესაძლოა ყველა დაგვხოცოს" - Anthropic-ის წამყვანი მკვლევრის საგანგაშო განცხადება
ხელოვნური ინტელექტის ერთ-ერთი უმსხვილესი და ყველაზე ძვირადღირებული კომპანიის მკვლევარმა დაკავებული თანამდებობა დატოვა და საჯაროდ განაცხადა, რომ AI ტექნოლოგიამ "შესაძლოა ათწლეულის ბოლოსთვის ყველა დაგვხოცოს".
ჯეიკობ კოქსონმა, რომელიც ბოლო სამი წლის განმავლობაში Anthropic-სა და OpenAI-ში AI-ის პირველადი სწავლების (pre-training) მიმართულებით მუშაობდა, სოციალურ ქსელ X-ში პოსტების ვირუსული სერია გამოაქვეყნა.
"არცერთი კომპანია არ მოქმედებს პასუხისმგებლობით. ისინი პირდაპირ თვით გაუმჯობესებადი სუპერინტელექტის შექმნისკენ მიისწრაფვიან და ჩვენი სიცოცხლით რისკავენ, ნუ ეცდებით შეაფასოთ ამ ტექნოლოგიის ძალა დღეს, ისინი მალე ზეადამიანური სისტემები გახდებიან, რომელთაც ნებისმიერი რამის "დაჰაკვა", ნებისმიერი სფეროს ერთ ღამეში რევოლუციურად გარდაქმნა და რეალური ძალაუფლებისა თუ რესურსების ხელში ჩაგდება შეეძლებათ. ხელოვნურ ინტელექტზე მომუშავე ადამიანებს გულწრფელად სჯერათ, რომ მას ათწლეულის ბოლომდე ჩვენი განადგურება შეუძლია", - წერს ჯეიკობი თავის განცხადებებში.
კოქსონმა ასევე აღნიშნა, რომ OpenAI-ში ბევრს ჯერ კიდევ არ აქვს გააზრებული საკუთარი საქმიანობის "ცივილიზაციური მასშტაბის პასუხისმგებლობა". თუმცა, მისი თქმით, მიუხედავად იმისა რომ Anthropic-ში არსებულ რისკებს უკეთ აცნობიერებენ, კომპანია ასევე ჩაბმულია მწვავე კონკურენტულ რბოლაში.
"პრესასთან ურთიერთობისას ბევრი ხელმძღვანელი თუ წამყვანი მკვლევარი ფრაზებს ფრთხილად არჩევს, ისე რომ ისინი გონივრულად ჩანდეს, თუმცა პირად საუბრებში მათგან იმავე შიშებს ვისმენ, რასაც მე ვახმოვანებ. კაცობრიობის არცერთი საქმიანობა ასეთი მასშტაბის საფრთხეს არ შეიცავს", - დასძენს მკვლევარი.
ე.წ. სუპერინტელექტი არის ხელოვნური ინტელექტის ის ჰიპოთეზური ზღვარი, როდესაც AI შესაძლებლობებით ყველა შესაძლო სფეროში მომუშავე ყველაზე ნიჭიერ ადამიანსაც კი აჭარბებს. ბევრი მკვლევრის აზრით, ეს კაცობრიობისთვის ეგზისტენციალურ საფრთხეს წარმოადგენს.
ბოლო პერიოდში, განსაკუთრებით რამდენიმე ხმაურიანი ინციდენტის შემდეგ. მნიშვნელოვნად გაიზარდა შეშფოთება იმის გამო, რომ ტექნოლოგიამ შესაძლოა ადამიანის კონტროლის ფარგლებს დააღწიოს თავი. ივლისში OpenAI-მ განაცხადა, რომ მისმა ერთ-ერთმა მოდელმა AI სტარტაპი Hugging Face გატეხა, მიუხედავად იმისა, რომ "მკაცრად იზოლირებულ გარემოში" იმყოფებოდა. ამ ფაქტის შემდეგ Anthropic-მა და Meta-მაც აღიარეს, რომ უსაფრთხოების ტესტირების დროს კონტროლიდან მათი სისტემებიც გამოვიდნენ.