კომპანია Anthropic-მა განაცხადა, რომ AI-ს მეშვეობით ბიოლოგიური იარაღის შექმნის მცდელობები აღკვეთა - რა კატასტროფულ რისკებზე საუბრობენ ექსპერტები
კომპანია Anthropic-მა ოფიციალურად განაცხადა, რომ გამოავლინა და აღკვეთა მის ხელოვნურ ინტელექტუალურ მოდელზე (Claude) განხორციელებული თავდასხმები, რომლებიც ბიოლოგიური იარაღის შექმნის მცდელობებს უკავშირდებოდა. Threat Intelligence-ის უახლეს ანგარიშში აღწერილი ეს ფაქტი AI-ის მკვლევართა იმ საგანგაშო გაფრთხილებების სერიას ემატება, რომლებიც ტექნოლოგიის მხრიდან კაცობრიობისთვის შესაძლო გლობალურ რისკებზე მიუთითებენ.
Anthropic-ის მონაცემებით, კომპანიამ დაბლოკა მეცნიერების მცდელობები, რომლებიც AI-ს ბიოლოგიური იარაღის შემუშავებისთვის იყენებდნენ. ანგარიშში ხაზგასმულია ხუთი კონკრეტული შემთხვევა, სადაც მოდელები ბიოლოგიური საფრთხის შემცველი მიზნებისთვის გამოიყენებოდა. კომპანიის წარმომადგენლების თქმით, ეს არის ხელოვნური ინტელექტის ერთ-ერთი ყველაზე სერიოზული რისკი, რადგან სათანადო უსაფრთხოების მექანიზმების გარეშე ამას შესაძლოა კატასტროფული შედეგები მოჰყვეს.
“იგივე ინფორმაცია, რაც გამოიყენება ბიოლოგიური იარაღის შესაქმნელად, შეიძლება გამოყენებულ იქნას, მაგალითად, ვაქცინის ან დაავადების სამკურნალო მედიკამენტის შესაქმნელად“, - აღნიშნავს კომპანია. Anthropic-ის საფრთხეების დაზვერვის ხელმძღვანელმა იაკობ კლაინმა გაზეთ New York Times-თან საუბრისას განაცხადა, რომ ეს უაღრესად კომპლექსური სიტუაციაა და საქმე არ გვაქვს კომიქსების ბოროტმოქმედებთან, რომლებიც პირდაპირ ყველას დახოცვას ითხოვენ.
-
რუსული და ირანული ჰაკერები, რაკეტების მართვა და ჩინური კოპირება
Anthropic-ის ხელოვნური ინტელექტის მოდელები - Claude Haiku, Sonnet და Opus, 2025 წლის დეკემბრიდან 2026 წლის აგვისტომდე პერიოდში ბოროტმოქმედთა სამიზნე გახდა. ანგარიშის თანახმად, Claude-ს იყენებდნენ რუსეთთან დაკავშირებული კიბერშპიონაჟის ჯგუფები (მათ შორის Midnight Blizzard-ის მსგავსი ჰაკერები) და ირანული პროპაგანდისტული ინსტიტუტები.
გარდა ამისა, გამოვლინდა 6 შემთხვევა, როდესაც ხელოვნურ ინტელექტს ჩვეულებრივი შეიარაღების - ცეცხლსასროლი იარაღის, რაკეტების, შეიარაღებული დრონების, ბომბებისა და მათთვის სამიზნე/მართვის სისტემების პროგრამული უზრუნველყოფის შესაქმნელად იყენებდნენ.
ბოლო 8 თვის განმავლობაში გამოვლენილი დარღვევები მოიცავდა ყალბ გაცნობის აპლიკაციებს, სასტუმროს Wi-Fi თაღლითობებს, დისიდენტების სათვალთვალო სისტემებსა და ჩინური კომპანიების მცდელობებს, დაეკოპირებინათ Claude-ს შესაძლებლობები ე.წ. “დისტილაციის“ გზით.
აღსანიშნავია, რომ მსგავსი პრობლემის წინაშე დგას Google-იც. კომპანიამ განაცხადა, რომ ბოროტმოქმედმა სცადა Gemini-ს გამოყენება, რათა მიეღო სრული, ეტაპობრივი ინსტრუქცია საბრძოლო ბიოლოგიური აგენტების სინთეზისთვის.
-
“შეანელეთ პროცესი!“ - პოლიტიკოსებისა და მეცნიერების განგაში
საფრთხეების ზრდამ პოლიტიკური რეაქციებიც გამოიწვია. ამერიკელმა სენატორმა ბერნი სანდერსმა საკანონმდებლო ინიციატივით მოითხოვა მოწინავე AI სისტემების განვითარების დროებით შეჩერება და სუპერინტელექტის აკრძალვა.
“როდესაც მეცნიერები გეუბნებიან, რომ არსებობს კატაკლიზმური გავლენის შანსი, სულელი უნდა იყოთ, რომ არ თქვათ: შეანელეთ ეს პროცესი“, - განაცხადა მან BBC-ის გადაცემა Newsnight-ში.
აშშ-ის პრეზიდენტმა დონალდ ტრამპმა კი მსგავსი შიშები უარყო და აღნიშნა, რომ მისი მთავარი საზრუნავია “თუ ჩვენ ვერ გავიმარჯვებთ AI-ის რბოლაში, ძალიან ცუდ პოზიციაში აღმოვჩნდებით“.
ვითარებას კიდევ უფრო ამძაფრებს Anthropic-ის წამყვანი მკვლევრის გაფრთხილება, რომლის მიხედვითაც არსებობს 10%-ზე მეტი შანსი იმისა, რომ ხელოვნურმა ინტელექტმა “მომდევნო ათწლეულში მთელი კაცობრიობა გაანადგუროს“. OpenAI-ის მთავარმა მეცნიერმა იაკუბ პახოცკიმ კი ინდუსტრიას “ნებაყოფლობითი შენელებისკენ“ მოუწოდა.
იხილეთ ასევე: