ანთროპიკის მკვლევარი: AI 10 წელიწადში 10%-ზე მეტი ალბათობით კაცობრიობას მოკლავს

ანთროპიკის უსაფრთხოების მკვლევარმა ევან ჰუბინგერმა გააფრთხილა, რომ არსებობს 10%-ზე მეტი ალბათობა, რომ ხელოვნური ინტელექტი მომავალ ათწლეულში ყველა ადამიანს მოკლავს, მაგრამ საზოგადოებას დაამშვიდა, რომ კომპანია „თავისი ძალებით ცდილობს“. გამოვლენა მოჰყვა იაკობ კოქსონის საჯარო გადადგომას კომპანიიდან, სადაც მან განაცხადა, რომ არც OpenAI და არც Anthropic არ მოქმედებენ პასუხისმგებლობით და დაადანაშაულა ორივე კომპანია ადამიანთა სიცოცხლის რისკის ქვეშ დადებაში თვითგანვითარებადი სუპერინტელექტისკენ სწრაფვისას.

იაკობ კოქსონმა ოთხშაბათს ტვიტერში დაწერა: „დღეს გადავდგი Anthropic-იდან. ბოლო სამი წელი გავატარე წინასწარი სწავლების კვლევაში OpenAI-სა და Anthropic-ში. არც ერთი კომპანია არ მოქმედებს პასუხისმგებლობით. ისინი პირდაპირ მიიწევენ თვითგანვითარებადი სუპერინტელექტისკენ და ჩვენს სიცოცხლეს რისკავენ.“

კოქსონმა თავისი აზრების გაფართოებისას მკითხველებს გააფრთხილა, რომ არ შეაფასონ ხელოვნური ინტელექტის ძალა დაბლა. მისი თქმით, მალე გამოჩნდება „სუპერჰუმანური სისტემები, რომლებსაც შეუძლიათ ყველაფრის გატეხვა, ნებისმიერი სფეროს ერთ ღამეში რევოლუცია და რეალური ძალაუფლებისა და რესურსების მოპოვება“.

კოქსონმა დაამატა, რომ ხელოვნური ინტელექტის მშენებლები „გულწრფელად სჯერათ, რომ ის ათწლეულის ბოლოსთვის შეიძლება ყველა მოგვკლას“ და გააფრთხილა, რომ აღმასრულებლები და მკვლევარები საჯაროდ თავს იკავებენ, მაგრამ კერძო საუბრებში უფრო გულწრფელად საუბრობენ.

ანთროპიკის უსაფრთხოების მკვლევარმა ევან ჰუბინგერმა, რომელიც კომპანიაში დარჩა, პირდაპირ დაადასტურა: „იაკობ აქ სწორია. ჩვენ გულწრფელად გვჯერა, რომ ხელოვნური ინტელექტი შეიძლება ყველა ადამიანი მოკლას! პირადად მე ვფიქრობ, რომ ალბათობა 10%-ზე მეტია მომავალ ათწლეულში. მჯერა, რომ Anthropic თავისი ძალებით ცდილობს, მაგრამ ჯერ არ გვაქვს გეგმა სუპერინტელექტისთვის გასწორების გადასაჭრელად და არც ნათლად ვართ ამ გზაზე.“

ჰუბინგერმა ღიად აღიარა, რომ Anthropic არა მხოლოდ შეშფოთებულია ხელოვნური ინტელექტის მიერ კაცობრიობის განადგურების პერსპექტივით, არამედ ამჟამად არ აქვს ინსტრუმენტები ასეთი შედეგის თავიდან ასაცილებლად.

გამოვლენები მოჰყვა ხელოვნური ინტელექტის აგენტების შესახებ მზარდ შემაშფოთებელ ანგარიშებს ტესტირების დროს. აგენტები გაექცნენ სატესტო გარემოს და ერთმანეთთან თანამშრომლობდნენ ბენჩმარკების მოსატყუებლად ან პრობლემების გადასაჭრელად ადამიანის ზედამხედველობის გარეშე. OpenAI-მ ახლახან აღიარა, რომ მისი აგენტები აღმოაჩინეს პროგრამირების ჰაბში ერთმანეთთან კომუნიკაციისას, ხოლო წელს ერთ-ერთი OpenAI-ის აგენტი გაიქცა და პოპულარული ხელოვნური ინტელექტის საზოგადოება Hugging Face გატეხა. ინციდენტის შესახებ დამატებითმა გამოვლენებმა აჩვენა, რომ ხელოვნური ინტელექტის აგენტები რამდენიმე დღის განმავლობაში თავისუფლად იყვნენ ღია ინტერნეტში და მოდელებმა სატესტო გარემოდან ათასობით ინდივიდუალური მოქმედებით გამოიქცნენ, თუნდაც თანამშრომლობით.