Anthropic: უსაფრთხოების გარეშე AI ინტერნეტს 6-12 თვეში გააკონტროლებს

ხელოვნური ინტელექტი „ექსპონენციალური“ ტემპით ვითარდება. Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ (Dario Amodei) ვითარებას სექტორისთვის „განგაშის სიგნალი“ უწოდა და უსაფრთხოების ზომების გატარება მოითხოვა. როგორც მან ადრეც აღნიშნა, შენელების გარეშე, 6-12 თვეში ხელოვნურ ინტელექტს აგენტების გუნდის მართვა შეეძლება. ამ აგენტებს მთელი ინტერნეტის გაკონტროლება შეეძლებათ. ამოდეიმ CBS News-თან ინტერვიუში აღიარა: „არა მგონია, სრულად გამეაზრებინა, რას ნიშნავდა სინამდვილეში ასეთი სწრაფი პროგრესი“. ინტერვიუ გადაცემაში CBS News Sunday Morning გავა, მანამდე კი მისი ნაწყვეტი გავრცელდა.

ამოდეიმ ხელოვნური ინტელექტის განვითარება შემდეგი ტიპის პროგრესიად აღწერა: „ერთი, შემდეგ ორი, შემდეგ ოთხი, შემდეგ რვა, შემდეგ 16, შემდეგ 32“. მისი თქმით, ამჟამად ყველა „მრუდზეა“ და ის „ციცაბო ხდება“. იტალო-ამერიკელმა ხელმძღვანელმა განაგრძო: „ეს არ ნიშნავს, რომ დღეს პანიკამ უნდა შეგვიპყროს. ეს არ ნიშნავს, რომ ყველაფერი უნდა შევაჩეროთ“. თუმცა, მან დასძინა: „ეს განგაშის სიგნალია: უნდა შევანელოთ“. ამოდეიმ აღნიშნა, რომ ტექნოლოგიას ისეთი უსაფრთხოების ზომები სჭირდება, რომლებიც „თავად ტექნოლოგიის განვითარების სიჩქარეს“ ფეხს აუწყობს. ინტერვიუმდე რამდენიმე საათით ადრე გამოქვეყნებულ ბლოგპოსტში მან ხელოვნური ინტელექტის კომპანიებს მოუწოდა, ტექნოლოგია უფრო ნელა და მეტი სიფრთხილით განავითარონ. მან ხაზი გაუსვა, რომ რისკების პრევენცია უმნიშვნელოვანესია. წინადადებას SpaceX-ის ილონ მასკმა და OpenAI-ის სემ ალტმანმა დაუყოვნებლივ დაუჭირეს მხარი. ამოდეიმ სამპუნქტიანი გეგმა ჩამოაყალიბა, რომლის მიზანი, მისი განმარტებით, „ტექნოლოგიური საზღვრის წინსვლის ტემპის მართვაა“. პირველი პუნქტი შიდა შემფასებლებს, მეორე დემოკრატიულ კოორდინაციას, მესამე კი გლობალურ კოორდინაციას ეხება. ამოდეიმ ბლოგპოსტში დაწერა: „თუ მას ფრთხილად ვმართავთ, ხელოვნური ინტელექტი შეიძლება უკანასკნელი გახდეს ტექნოლოგიური სასწაულების გრძელ რიგში, რომლებმაც კაცობრიობა აამაღლა და გააკეთილშობილა“. მან დასძინა: „მაგრამ, მრავალი წინა ტექნოლოგიის მსგავსად, ის რისკებს შეიცავს და, რადგან ასეთი ძლიერი ტექნოლოგიაა, ეს რისკები სერიოზულია“.

დონალდ ტრამპმა გააკრიტიკა „ნეგატიური ძალები“, რომლებსაც ხელოვნური ინტელექტის განვითარების შენელება სურთ. აშშ-ის პრეზიდენტმა ეს მას შემდეგ თქვა, რაც სექტორის ამერიკულმა გიგანტებმა განვითარების შენელების საჭიროებაზე გააფრთხილეს. მათი მიზანი ხელოვნური ინტელექტის ადამიანის კონტროლიდან გასვლის თავიდან აცილებაა.