ჩრდილოეთ კორეის რაკეტის გაშვების შემდეგ აშშ მოკავშირეებს მხარდაჭერას დაჰპირდა

Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ ხელოვნური ინტელექტის სწრაფ განვითარებას „განგაშის სიგნალი“ უწოდა და უსაფრთხოების ზომები მოითხოვა. მან CBS News-თან ინტერვიუში განაცხადა, რომ ინდუსტრია სწრაფად აღმავალ „მრუდზეა“.

ამოდეის თქმით, თუ განვითარება არ შენელდება, 6-12 თვეში ხელოვნურმა ინტელექტმა შეიძლება აგენტების ჯგუფი მართოს. ასეთ ჯგუფს, როგორც მან ადრე განაცხადა, მთელი ინტერნეტის ხელში ჩაგდება შეეძლება. ამიტომ კომპანიებს მოუწოდა, ტექნოლოგია უფრო ნელა და მეტი სიფრთხილით განავითარონ. წინადადებას, რომელიც რისკების თავიდან აცილებას ემსახურება, ილონ მასკმა და სემ ალტმანმა მხარი დაუჭირეს.

ამოდეიმ სამპუნქტიანი გეგმა წარმოადგინა, რომელიც შიდა შემფასებლებს, დემოკრატიულ და გლობალურ კოორდინაციას მოიცავს. მან განაცხადა: „ეს არ ნიშნავს, რომ ყველაფერი უნდა შევაჩეროთ“.

გერმანიის დროით შაბათს, Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ ხელოვნური ინტელექტის მოწინავე მოდელების განვითარების შენელება მოითხოვა. OpenAI-ის ხელმძღვანელმა სემ ალტმანმა ინიციატივას მხარი დაუჭირა, ხოლო იგივე ნაბიჯს Google-იც შეუერთდა.

ამოდეის აზრით, შენელება აუცილებელია, რათა უსაფრთხოების ზომებმა სწრაფად გაძლიერებულ მოდელებს დაწევა შეძლოს. წინააღმდეგ შემთხვევაში, კაცობრიობას ექვსიდან 12 თვემდე დარჩება, ვიდრე ტექნოლოგია კონტროლს გასცდება. საფრთხე განსაკუთრებით გაიზარდა, რადგან სისტემები საკუთარი შემცვლელების შექმნასა და გაუმჯობესებას უკვე სწავლობენ. გადაწყვეტილება კომპანიებისთვის მეტ გამჭვირვალობას ნიშნავს, თუმცა მათი პროგრესი შენელების შემდეგაც სწრაფი დარჩება.

Anthropic დამოუკიდებელ შემმოწმებლებს დაუშვებს, რომლებიც პროგრამებს კომპანიის შიდა გუნდების მსგავსი წვდომით შეაფასებენ. შედეგების გამოქვეყნებას კომპანიის სარედაქციო კონტროლი არ შეზღუდავს, ხოლო ამოდეი საერთო საერთაშორისო სტანდარტებსაც მოითხოვს. ევან ჰიუბინგერმა დაწერა, რომ უკონტროლო თვითგანვითარებადი ტექნოლოგიის მიერ კაცობრიობის განადგურების ალბათობა 10%-ია.