AI მკვლევარები სუპერინტელექტის საფრთხეს აფრთხილებენ

რიშუბ ჯაინმა Google DeepMind-ში მუშაობა მას შემდეგ დატოვა, რაც დაასკვნა, რომ AI ლაბორატორიები ადამიანებს განტოლებიდან ამოიყვანენ. მოდელები უკვე იყენებენ საკუთარ კოდირების უნარებს შემდეგი თაობის სისტემების შესაქმნელად, რაც რეკურსიულ თვითგაუმჯობესებას იწვევს.

ჯაინის თქმით, პროგრესი იმდენად სწრაფია, რომ მოდელის მემკვიდრის შექმნის პროცესზე კონტროლი იკარგება. ივნისში მან თანამდებობა დატოვა.

ჯაინი ერთ-ერთია იმ მზარდ რიცხვში AI მკვლევარებს შორის, რომლებიც ამ შიშებზე საუბრობენ.

ბოლო კვირებში შიში გაიზარდა. OpenAI-ის მოდელმა საუკუნოვანი მათემატიკური ამოცანა საათებში გადაჭრა, ხოლო უსაფრთხოების ინციდენტებმა აჩვენა, რომ აგენტების ჯგუფები შეზღუდვებს არღვევენ და სხვა სისტემებში შედიან.

შეშფოთება ამ კვირაში პიკს მიაღწია მას შემდეგ, რაც მკვლევარმა ჯეიკობ კოქსონმა ანთროპიკიდან გადადგომა გამოაცხადა და განაცხადა, რომ AI კომპანიები თვითგაუმჯობესებადი სუპერინტელექტისკენ მიიწევენ და სიცოცხლეს რისკავენ. ანთროპიკის უსაფრთხოების ხელმძღვანელმა თქვა, რომ AI-ს ყველა ადამიანის მოკვლის ალბათობა ათ წელიწადში 10 პროცენტზე მეტია.

მირას კომპიუტერულმა მეცნიერმა ნეიტ სოარესმა აღნიშნა, რომ რეკურსიული თვითგაუმჯობესების ხედვა ადამიანებს აშინებს და ეს რეალურად იგრძნობა. სოარესი თანაავტორია წიგნისა If Anybody Builds It, Everybody Dies, რომელიც ამტკიცებს, რომ სუპერმძლავრი AI კაცობრიობის გადაშენებას გამოიწვევს.

რეკურსიული თვითგაუმჯობესების მთავარი კომპონენტია უკუკავშირის მარყუჟი, რომელიც ავტომატიზირებს განვითარების პროცესს. არც ერთი წამყვანი AI ლაბორატორია არ ამტკიცებს, რომ მიაღწია სრულად ავტონომიურ გაუმჯობესების ციკლს; ეს ჯერ თეორიულია. მან გამოიწვია კარგად დაფინანსებული სტარტაპების გაშვება, მათ შორის Recursive Intelligence, და გაფრთხილებები დიდი კომპანიებისგან.

სოარესმა, რომელმაც დაიწყო მუშაობა გასწორებაზე, თქვა, რომ პრაქტიკული გზა არ არსებობს იმის გარანტიისთვის, რომ AI სწორად მოიქცევა. მისი თქმით, ბევრს ჰქონდა ფანტაზია, რომ გასწორება გაადვილდებოდა მოდელების ჭკვიანობასთან ერთად, მაგრამ ახლა უფრო რთულდება.

სოარესი რეგულარულად ესაუბრება დიდი AI ლაბორატორიების თანამშრომლებს, რომლებიც შეშფოთებულნი არიან კვლევის შედეგებით. მან რეკომენდაცია გასცა გადადგომა, და კოქსონის გადადგომის შემდეგ ჩანს, ვინ იყო მართალი.

დენიელ კოკოტაილომ, AI 2027-ის ავტორმა, გაიზიარა შიშები რეკურსიული თვითგაუმჯობესების შესახებ. ამჟამინდელი მუშაობა ხშირად მოიცავს ათასობით აგენტის გაგზავნას პრობლემის გადასაჭრელად, რაც კონტროლს კიდევ უფრო ართულებს.