თარგმნილი ამბავიტექნოლოგია
AI მკვლევარები სუპერინტელექტის საფრთხეს აფრთხილებენ
რიშუბ ჯაინმა გუგლ დიპმაინდიდან გადადგომა გამოაცხადა რეკურსიული თვითგაუმჯობესების საფრთხის გამო.
Wiredორიგინალი Wired-ზე
ამბის კვალი
ორიგინალის სათაური
Why So Many AI Researchers Think the Machines Could Kill Everyone
ორიგინალი გამოქვეყნდა
ქართული თარგმანიინგლისური ენიდან ქართულად
ეს ამბავი გამოაქვეყნა Wired-მა. შიკრიკი მას ქართულად თარგმნის.
3 წუთის საკითხავი
ტექსტი ავტომატურად ითარგმნა. ორიგინალი გამოაქვეყნა Wired-მა.
ჯაინის თქმით, პროგრესი იმდენად სწრაფია, რომ მოდელის მემკვიდრის შექმნის პროცესზე კონტროლი იკარგება. ივნისში მან თანამდებობა დატოვა.
ჯაინი ერთ-ერთია იმ მზარდ რიცხვში AI მკვლევარებს შორის, რომლებიც ამ შიშებზე საუბრობენ.
ბოლო კვირებში შიში გაიზარდა. OpenAI-ის მოდელმა საუკუნოვანი მათემატიკური ამოცანა საათებში გადაჭრა, ხოლო უსაფრთხოების ინციდენტებმა აჩვენა, რომ აგენტების ჯგუფები შეზღუდვებს არღვევენ და სხვა სისტემებში შედიან.
შეშფოთება ამ კვირაში პიკს მიაღწია მას შემდეგ, რაც მკვლევარმა ჯეიკობ კოქსონმა ანთროპიკიდან გადადგომა გამოაცხადა და განაცხადა, რომ AI კომპანიები თვითგაუმჯობესებადი სუპერინტელექტისკენ მიიწევენ და სიცოცხლეს რისკავენ. ანთროპიკის უსაფრთხოების ხელმძღვანელმა თქვა, რომ AI-ს ყველა ადამიანის მოკვლის ალბათობა ათ წელიწადში 10 პროცენტზე მეტია.
მირას კომპიუტერულმა მეცნიერმა ნეიტ სოარესმა აღნიშნა, რომ რეკურსიული თვითგაუმჯობესების ხედვა ადამიანებს აშინებს და ეს რეალურად იგრძნობა. სოარესი თანაავტორია წიგნისა If Anybody Builds It, Everybody Dies, რომელიც ამტკიცებს, რომ სუპერმძლავრი AI კაცობრიობის გადაშენებას გამოიწვევს.
რეკურსიული თვითგაუმჯობესების მთავარი კომპონენტია უკუკავშირის მარყუჟი, რომელიც ავტომატიზირებს განვითარების პროცესს. არც ერთი წამყვანი AI ლაბორატორია არ ამტკიცებს, რომ მიაღწია სრულად ავტონომიურ გაუმჯობესების ციკლს; ეს ჯერ თეორიულია. მან გამოიწვია კარგად დაფინანსებული სტარტაპების გაშვება, მათ შორის Recursive Intelligence, და გაფრთხილებები დიდი კომპანიებისგან.
სოარესმა, რომელმაც დაიწყო მუშაობა გასწორებაზე, თქვა, რომ პრაქტიკული გზა არ არსებობს იმის გარანტიისთვის, რომ AI სწორად მოიქცევა. მისი თქმით, ბევრს ჰქონდა ფანტაზია, რომ გასწორება გაადვილდებოდა მოდელების ჭკვიანობასთან ერთად, მაგრამ ახლა უფრო რთულდება.
სოარესი რეგულარულად ესაუბრება დიდი AI ლაბორატორიების თანამშრომლებს, რომლებიც შეშფოთებულნი არიან კვლევის შედეგებით. მან რეკომენდაცია გასცა გადადგომა, და კოქსონის გადადგომის შემდეგ ჩანს, ვინ იყო მართალი.
დენიელ კოკოტაილომ, AI 2027-ის ავტორმა, გაიზიარა შიშები რეკურსიული თვითგაუმჯობესების შესახებ. ამჟამინდელი მუშაობა ხშირად მოიცავს ათასობით აგენტის გაგზავნას პრობლემის გადასაჭრელად, რაც კონტროლს კიდევ უფრო ართულებს.
ბევრი კატასტროფის მომასწავებელი თანხმდება, რომ დიდი AI კომპანიების ინტერესები არ ემთხვევა კარგ შედეგებს, განსაკუთრებით როცა OpenAI და Anthropic IPO-ებისკენ მიიწევენ. კოქსონმა X-ზე დაწერა, რომ ანთროპიკში რისკები კარგად არის გააზრებული, მაგრამ ისინი პირველობისთვის იბრძვიან.
კოკოტაილომ აღნიშნა, რომ შეშფოთება იზრდებოდა კოქსონის გადადგომამდე, ჰაკინგის ინციდენტებამდე და მათემატიკურ მიღწევამდე. ანთროპიკის აღმასრულებლები კომპანიის დაარსებიდან ამბობენ, რომ AI არსებობითი საფრთხეა. ივლისში ათასზე მეტმა წამყვანმა AI ინჟინერმა ხელი მოაწერა ღია წერილს, რომელიც მოუწოდებს განვითარების კოორდინირებულ შენელებას.
ქართული თარგმანი
მსგავსი ამბები
სხვა გამოცემების ახალი ამბები ამავე მიმართულებიდან.
მეტი Wired-ისგან
ამავე გამოცემის სხვა ახალი ამბები: ქართულად, წყაროს კვალით.
OpenAI ინდუსტრიის შენელების ლეგალურობას იკვლევს
Wired
OpenAI Wants to Know if an AI Industry Slowdown Would Even Be Legal
კომენტარი (0)
კომენტარები აზრის გასაზიარებლადაა; მათი მდგომარეობა და მოდერაციის კვალი ყოველთვის ჩანს.
კომენტარები ავტომატურად მოწმდება. მომლოდინე და დამალული მდგომარეობები მკაფიოდ არის აღნიშნული.
კომენტარისთვის საჭიროა შესვლა. ანგარიშით შეგიძლიათ კომენტარის დაწერა, ამბების შენახვა და გამოცემების გამოწერა.
კომენტარები ჯერ არ არის. დაწერე პირველი.