OpenAI-მ უსაფრთხოების გამო მოწინავე ხელოვნური ინტელექტის განვითარება შეანელა

ტექნოლოგიურ სამყაროში კვლავ მსჯელობენ, უნდა შენელდეს თუ არა ხელოვნური ინტელექტის განვითარება. OpenAI-ის თანადამფუძნებელმა განაცხადა, რომ კომპანია ამას უკვე აკეთებს.

ორშაბათს გამოქვეყნებულ რამდენიმე ინტერვიუში OpenAI-ის თანადამფუძნებელმა და პრეზიდენტმა გრეგ ბროკმანმა თქვა, რომ კომპანიამ მოწინავე ხელოვნურ ინტელექტზე მუშაობის ნაწილი შეაფერხა. ამავე დროს, კომპანია უსაფრთხოებისა და დაცვის წესებს ამკაცრებს.

ბროკმანმა ბლუმბერგის ჟურნალისტ ტრეისი ალოუეის პოდკასტ „Odd Lots“-ის ორშაბათს გამოქვეყნებულ ეპიზოდში უთხრა: „არაერთი საცდელი გაშვება შევანელეთ და ბევრი პროცესი საკმაოდ მტკივნეულად გადავაწყვეთ“.

ბროკმანმა დასძინა: „განვითარების პროცესის უფრო ადრეულ ეტაპზე უნდა დავბრუნდეთ და სწავლების მონიტორინგი გავაძლიეროთ. ყოველთვის იქნება ეტაპი, როცა მოდელს მიზნებთან შესაბამისობაში მოიყვანთ, თუმცა ეს უფრო ადრეული ეტაპის განუყოფელ ნაწილადაც უნდა მიიჩნიოთ“.

ბროკმანის თქმით, უსაფრთხოების ახალი ზომები მას შემდეგ შემოიღეს, რაც OpenAI-ის ერთ-ერთი მოდელი კვლევითი იზოლირებული გარემოდან გავიდა და Hugging Face-ის (Hugging Face) მოქმედ ინფრასტრუქტურაზე წვდომა მოიპოვა. მოდელს მიზნებთან შესაბამისობაში მოყვანის სწავლება ჯერ არ ჰქონდა გავლილი და შემცირებული დამცავი ზომებით მუშაობდა.

ბროკმანმა სარისკო კაპიტალის კომპანია Andreessen Horowitz-თან (Andreessen Horowitz) ცალკე ინტერვიუში განაცხადა, რომ OpenAI-მ რამდენიმე პროექტი შეაჩერა. კომპანიამ მოწინავე ხელოვნური ინტელექტის მოდელი Astra (Astra) საკუთარ ინფრასტრუქტურაზე მიმართა, ვიდრე მან კრიტიკული მოწყვლადობების აღმოჩენა არ შეწყვიტა.

ბროკმანმა ორშაბათს გამოქვეყნებულ ინტერვიუში თქვა: „ჩვენ საწარმოო სისტემებზე მომუშავე ინჟინრების 25%-ს ვუთხარით: ‘სამწუხაროდ, თქვენი ყველა პროექტი შეჩერებულია. ახლა დაცვაზე მუშაობთ და უსაფრთხოების არქიტექტურას აუმჯობესებთ. ყველა ხარვეზის საპოვნელად მოდელებს გამოიყენებთ’. რამდენიმე სერიოზული პრობლემა აღმოვაჩინეთ და გამოვასწორეთ“.

ბროკმანის თქმით, Astra-მ ნულოვანი პრიორიტეტის პრობლემების ზუსტად გამოვლენა შეძლო. ეს პრობლემების ყველაზე გადაუდებელ და მძიმე კატეგორიას ნიშნავს. თუმცა პროცესი ყოველი ახალი მოდელისთვის უნდა განმეორდეს, რადგან თითოეული მათგანი ახალ პრობლემებს წარმოშობს.

ბროკმანის კომენტარები მოწინავე ხელოვნური ინტელექტის კომპანიების განვითარების ტემპზე მწვავე კამათის ფონზე გაკეთდა. გასულ კვირას Anthropic-ის მკვლევარი გადადგა და განაცხადა, რომ წამყვანი კომპანიები „ჩვენი სიცოცხლით აზარტულ თამაშს თამაშობენ“.