OpenAI-მ ახალი სავარჯიშო გარემო წარადგინა

ხელოვნური ინტელექტის დამოუკიდებელი ჰაკერული თავდასხმების შემდეგ, ChatGPT-ის შემქმნელი OpenAI ყველაზე მძლავრი ხელოვნური ინტელექტის მოდელების ინტერნეტის გარეშე გაწვრთნას აპირებს. OpenAI-ის ბლოგპოსტში განმარტეს, რომ არსებული კონტროლის სისტემებისა და ინტერნეტუსაფრთხოების პირობებში ამას პასუხისმგებლიან მიდგომად მიიჩნევენ.

ბოლო კვირებში OpenAI-ის ხელოვნური ინტელექტის აგენტების თვითნებურმა მოქმედებებმა ტექნოლოგიის რისკების შესახებ დებატები არაერთხელ გაამწვავა. ყველაზე გახმაურებულ შემთხვევისას ChatGPT-ის შემქმნელის ხელოვნური ინტელექტი დაცული სატესტო გარემოდან გამოვიდა და დაუგეგმავად შეაღწია სხვა ხელოვნური ინტელექტის კომპანიის, Hugging Face-ის (Hugging Face) პლატფორმის კომპიუტერებში. მოგვიანებით გაირკვა, რომ სხვა კომპანიების სისტემებში ტესტირებისას სხვა დეველოპერების ხელოვნური ინტელექტიც შეიჭრა, მათ შორის OpenAI-ის კონკურენტ Anthropic-ის, Google-ისა და Facebook-ის მფლობელ Meta-ს მოდელები.

OpenAI-ის თქმით, მოდელებმა მაინც უნდა ისწავლონ ინტერნეტში ინფორმაციის მოძიება და ვებაპლიკაციებთან მუშაობა. ამიტომ კომპანიამ წვრთნისთვის ააგო „ოფლაინ სამყარო“, სადაც ვებგვერდების შინაარსი შეინახა. ყველა მოწინავე მოდელს ახლა ამ მეთოდით წვრთნიან. Hugging Face-თან დაკავშირებული შემთხვევის შემდეგ OpenAI-მ უსაფრთხოების დამატებითი მექანიზმები უკვე დანერგა. თუმცა გაირკვა, რომ ყველაზე უნარიანმა მოდელებმა ამ მექანიზმებშიც რამდენიმე ხარვეზი იპოვეს. ამიტომ მათი წვრთნა დროებით შეჩერდა.

ამის მიზეზი გახდა შემთხვევა, როცა ტესტირებისას ხელოვნური ინტელექტის მოდელმა გარე ჩატბოტისგან პასუხების მიღება შეძლო, მიუხედავად იმისა, რომ ინტერნეტთან წვდომა არ უნდა ჰქონოდა. OpenAI-მ აღიარა, რომ არსებული დაცვის ინფრასტრუქტურის საფუძვლიანი სტრეს-ტესტირებისას, ხელოვნური ინტელექტის გამოყენებით, მანამდე უცნობი პროგრამული ხარვეზები და კონფიგურაციის შეცდომები აღმოაჩინეს. კომპანიის ცნობით, გამოსასწორებელი ზომების მიღების შემდეგ მოწინავე მოდელების წვრთნა 1 ოქტომბერს, 11-დღიანი პაუზის შემდეგ განახლდა.

ბლოგპოსტში OpenAI-მ აჩვენა სტრუქტურული სქემა, რომლის მიხედვითაც წვრთნის გარემოს ინფრასტრუქტურა ინტერნეტისგან გამიჯნულია. თუმცა ტექსტში კომპანია წერს, რომ ქვიშის ყუთის ფიზიკური იზოლაცია, ანუ აირ-გეპი, „ამჟამად განხორციელებადი არ არის, რადგან ექსპერიმენტების ჩასატარებლად და მათზე დასაკვირვებლად გარე კავშირები გვჭირდება“. ამის ნაცვლად, სხვა ზომებთან ერთად, ხელოვნური ინტელექტის აგენტებს Linux-ის გარემოში „მიკრო-ვირტუალურ მანქანებში“ მოაქცევენ, რომლებსაც ცალკეული ჰიპერვაიზორები აკონტროლებს.

თუმცა წინა ტესტების დროს აგენტები ამ მიკრო-ვირტუალური მანქანებიდანაც გამოვიდნენ. OpenAI-ის ცნობით, მათ აპარატურაზე გვერდითი არხის შეტევები გამოიყენეს. ასეთი შეტევები 2018 წლიდან, Spectre-ისა და Meltdown-ის მეთოდების აღმოჩენის შემდეგ გამოიყენება. თანამედროვე პროცესორებსა და ოპერაციულ სისტემებში ამგვარი შეტევებისგან დაცვის გარკვეული მექანიზმები გაძლიერებულია. თუმცა სპეკულაციური ბრძანებების შესრულების ძირითადი პრობლემა, რომელსაც ეს მეთოდები იყენებს, თანამედროვე ცენტრალური პროცესორების სისწრაფის საფუძვლად კვლავ რჩება.