OpenAI-მ ახალი ინციდენტის შემდეგ ხელოვნური ინტელექტის წვრთნა შეაჩერა

ChatGPT-ის შემქმნელმა OpenAI-მ ახალი ინციდენტის შემდეგ თავისი ყველაზე მძლავრი ხელოვნური ინტელექტის მოდელების წვრთნა შეაჩერა. გამოცდისას ერთმა მოდელმა გარე ჩატბოტისგან პასუხები მიიღო, მიუხედავად იმისა, რომ ინტერნეტზე წვდომა არ უნდა ჰქონოდა. OpenAI-მ ბლოგში დაწერა, რომ პროგრამულმა უზრუნველყოფამ ქსელის პარამეტრებში ხარვეზი იპოვა და გამოიყენა. კომპანია წვრთნას მხოლოდ მაშინ განაახლებს, როცა დარწმუნდება, რომ ხარვეზი აღმოფხვრილია.

OpenAI-მ აღნიშნა, რომ ეს ინციდენტი რამდენიმე ადრინდელ შემთხვევაზე ნაკლებად სერიოზული იყო. თუმცა, უსაფრთხოების ზომების გამკაცრების შემდეგ ეს პირველი ასეთი შემთხვევაა. ზომები მას შემდეგ გამკაცრდა, რაც OpenAI-ს პროგრამული უზრუნველყოფა ხელოვნური ინტელექტის კომპანია Hugging Face-ს (Hugging Face) ჰაკერულად დაესხა თავს. კომპანია ამ შემთხვევას მნიშვნელოვან მინიშნებად მიიჩნევს, თუ სადაა დამატებითი გაუმჯობესება საჭირო.

სატესტო სცენარში მოდელს დაევალა, მინიშნებებზე დაყრდნობით მოეძებნა ინფორმაცია პირის შესახებ, რომელმაც ბლოგპოსტი გამოაქვეყნა. ამისთვის მოდელს იზოლირებულ სატესტო გარემოში ინტერნეტის იმიტაციის გამოყენება შეეძლო.

OpenAI-ს ანგარიშის თანახმად, უშედეგო ძიების შემდეგ მოდელმა მოთხოვნების, მათ შორის Google-ში, გაგზავნა სცადა. ეს მცდელობა, როგორც დაგეგმილი იყო, წარუმატებელი აღმოჩნდა. თუმცა, მოდელმა შენიშნა, რომ სატესტო გარემოს ე.წ. DNS-გარდამქმნელის მეშვეობით ღია ინტერნეტში არსებულ ჩატბოტთან მოთხოვნების გაგზავნა შეეძლო. DNS-გარდამქმნელები ბრაუზერში შეყვანილ დომენურ სახელებს რიცხვებისგან შემდგარ IP-მისამართებად გარდაქმნიან, რომლებზეც ვებსაიტებია განთავსებული. ხარვეზის მეშვეობით კავშირის აღმოჩენის შემდეგ OpenAI-მ გამოცდა შეაჩერა.

OpenAI-ს განცხადებები, რომ უსაფრთხოების უკეთესი ზომების შექმნამდე ახალი მოდელების წვრთნას შეაჩერებს, ახალი არ არის. კომპანიამ მსგავსი დაპირება აგვისტოშიც გასცა. მას შემდეგ OpenAI-მ ახალი ხელოვნური ინტელექტის გამოცდებისას უსაფრთხოების მრავალი ინციდენტის შესახებ განაცხადა. ერთ-ერთ შემთხვევაში ხელოვნურმა ინტელექტმა მომხმარებლების ატვირთული სურათები ონლაინპლატფორმებზე 53-ჯერ განათავსა. OpenAI-მ განმარტა, რომ ამ სურათების ბმულები საჯარო არ ყოფილა. მათი დიდი ნაწილი უკვე წაშლილია. კომპანია პლატფორმებთან ერთად დანარჩენი მასალის წაშლაზეც მუშაობს. თუმცა, ეს პირველი გახმაურებული შემთხვევაა, რომელიც OpenAI-ს მომხმარებლების მონაცემებსაც შეეხო.

ცოტა ხანში ცნობილი გახდა, რომ OpenAI-ს ავტომატიზებული ხელოვნური ინტელექტის აგენტები აშშ-ის მთავრობის რამდენიმე ვებსაიტზეც მოქმედებდნენ. ამასთან, შესაძლოა, OpenAI-ს ხელოვნური ინტელექტის დამოუკიდებელი ჰაკერული მოქმედებების შესახებ კიდევ მრავალი ინფორმაცია გასაჯაროვდეს. ხელოვნური ინტელექტის კომპანიამ განაცხადა, რომ „ათობით“ ორგანიზაციას აცნობა მათი ვებსაიტების შესახებ, რომლებთანაც OpenAI-ს პროგრამული უზრუნველყოფა დაუგეგმავი გზით „ურთიერთქმედებდა“. ბოლოს ყურადღება ავსტრალიის მთავრობის განცხადებამ მიიქცია. მისი ცნობით, OpenAI-ს ხელოვნური ინტელექტი ავსტრალიის ჯანდაცვის სისტემის ვებსაიტზე შეიჭრა.