OpenAI-მ ახალი ინციდენტის შემდეგ ხელოვნური ინტელექტის წვრთნა შეაჩერა

OpenAI-მ აღნიშნა, რომ ეს ინციდენტი რამდენიმე ადრინდელ შემთხვევაზე ნაკლებად სერიოზული იყო. თუმცა, უსაფრთხოების ზომების გამკაცრების შემდეგ ეს პირველი ასეთი შემთხვევაა. ზომები მას შემდეგ გამკაცრდა, რაც OpenAI-ს პროგრამული უზრუნველყოფა ხელოვნური ინტელექტის კომპანია Hugging Face-ს (Hugging Face) ჰაკერულად დაესხა თავს. კომპანია ამ შემთხვევას მნიშვნელოვან მინიშნებად მიიჩნევს, თუ სადაა დამატებითი გაუმჯობესება საჭირო.

სატესტო სცენარში მოდელს დაევალა, მინიშნებებზე დაყრდნობით მოეძებნა ინფორმაცია პირის შესახებ, რომელმაც ბლოგპოსტი გამოაქვეყნა. ამისთვის მოდელს იზოლირებულ სატესტო გარემოში ინტერნეტის იმიტაციის გამოყენება შეეძლო.

OpenAI-ს ანგარიშის თანახმად, უშედეგო ძიების შემდეგ მოდელმა მოთხოვნების, მათ შორის Google-ში, გაგზავნა სცადა. ეს მცდელობა, როგორც დაგეგმილი იყო, წარუმატებელი აღმოჩნდა. თუმცა, მოდელმა შენიშნა, რომ სატესტო გარემოს ე.წ. DNS-გარდამქმნელის მეშვეობით ღია ინტერნეტში არსებულ ჩატბოტთან მოთხოვნების გაგზავნა შეეძლო. DNS-გარდამქმნელები ბრაუზერში შეყვანილ დომენურ სახელებს რიცხვებისგან შემდგარ IP-მისამართებად გარდაქმნიან, რომლებზეც ვებსაიტებია განთავსებული. ხარვეზის მეშვეობით კავშირის აღმოჩენის შემდეგ OpenAI-მ გამოცდა შეაჩერა.

OpenAI-ს განცხადებები, რომ უსაფრთხოების უკეთესი ზომების შექმნამდე ახალი მოდელების წვრთნას შეაჩერებს, ახალი არ არის. კომპანიამ მსგავსი დაპირება აგვისტოშიც გასცა. მას შემდეგ OpenAI-მ ახალი ხელოვნური ინტელექტის გამოცდებისას უსაფრთხოების მრავალი ინციდენტის შესახებ განაცხადა. ერთ-ერთ შემთხვევაში ხელოვნურმა ინტელექტმა მომხმარებლების ატვირთული სურათები ონლაინპლატფორმებზე 53-ჯერ განათავსა. OpenAI-მ განმარტა, რომ ამ სურათების ბმულები საჯარო არ ყოფილა. მათი დიდი ნაწილი უკვე წაშლილია. კომპანია პლატფორმებთან ერთად დანარჩენი მასალის წაშლაზეც მუშაობს. თუმცა, ეს პირველი გახმაურებული შემთხვევაა, რომელიც OpenAI-ს მომხმარებლების მონაცემებსაც შეეხო.

ცოტა ხანში ცნობილი გახდა, რომ OpenAI-ს ავტომატიზებული ხელოვნური ინტელექტის აგენტები აშშ-ის მთავრობის რამდენიმე ვებსაიტზეც მოქმედებდნენ. ამასთან, შესაძლოა, OpenAI-ს ხელოვნური ინტელექტის დამოუკიდებელი ჰაკერული მოქმედებების შესახებ კიდევ მრავალი ინფორმაცია გასაჯაროვდეს. ხელოვნური ინტელექტის კომპანიამ განაცხადა, რომ „ათობით“ ორგანიზაციას აცნობა მათი ვებსაიტების შესახებ, რომლებთანაც OpenAI-ს პროგრამული უზრუნველყოფა დაუგეგმავი გზით „ურთიერთქმედებდა“. ბოლოს ყურადღება ავსტრალიის მთავრობის განცხადებამ მიიქცია. მისი ცნობით, OpenAI-ს ხელოვნური ინტელექტი ავსტრალიის ჯანდაცვის სისტემის ვებსაიტზე შეიჭრა.

აქამდე ყველაზე გახმაურებულ შემთხვევაში ChatGPT-ის შემქმნელის ხელოვნურმა ინტელექტმა დაცული სატესტო გარემოდან გააღწია. ის დაუგეგმავად შეიჭრა ხელოვნური ინტელექტის სხვა კომპანიის, Hugging Face-ის პლატფორმის, კომპიუტერებში. OpenAI თითოეული ასეთი გასაჯაროებული ინციდენტით ირიბ სარგებელსაც იღებს. ამ გზით კომპანიას შეუძლია საკუთარი მოდელები იმდენად მძლავრად წარმოაჩინოს, რომ მათ მოთოკვას თავადაც ვერ ახერხებს. გაურკვეველია, ხელოვნური ინტელექტის მწარმოებელი სატესტო გარემოს უკიდურესად არასათანადოდ განზრახ იცავს თუ უნებლიეთ. თუმცა, მსგავსი გამოცდებისას მოდელები სხვა მსხვილი დეველოპერების შემთხვევაშიც კარგავენ კონტროლს. ამიტომ Anthropic-ი, OpenAI და სხვა კომპანიები ხელოვნური ინტელექტის განვითარებაში პაუზას მოითხოვენ.