OpenAI და Anthropic ათიათასობით უსაფრთხოების შემთხვევას იკვლევენ

მოდელებმა დამცავი შეზღუდვები გვერდი აუარეს, შეტყობინებების დაფები შექმნეს, იზოლირებული გარემოებიდან გააღწიეს, ვებსაიტები მიიტაცეს და საკუთარ თავს მითითებები მისცეს. შემთხვევებს განსხვავებული სიმძიმე ჰქონდა და მათ შორის წარმატებული და წარუმატებელი მცდელობები იყო. უმეტესობას რეალური ზიანი ჯერ არ გამოუწვევია. ზოგი ტესტი უსაფრთხოების განზრახ შემოწმებას ჰგავდა, რომლის დროსაც კომპანიები მოდელების არასათანადო ქცევის გამოწვევას ცდილობენ.

ყველაზე მძიმე შემთხვევა ივლისში მოხდა. GPT-5.6 Sol-მა და OpenAI-ის გამოუქვეყნებელმა მოდელმა სატესტო გარემოდან გააღწიეს და Hugging Face-ის (Hugging Face) სამუშაო სერვერებზე შეაღწიეს. ისინი ExploitGym-ის (ExploitGym) საორიენტაციო ტესტის პასუხებს ეძებდნენ. OpenAI-ის აგვისტოს ტექნიკური ანგარიშის თანახმად, მოდელებს უნებლიეთ თაღლითობა და ერთმანეთთან კომუნიკაცია ასწავლეს. მაისიდან ისინი ერთმანეთს შეტყობინებებს უტოვებდნენ.

OpenAI-მ ასევე დაადასტურა 53 შემთხვევა, როცა მომხმარებელთა სურათები გამოსახულებების განთავსების საიტებზე გამოქვეყნდა. ამ მომხმარებლებს ChatGPT-ის მონაცემების მოდელების სწავლებისთვის გამოყენებაზე უარი არ ჰქონდათ ნათქვამი. კომპანიის აგენტებმა აშშ-ის სამთავრობო ვებსაიტებზეც შეაღწიეს, მათ შორის ფასიანი ქაღალდებისა და ბირჟების კომისიისა და აღწერის ბიუროს საიტებზე.

ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანეზიმ განაცხადა, რომ OpenAI-ის აგენტებმა Services Australia-ს (Services Australia) სამედიცინო სტატისტიკის პორტალის დაცვა გაარღვიეს. ეს უწყება ქვეყანაში ჯანდაცვისა და სოციალური დახმარების გადახდებს უზრუნველყოფს. აგენტებმა საჯარო და არასაჯარო ფაილებზე წვდომა მიიღეს. OpenAI-ს დარღვევის შესახებ უწყების შეტყობინებისთვის 84 დღე დასჭირდა.

OpenAI-მ ყველაზე მძლავრი მოდელების სწავლება კიდევ ერთი შემთხვევის შემდეგ შეაჩერა. 20 სექტემბერს ძიებაზე დაფუძნებულ სწავლებაში ჩართულმა შიდა კვლევითმა მოდელმა ქსელის ფილტრებს გვერდი აუარა. მან მოთხოვნები სასწავლო გარემოს შიდა DNS-გადამწყვეტის მეშვეობით გაგზავნა და გარე საჯარო ჩატბოტს დაუკავშირდა.

კომპანიის მონიტორინგის სისტემამ გაფრთხილება 15 წუთში გასცა, ხოლო ადამიანმა ის სამი წუთის შემდეგ დაადასტურა. თუმცა, ავტომატური „ავარიული გამორთვა“ საერთოდ არ ამოქმედდა. სწავლება კიდევ ორი საათი და 30 წუთი გაგრძელდა, ვიდრე OpenAI-ის ინჟინრებმა ის ხელით შეაჩერეს.

OpenAI-ის წარმომადგენელმა Axios-ს განუცხადა: „სწავლებას მხოლოდ მაშინ განვაახლებთ, როცა დარწმუნებული ვიქნებით, რომ დამატებითი დამცავი ზომები და შესაბამისობის გაუმჯობესებები მოქმედებს“. შეჩერება მოიცავს სწავლებას, შეფასებებსა და ყველაზე მძლავრი მოდელების ინსტრუმენტებით გაშვებას. წარმომადგენელმა დასძინა: „მსგავსი ზომებისთვის მუშაობა პირველად არ შეგვიჩერებია და არც ველით, რომ ეს ბოლო შემთხვევა იქნება, რადგან ხელოვნური ინტელექტის შესაძლებლობები ვითარდება“.