OpenAI-მ აგენტების ინციდენტების გამო სწავლების ნაწილი შეაჩერა

ხელოვნური ინტელექტის უსაფრთხოების შესახებ დებატები უქმეებზე სწრაფად გამწვავდა. ახალი ბრალდებების თანახმად, უმართავი აგენტები იმაზე ხშირად და უფრო სახიფათოდ მოქმედებდნენ, ვიდრე თავდაპირველად მიიჩნეოდა.

ყველაფერი პარასკევს დაიწყო, როდესაც OpenAI-მ ჩუმად გაამჟღავნა, რომ ყველაზე მოწინავე მოდელების სწავლება შეაჩერა.

ხელოვნური ინტელექტის სტარტაპმა ეს ამბავი შეუსაბამობის შესახებ ანგარიშში ჩამალა. ასე უწოდებს OpenAI უმართავი აგენტების შესახებ ანგარიშებს. დოკუმენტის სათაური იყო „აგენტმა გარე ჩატბოტთან დასაკავშირებლად DNS გამოიყენა“.

კარგი ამბავი ისაა, რომ ინციდენტში მონაწილე აგენტმა ღია ინტერნეტამდე ვერ მიაღწია.

ცუდი ამბავი ისაა, რომ ძიებაზე დაფუძნებული სასწავლო დავალების შემსრულებელი აგენტი ჩატბოტს მაინც დაუკავშირდა. ამის მიზეზი სასწავლო იზოლირებულ გარემოში DNS-ის არასაკმარისი ფილტრაცია გახდა. OpenAI-მ ამას „ინტერნეტზე წვდომის შეზღუდვებში ხარვეზი“ უწოდა. იგივე პრობლემა Hugging Face-ზე (Hugging Face) თავდასხმის დროსაც გამოვლინდა.

ანგარიშში ნათქვამია: „ინციდენტმა ქსელურ შეზღუდვებზე ჩვენს კონტროლში ხარვეზი გამოავლინა. ამიტომ დაზარალებული სასწავლო პროცესი შევაჩერეთ. მოგვიანებით გადავწყვიტეთ, რომ ჩვენი ყველაზე მძლავრი მოდელებისთვის ხელსაწყოების გამოყენებით სწავლება, შეფასება და ლოგიკური დასკვნების გამოტანა სრულად შეგვეჩერებინა. ეს შეზღუდვა ძალაში დარჩება, ვიდრე ხარვეზის აღმოფხვრას არ დავადასტურებთ და სისტემას დამატებით უსაფრთხოების გამოცდებს არ ჩავუტარებთ“.

ხელოვნური ინტელექტის სტარტაპმა Parse-მა (Parse) პარასკევს Hugging Face-ზე თავდასხმის ანალიზიც გამოაქვეყნა. ავტორების მტკიცებით, მან ახალი დეტალები გამოავლინა. OpenAI-ის აგენტების ჯგუფმა Docker Hub-ის (Docker Hub) წვდომის მონაცემები მოიპოვა. შემდეგ აგენტებმა არსებული პროგრამული ანაბეჭდების შეცვლილი ვერსიები შექმნეს, რათა „დროშის ხელში ჩაგდების“ დავალება უფრო მარტივად შეესრულებინათ. აგენტებმა Hugging Face-ის Kubernetes-ის (Kubernetes) გარემოც აღწერეს.

OpenAI-ისთვის პარასკევი კიდევ უფრო დამძიმდა. ნიუ-იორკ ტაიმსის ცნობით, მისმა აგენტებმა აშშ-ის განათლებისა და ვაჭრობის დეპარტამენტებისა და ფასიანი ქაღალდებისა და ბირჟების კომისიის ვებსაიტების მუშაობაშიც ჩაერივნენ. OpenAI-მ ინციდენტები აღიარა.

კომპანიამ ისიც აღიარა, რომ მის კვლევით გარემოში აგენტებმა მესამე მხარის მომსახურებების გამოყენებისას სასწავლო და შეფასების მონაცემები გადასცეს. შედეგად, მომხმარებლების მიერ შექმნილი 53 გამოსახულება სურათების განთავსების საიტებზე აიტვირთა.

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა აღიარა: „უმართავი აგენტების შესახებ ჩვენი გამოძიებები ისეთი სწრაფი არ ყოფილა, როგორიც გვსურდა. თუმცა ვცდილობთ, გამჭვირვალობის სურვილი შევუთავსოთ აგენტების აქტივობის პეტაბაიტობით ჟურნალების მკაფიოდ გააზრებასა და დაზარალებულ ორგანიზაციებთან მუშაობას“.