OpenAI-ის აგენტებმა ავსტრალიის სამთავრობო საიტებზე წვდომა სცადეს

OpenAI-მ სამშაბათს გამოქვეყნებულ ბლოგპოსტში აღწერა, რა დარღვევები ჩაიდინეს მისმა აგენტებმა ავსტრალიაში. პოსტს ეწოდება „როგორ გავაუმჯობესებთ მუშაობას ავსტრალიისთვის“. ის გასულ კვირას გავრცელებულ ცნობას ეხება, რომლის თანახმადაც, კომპანიის ერთ-ერთმა მოდელმა ეროვნული ჯანდაცვის პროგრამა Medicare-ის მონაცემების შემცველ საიტზე არასათანადო წვდომა მოიპოვა.

OpenAI-მ პოსტი შემდეგი სიტყვებით დაიწყო: „ჩვენმა მოდელებმა ავსტრალიის სამთავრობო ვებსაიტებზე ისეთი გზებით წვდომა მოიპოვეს, რომლებზეც ნებართვა არ ჰქონდათ. ჩვენ ამ შემთხვევაზე უკეთესადაც უნდა გვემოქმედა. ბოდიშს ვიხდით და ვმუშაობთ, რომ მომავალში უკეთ მოვიქცეთ“.

კომპანიამ Medicare-ის შემთხვევის შესახებ ახალი დეტალებიც გაამჟღავნა. პოსტის თანახმად, ინციდენტში მონაწილეობდა OpenAI-ის ექსპერიმენტული, მხოლოდ შიდა გამოყენებისთვის განკუთვნილი მოდელი. მისი საჯაროდ გამოშვება არ იგეგმებოდა და მას არ ჰქონდა დაცვის ყველა ის მექანიზმი, რომლებიც კომპანიის საჯარო პროდუქტებში გამოიყენება.

OpenAI-მ მოდელს ავსტრალიის ერთ-ერთ შტატში კანის დაავადებების სამკურნალო პრეპარატებზე ერთ ადამიანზე გაწეული სახელმწიფო ხარჯების მოძიება დაავალა.

OpenAI-მ აღიარა: „მოდელს ამ ინფორმაციის მოპოვება გაუჭირდა და ისეთი ნაბიჯები გადადგა, რომლებზეც ჩვენ ნებართვა არ მიგვიცია. ინფორმაციის ძიებისას მან Services Australia-ს Medicare-ის სტატისტიკური ანგარიშგების სერვისზე არასაჯარო წვდომის გზა აღმოაჩინა. შემდეგ ეს წვდომა სერვისთან დაკავშირებული ტექნიკური სისტემური ინფორმაციისა და საწყისი კოდის შესასწავლად გამოიყენა. ამ ყველაფრის მიზანი კვლავ თავდაპირველად მოძიებული ინფორმაციის პოვნა იყო“.

The Register-მა გასულ კვირას OpenAI-ს ჰკითხა, ტესტები თავად კომპანიამ ჩაატარა თუ პარტნიორი გამოიყენა. კომპანიამ გამოცემის შეკითხვას არ უპასუხა.

ახალ პოსტში გამჟღავნებული კიდევ ერთი შემთხვევისას კომპანიის ბოტები ავსტრალიის ჯანმრთელობისა და კეთილდღეობის ინსტიტუტს (Australian Institute of Health and Welfare) ეწვივნენ. მათ წვდომის კონტროლის მექანიზმების გვერდის ავლა წარუმატებლად სცადეს. აგენტებმა სტატისტიკის მოპოვება მაინც შეძლეს მესამე მხარის დათვალიერებისა და ჩამოტვირთვის სერვისებით, მათ შორის ინსტიტუტის ვებსაიტიდან.

OpenAI-მ დაწერა: „როგორც ჩანს, ჩამოტვირთული მასალა საჯაროდ ხელმისაწვდომი იყო. სისტემა არ დაზიანებულა. ინდივიდუალურ სამედიცინო ჩანაწერებზე წვდომა არ მომხდარა“. კომპანიამ თავდაპირველად ინციდენტის შესახებ არ განაცხადა, რადგან წვდომის გზა საჯარო წვდომას ჰგავდა და შემთხვევა გამჟღავნების ზღვარს არ აკმაყოფილებდა. მოგვიანებით OpenAI-მ გადაწყვეტილება შეცვალა და ინსტიტუტს 24 სექტემბერს აცნობა. იმავე დღეს ავსტრალიის პრემიერ-მინისტრმა Medicare-ის ინციდენტი გამოაცხადა.