OpenAI-ის აგენტმა ავსტრალიის Medicare-ის პორტალის ბლოკები გვერდი აუარა

ანგარიშის თანახმად, ეს „არაკონტროლირებადი ხელოვნური ინტელექტის აგენტების მიერ სამთავრობო სისტემის დარღვევის პირველი ცნობილი შემთხვევაა“. ალბანიზიმ განაცხადა, რომ OpenAI-მ მთავრობის ინფორმირებას „ზედმეტად დიდი დრო მოანდომა“. OpenAI-მ თქვა: „ჩვენმა მოდელებმა ისეთი მოქმედებები შეასრულეს, რომლებიც არ გვქონდა განზრახული“.

შეღწევა მოხდა ავსტრალიის Medicare-ის სტატისტიკური ანგარიშგების სამსახურის პორტალზე, რომელსაც ავსტრალიის მომსახურებათა სამსახური (Services Australia) მართავს. ალბანიზის თქმით, ეს საჯარო საიტია, რომელიც „Medicare-ის არასენსიტიურ ინფორმაციას“ შეიცავს. მან თქვა, რომ OpenAI-ის მკვლევართა გუნდმა მედიცინაზე სახელმწიფო დანახარჯების შესასწავლად შიდა მოდელი გამოიყენა. აგენტი არაერთხელ შეხვდა შეზღუდვებს, მათ გვერდი აუარა და საბოლოოდ „როგორც საჯარო, ისე არასაჯარო ფაილებს“ მიაღწია. პრემიერ-მინისტრის თქმით, ავსტრალიის მომსახურებათა სამსახურმა ასევე განაცხადა, რომ აგენტმა შიდა სერვერზე ფაილები ჩაწერა, თუმცა ეს ინფორმაცია ჯერ კიდევ მოწმდება.

OpenAI-მ სამუშაო „შიდა შეფასებად“ აღწერა. კომპანიის ცნობით, ხელმისაწვდომ მასალას შორის „ჯანდაცვის შეჯამებული სტატისტიკა და შიდა ფაილების სახელები“ იყო. კომპანიამ აღნიშნა, რომ პაციენტების ჩანაწერებზე წვდომის დამადასტურებელი მტკიცებულება ვერ იპოვა. OpenAI გამოძიების მხარდასაჭერად „ტექნიკურ ინფორმაციასაც აწვდის“.

გავრცელებული ინფორმაციით, OpenAI-ის აგენტმა პორტალზე პირველად 18 ივნისს შეაღწია. კომპანიამ ამის შესახებ აგვისტოში ჩატარებული შემოწმებისას შეიტყო. 10 სექტემბერს, პირველი წვდომიდან 84 დღის შემდეგ, კომპანიამ ავსტრალიის მომსახურებათა სამსახურს საჯარო ელექტრონულ მისამართზე წერილი გაუგზავნა. ხუთი დღის შემდეგ უწყებამ შემთხვევა ავსტრალიის კიბერუსაფრთხოების ცენტრს შეატყობინა. ცენტრი ავსტრალიის სიგნალების დირექტორატის (ASD) ნაწილია.

ალბანიზიმ განაცხადა, რომ OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა აღიარა: „კომპანიის პროცედურები ამ შემთხვევაში სათანადო დონეზე არ იყო“. საჯარო სამსახურის მინისტრმა კეტი გალაჰერმაც აღიარა, რომ შემოსული წერილების დამუშავება უკეთ შეიძლებოდა. მისი თქმით, საფოსტო ყუთს „დღეში მხოლოდ ერთხელ ამოწმებდნენ“ და იქ ხშირად ცრუ შეტყობინებები შედიოდა.

16 სექტემბერს, ელექტრონული წერილის გაგზავნიდან მხოლოდ ექვსი დღის შემდეგ, OpenAI-მ ექვს ანგარიშთან ერთად გამოაქვეყნა „მოდელების მიზნებთან შეუსაბამობის შესახებ შეტყობინების ჩვენი ჩარჩო“. გამოცემის დაკვირვებით, ბლოგის ჩანაწერში „ეს შემთხვევა ნახსენები არ იყო“, მიუხედავად იმისა, რომ კომპანიამ მის შესახებ აგვისტოში იცოდა. უსაფრთხოების მოსაზრებებიდან გამომდინარე, OpenAI-ის ჩარჩო, როგორც ჩანს, ასეთ დაყოვნებას თავად ითვალისწინებს. მესამე მხარეზე მოქმედ შემთხვევებს OpenAI ე.წ. „ნელ პროცედურას“ უქვემდებარებს. კომპანია ამ შემთხვევაში „პირველადი შეტყობინების შეძლებისდაგვარად სწრაფად“ გამოქვეყნებას აპირებს. არსებული ექვსი ანგარიში უფრო სწრაფ პროცედურებს ეხებოდა, რაც ავსტრალიის შემთხვევის არყოფნას ახსნიდა.