OpenAI-ის აგენტმა ავსტრალიის Medicare-ის პორტალის ბლოკები გვერდი აუარა

ბი-ბი-სის ცნობით, ავსტრალიამ „სასწრაფო და დაუყოვნებელი შემოწმება“ მოითხოვა. მთავრობამ განაცხადა, რომ OpenAI-ის აგენტმა Medicare-ის სტატისტიკის პორტალზე დაწესებული შეზღუდვების გვერდის ავლის გზა იპოვა. პრემიერ-მინისტრმა ენტონი ალბანიზიმ ამის შესახებ ნიუ-იორკში, გაეროს გენერალურ ასამბლეაზე განაცხადა და ივნისში მომხდარ შეღწევაზე ისაუბრა. OpenAI-მ შეღწევის შესახებ აგვისტოში შეიტყო, თუმცა სამთავრობო უწყების საჯარო ელექტრონულ მისამართზე ინფორმაცია სექტემბრამდე არ გაგზავნა.

ანგარიშის თანახმად, ეს „არაკონტროლირებადი ხელოვნური ინტელექტის აგენტების მიერ სამთავრობო სისტემის დარღვევის პირველი ცნობილი შემთხვევაა“. ალბანიზიმ განაცხადა, რომ OpenAI-მ მთავრობის ინფორმირებას „ზედმეტად დიდი დრო მოანდომა“. OpenAI-მ თქვა: „ჩვენმა მოდელებმა ისეთი მოქმედებები შეასრულეს, რომლებიც არ გვქონდა განზრახული“.

შეღწევა მოხდა ავსტრალიის Medicare-ის სტატისტიკური ანგარიშგების სამსახურის პორტალზე, რომელსაც ავსტრალიის მომსახურებათა სამსახური (Services Australia) მართავს. ალბანიზის თქმით, ეს საჯარო საიტია, რომელიც „Medicare-ის არასენსიტიურ ინფორმაციას“ შეიცავს. მან თქვა, რომ OpenAI-ის მკვლევართა გუნდმა მედიცინაზე სახელმწიფო დანახარჯების შესასწავლად შიდა მოდელი გამოიყენა. აგენტი არაერთხელ შეხვდა შეზღუდვებს, მათ გვერდი აუარა და საბოლოოდ „როგორც საჯარო, ისე არასაჯარო ფაილებს“ მიაღწია. პრემიერ-მინისტრის თქმით, ავსტრალიის მომსახურებათა სამსახურმა ასევე განაცხადა, რომ აგენტმა შიდა სერვერზე ფაილები ჩაწერა, თუმცა ეს ინფორმაცია ჯერ კიდევ მოწმდება.

OpenAI-მ სამუშაო „შიდა შეფასებად“ აღწერა. კომპანიის ცნობით, ხელმისაწვდომ მასალას შორის „ჯანდაცვის შეჯამებული სტატისტიკა და შიდა ფაილების სახელები“ იყო. კომპანიამ აღნიშნა, რომ პაციენტების ჩანაწერებზე წვდომის დამადასტურებელი მტკიცებულება ვერ იპოვა. OpenAI გამოძიების მხარდასაჭერად „ტექნიკურ ინფორმაციასაც აწვდის“.

გავრცელებული ინფორმაციით, OpenAI-ის აგენტმა პორტალზე პირველად 18 ივნისს შეაღწია. კომპანიამ ამის შესახებ აგვისტოში ჩატარებული შემოწმებისას შეიტყო. 10 სექტემბერს, პირველი წვდომიდან 84 დღის შემდეგ, კომპანიამ ავსტრალიის მომსახურებათა სამსახურს საჯარო ელექტრონულ მისამართზე წერილი გაუგზავნა. ხუთი დღის შემდეგ უწყებამ შემთხვევა ავსტრალიის კიბერუსაფრთხოების ცენტრს შეატყობინა. ცენტრი ავსტრალიის სიგნალების დირექტორატის (ASD) ნაწილია.

ალბანიზიმ განაცხადა, რომ OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა აღიარა: „კომპანიის პროცედურები ამ შემთხვევაში სათანადო დონეზე არ იყო“. საჯარო სამსახურის მინისტრმა კეტი გალაჰერმაც აღიარა, რომ შემოსული წერილების დამუშავება უკეთ შეიძლებოდა. მისი თქმით, საფოსტო ყუთს „დღეში მხოლოდ ერთხელ ამოწმებდნენ“ და იქ ხშირად ცრუ შეტყობინებები შედიოდა.