ავსტრალია OpenAI-ის ჰაკერული თავდასხმის შემდეგ ხელოვნური ინტელექტის დარღვევებზე სასჯელს განიხილავს

სექტემბერში ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანეზემ განაცხადა, რომ OpenAI-ის არაკონტროლირებადმა აგენტმა სამთავრობო ჯანდაცვის ვებსაიტსა და სხვა სისტემებში „შეაღწია“. მან კომპანია გააკრიტიკა, რადგან ჰაკერული თავდასხმის შესახებ მთავრობას რამდენიმე თვის განმავლობაში არ შეატყობინა.

სამშაბათს ალბანეზემ თავდასხმების „სწრაფი მიმოხილვის“ შემდეგ მომზადებული 18 რეკომენდაცია გამოაქვეყნა. ისინი ხელოვნური ინტელექტის კომპანიებისთვის, მათ შორის OpenAI-ისთვის, უსაფრთხოებისა და დაცვის ახალი სტანდარტების შემოღებას ითვალისწინებს. ერთ-ერთი მოთხოვნა ჰაკერული თავდასხმების სავალდებულო შეტყობინებაა.

ალბანეზეს თქმით, ხელოვნურ ინტელექტს შესაძლებლობები მოაქვს, თუმცა ავსტრალია ამ „სწრაფად განვითარებადი ტექნოლოგიის“ „ახალი რისკებისთვის“ უნდა მოემზადოს.

ალბანეზემ განაცხადა: „კანონმა წინ უნდა გაუსწროს იმას, რაც ძალიან სწრაფად იცვლება, და ზოგ შემთხვევაში უნდა უზრუნველყოს, რომ კანონი ამ ცვლილებებს დაეწიოს“.

ერთ-ერთი რეკომენდაცია სისხლის სამართლის კანონში ცვლილებას გვთავაზობს. კერძოდ, უნდა შემოიღონ ცალკე დანაშაული, რომელიც „პრევენციის ვალდებულების შეუსრულებლობას“ შეეხება.

ეს დანაშაულად აქცევდა შემთხვევებს, როცა კომპანია ქმნის „ხელოვნური ინტელექტის მოდელს, რომელიც ზიანის მომტან ქმედებას ახორციელებს“ და „ამ ზიანის თავიდან ასაცილებლად გონივრულ ზომებს არ იღებს“.

მიმოხილვაში ასევე რეკომენდებულია ჰაკერული თავდასხმების შესახებ „ხელოვნური ინტელექტის უსაფრთხოების სავალდებულო ანგარიშგება განსაზღვრულ ვადაში“.

ეს რეკომენდაცია ეხება იმას, რასაც ალბანეზემ ადრე OpenAI-ის მხრიდან მის მთავრობასთან თავდასხმის შესახებ შეტყობინების თვეებით დაგვიანებასთან დაკავშირებით „იმედგაცრუება“ უწოდა.

ივნისში OpenAI-ის არაკონტროლირებადმა აგენტმა გატეხა სტატისტიკური პორტალი. მასში ავსტრალიის საყოველთაო ჯანდაცვის პროგრამის, Medicare-ის, „არასენსიტიური“ მონაცემები ინახებოდა.

OpenAI-მ განაცხადა, რომ თავდასხმის შესახებ მხოლოდ აგვისტოში შეიტყო, როდესაც „მოდელის შეუსაბამო ქცევას“ ამოწმებდა. კომპანიამ 10 სექტემბერს ავსტრალიის სამთავრობო უწყების საერთო ელექტრონულ მისამართზე წერილი გაგზავნა.

წერილის ავსტრალიის კიბერუსაფრთხოების ცენტრში გადაგზავნამდე კიდევ რამდენიმე დღე გავიდა. ამის შემდეგ мэсიჯი გაეგზავნა მთავრობის მინისტრს, ხოლო პრემიერ-მინისტრს მოგვიანებით აცნობეს.

ალბანეზემ თქვა, რომ OpenAI-ის ხელმძღვანელ სემ ალტმანს ესაუბრა და „ავსტრალიის უკიდურესი შეშფოთება ამ ინციდენტის გამო“ გააცნო. ალტმანმა აღიარა, რომ OpenAI-ში „პროტოკოლებთან დაკავშირებული პრობლემები“ იყო.