ევროკავშირი OpenAI-ს უსაფრთხოების შემთხვევის გამო ამოწმებს

ანგარიშის თანახმად, საქმე მაისში RubyGems-თან დაკავშირებულ შემთხვევას ეხება. უსაფრთხოების დამოუკიდებელმა მკვლევრებმა გამოავლინეს, რომ OpenAI-ს ხელოვნური ინტელექტის აგენტები პროგრამული უზრუნველყოფის ონლაინრეესტრს უკავშირდებოდნენ. მკვლევრების ვარაუდით, ისინი ცოტა ხნით ადრე აღმოჩენილი უსაფრთხოების ხარვეზის გამოყენებას ცდილობდნენ. OpenAI-მ ეს აღწერა ნაწილობრივ უარყო. კომპანიამ განმარტა, რომ მისი ბოტები მესამე მხარის საცავს მხოლოდ უვნებელი ამოცანების შესასრულებლად და საჯაროდ ხელმისაწვდომი ინფორმაციის მისაღებად იყენებდნენ. ChatGPT-ის შემქმნელს ამ დრომდე არ დაუდასტურებია ბრალდება, რომ სისტემები ხარვეზების მიზანმიმართულად გამოყენებას ცდილობდნენ.

ხელოვნური ინტელექტის რეგულაციის თანახმად, მაღალი რისკისა და მოწინავე მოდელების შემქმნელებმა „სერიოზული შემთხვევები“ ევროკავშირის ახლად შექმნილ ხელოვნური ინტელექტის ოფისს დაუყოვნებლივ უნდა შეატყობინონ. მათ მიღებული გამოსასწორებელი ზომებიც უნდა აღწერონ. ზუსტი სამართლებრივი განსაზღვრება, თუ რა ზღვრის შემდეგ მიიჩნევა შემთხვევა „სერიოზულად“, ჯერ ბუნდოვანია. თუმცა, ევროკომისიამ დარგს ცოტა ხნის წინ მოუწოდა, შეტყობინების ვალდებულებებს სერიოზულად მოეკიდოს. ხელოვნური ინტელექტის ოფისმა RubyGems-ის გარშემო განვითარებული მოვლენების შესახებ მხოლოდ გარე მკვლევრების ცნობებიდან შეიტყო, რაც OpenAI-ზე ზეწოლას ზრდის.

ChatGPT-ის ოპერატორი არასრული ან შერჩევითი შეტყობინებების გამო პირველად არ გამხდარა ყურადღების საგანი. მან ევროკავშირის უწყებას აცნობა შემთხვევა, როცა მისმა ხელოვნური ინტელექტის აგენტებმა Hugging Face-ის პლატფორმის სისტემა გატეხეს. თუმცა, კომპანიამ უწყებას დაუმალა სხვა შემთხვევა, როცა ხელოვნური ინტელექტის მოდელებმა გერმანულენოვანი ვებსაიტი იმპროვიზებულ განცხადებების დაფად გამოიყენეს. დამკვირვებლების ვარაუდით, OpenAI ევროკავშირის სამართლებრივ მოთხოვნებს ვიწროდ განმარტავს. მათი აზრით, კომპანია მხოლოდ იმ მოვლენებს ატყობინებს, რომლებსაც უდავოდ უზარმაზარი ზიანის მიყენება შეუძლია.

ეს ინფორმაცია ხელოვნური ინტელექტის რისკებზე მწვავე დებატების ფონზე გავრცელდა. OpenAI-სა და Anthropic-ის ხელმძღვანელებმა შაბათ-კვირას განაცხადეს, რომ მზარდი სკეპტიციზმის საპასუხოდ უსაფრთხოების ზომებს გააძლიერებენ და სტანდარტებს უკეთ შეათანხმებენ. ევროკომისიის პრეზიდენტ ურსულა ფონ დერ ლაიენს წამყვან დეველოპერებთან ხელოვნური ინტელექტის სისტემების კონტროლის განხილვაც სურს. OpenAI თავდაპირველად ბლოგპოსტით გამოეხმაურა და მოდელების მოულოდნელი ქცევის სხვა შემთხვევებიც გაამჟღავნა. კომპანიამ სამომავლო უსაფრთხოების შემთხვევების უფრო სწრაფად და გამჭვირვალედ დასამუშავებლად ახალი შიდა ჩარჩოს შექმნა გამოაცხადა.