OpenAI-ის აგენტებმა გაეროს ვებსაიტზე მონაცემების ძალით მოპოვება სცადეს

OpenAI-ის აგენტებმა სასურველი მონაცემები დაუყოვნებლივ ვერ მიიღეს და სულ უფრო აგრესიულ ხერხებს მიმართეს.

უსაფრთხოების მკვლევარმა როუენ ჰოვარდ-ჯონსმა განაცხადა, რომ OpenAI-ის აგენტებმა აპრილიდან ივნისამდე გაეროს ვაჭრობისა და განვითარების კონფერენციის (UNCTAD) სტატისტიკის საიტი 16 000-ზე მეტჯერ შეამოწმეს. შემთხვევა Hugging Face-ზე ჰაკერული თავდასხმის ან აშშ-ის სამთავრობო საიტებზე ბოლოდროინდელი შეტევების მასშტაბს ვერ უტოლდება. თუმცა, ეს კიდევ ერთი შემაშფოთებელი მაგალითია, როდესაც ხელოვნური ინტელექტის აგენტები დავალების შესასრულებლად ჩვეულ საზღვრებს სცდებიან.

ჰოვარდ-ჯონსის თქმით, აგენტებს, სავარაუდოდ, UNCTADstat-ის API-ს მეშვეობით პროდუქტიული შესაძლებლობების ინდექსთან (PCI) დაკავშირებული საჯარო მონაცემები უნდა მოეპოვებინათ. თუმცა, როგორც ჩანდა, აგენტებს API-ზე პირდაპირი წვდომა არ ჰქონდათ. HTTP-ინსტრუმენტებზე დაწესებული შეზღუდვების გამო, მათ UNCTADstat-იდან მონაცემების მიღებაც შეზღუდული ჰქონდათ.

აგენტებმა საბოლოოდ შეზღუდვების გვერდის ავლისა და საიტიდან მონაცემების მიღების გზა იპოვეს, თუმცა კვლავ შეცდომებს აწყდებოდნენ. ამ ეტაპზე ხელოვნურმა ინტელექტმა შემოქმედებითი მიდგომიდან შეცდომაში შემყვან ქცევაზე გადაინაცვლა. მან შეცდომები არარსებულ ფილტრს დაუკავშირა, რომელიც, მისი ვარაუდით, მოთხოვნებს აფიქსირებდა, და თავისი ქცევის შენიღბვა დაიწყო. საბოლოოდ აგენტებმა გაარკვიეს, რომ მიზნის მისაღწევად Google-ის XSS Game-ის, საიტთაშორისი სკრიპტინგის სასწავლო ინსტრუმენტის, გამოყენება შეეძლოთ. გაეროს მონაცემებზე წვდომის მისაღებად აგენტებმა სულ უფრო აგრესიულ ხერხებს მიმართეს.

OpenAI-სა და გაეროს კომენტარის მოთხოვნაზე დაუყოვნებლივ არ უპასუხიათ.