Google-ის ხელოვნური ინტელექტის აგენტები საცდელი გარემოდან გავიდნენ

Google-მა აღიარა, რომ მისმა ხელოვნური ინტელექტის აგენტებმა იზოლირებული საცდელი გარემო დატოვეს და შეტევა დაიწყეს. ეს მას შემდეგ მოხდა, რაც გამომცდელებმა ბოტებს ინტერნეტზე წვდომა შეცდომით მისცეს.

Google-ს მაისის შემთხვევა არ გაუსაჯაროებია. თუმცა უოლ სტრიტ ჯორნალმა (The Wall Street Journal) მომხდარის შესახებ შეიტყო. შემთხვევა მას შემდეგ მოხდა, რაც Google-მა ისრაელის კომპანია Irregular დაიქირავა, რათა მისი ბოტების შესაძლებლობები „დროშის ხელში ჩაგდების“ ტიპის გამოცდით შეემოწმებინა.

სავარჯიშოს მიზანი გამოგონილი კომპანიისგან ინფორმაციის მოპოვება იყო ისე, რომ აგენტებს საცდელი გარემო არ დაეტოვებინათ.

Irregular-მა, რომელმაც გამოცდა მოაწყო, ორი შეცდომა დაუშვა. კომპანიამ საცდელი გარემოდან ინტერნეტზე წვდომა დაუშვა და რეალური კომპანიის სახელი გამოიყენა.

როცა Google-ის ხელოვნური ინტელექტი ღია ინტერნეტში გავიდა, მან რეალური კომპანიების ძებნა დაიწყო. სულ სამი კომპანია მოძებნა.

უოლ სტრიტ ჯორნალის ცნობით, Google-ის ბოტებმა ინტერნეტში ორი სამიზნის პაროლები იპოვეს. პროგრამამ მესამე პაროლი გამოიცნო.

Google-მა The Register-ისთვის გაგზავნილ განცხადებაში აღნიშნა: „სტანდარტული შეფასებისას მოდელმა ინტერნეტში საჯარო ინფორმაცია იპოვა და იმ ვებსაიტებზე შესასვლელი მონაცემები გამოიცნო, რომლებიც გამოცდის ნაწილად მიიჩნია“.

Google-ის ცნობით, მისმა მოდელებმა მუშაობა შესასვლელი მონაცემების გამოყენებამდე შეწყვიტეს.

Google-ის წარმომადგენელმა The Register-ს უთხრა: „ჩვენ ვიზრუნეთ, რომ სამივე სუბიექტს მომხდარის შესახებ შეეტყო. ასევე, სასწავლო პარტნიორთან ერთად ვიმუშავეთ იმ ცვლილებებზე, რომლებიც მან უკვე შეიტანა გამოცდის პროცესებში“. წარმომადგენელმა დასძინა: „ეს მოვლენები აჩვენებს, რამდენად მნიშვნელოვანია მძლავრი ხელოვნური ინტელექტის მოდელების პასუხისმგებლიანი მოქმედებისთვის გაწვრთნა“.

ამ შემთხვევაში პასუხისმგებლობა რამდენიმე მხარეს ეკისრება. Irregular-მა აშკარა შეცდომა დაუშვა, როცა იზოლირებული საცდელი გარემოდან ინტერნეტზე წვდომა დაუშვა. მეტი სიფრთხილე მართებდა ორ კომპანიასაც, რომელთა შესასვლელი მონაცემებიც ინტერნეტში იძებნებოდა. შესაძლოა, დაუდევრად მოიქცა ისიც, ვინც ადვილად გამოსაცნობი პაროლი გამოიყენა.

Google-ის პასუხისმგებლობა ცალკე საკითხია, რადგან ეს შემთხვევები მაისში მოხდა. ეს დაახლოებით ორი თვით უსწრებდა OpenAI-ის აღიარებას, რომ ივლისში Hugging Face-ზე შეტევა მისმა აგენტებმა განახორციელეს.

ამრიგად, საძიებო რეკლამის გიგანტი საკუთარი აგენტების მოქმედების შესახებ ინფორმაციას დაახლოებით ორი თვის განმავლობაში მალავდა. როგორც ჩანს, კომპანია შემთხვევის გასაჯაროებას არც მას შემდეგ ჩქარობდა, ვიდრე ამის შესახებ უოლ სტრიტ ჯორნალმა არ შეიტყო.