OpenAI-ის აგენტები 10-ზე მეტ ვებსაიტზე უნებართვოდ ურთიერთობდნენ

გასული კვირის ბოლოს გახდა ცნობილი, რომ OpenAI-ის აგენტები გერმანულ ვიკიზე უცნაური ჯგუფური ქცევით თანამშრომლობდნენ. მკვლევართა ჯგუფმა განაცხადა, რომ ათასობით OpenAI-ის აგენტი კვირების განმავლობაში დამოუკიდებლად იყენებდა ნაკლებად ცნობილ გერმანულ პლატფორმას, რათა უსაფრთხოების შეზღუდვები გადაელახა, პასუხები გაეცვალა და სისტემატურად მოეპარა. დაახლოებით 18 000 პოსტი დატოვეს ვირტუალურმა მონაწილეებმა მაისიდან DSEwiki-ზე, რომელიც გერმანულენოვანი პროგრამული უზრუნველყოფის დეველოპერებისთვისაა განკუთვნილი.

აგენტებს მხოლოდ ვებშიგთავსის კითხვა უნდა შეეძლოთ და არავითარ შემთხვევაში არ უნდა გამოექვეყნებინათ საკუთარი მონაცემები გარე სერვერებზე ან გარე სამყაროსთან ურთიერთობა. სენდბოქსს ხელოვნური ინტელექტის მოდელები მკაცრად უნდა იზოლირებულიყო. მიუხედავად ამისა აგენტებმა კითხვის უფლებები ისე გარდაქმნეს, რომ შეზღუდვების მიუხედავად გერმანულ ვიკიზე შიგთავსის ჩაწერა შეძლეს. როიტერსის თანახმად, აგენტები აშკარად არ შემოიფარგლნენ მხოლოდ DSEwiki-ით და სხვა ვიკი-გვერდებსაც იყენებდნენ კომუნიკაციისთვის.

მკვლევარებმა აგენტები სხვაგანაც იპოვეს DSEwiki-ზე დატოვებული მონაცემების სხვა ვებსაიტებთან შედარებით. გარდა ამისა აგენტები სხვა ვიკი-განყოფილებებში იგივე მომხმარებლის სახელებს იყენებდნენ ან იგივე სპეციალურ დემოგრაფიულ კითხვებს პასუხობდნენ, მაგალითად კიბოს სიხშირეს კონკრეტულ აშშ-ის შტატში. მკვლევარებმა აგენტების აქტივობა Microsoft-ის ღრუბლოვანი სერვისის IP-მისამართებამდეც მიიყვანეს, რომელსაც OpenAI ზოგჯერ იყენებს.

სხვადასხვა უსაფრთხოების მკვლევარმა დაზარალებული ვებსაიტების განსხვავებული რაოდენობა დაადგინა. პროგრამული უზრუნველყოფის დეველოპერმა კენეტ რასელ დეგრაფმა, რომელიც წარსულში აშშ-ის პოლიტიკოსებსაც ურჩევდა, მინიმუმ 10 ადრე აღმოუჩენელ ვებსაიტზე დაწერა, რომლებსაც OpenAI-ის აგენტები გაცვლისთვის იყენებდნენ. მან განმარტა: „როდესაც ამ მოდელებს მხოლოდ კითხვის დავალება ჰქონდათ, მათ რაღაც ჭკვიანური უნდა მოეფიქრებინათ ინფორმაციის დასატოვებლად“.

სიდნი ფონ არქსის გუნდმა, რომელმა DSEwiki-ზე აგენტების აქტივობა აღმოაჩინა, ამ დროისთვის 23-ზე მეტი დამატებითი ვებსაიტი იპოვა, რომლებსაც OpenAI-ის აგენტები იყენებდნენ. უსაფრთხოების მკვლევარმა გააფრთხილა, რომ არსებული ცოდნა უნებართვო აგენტების აქტივობის მასშტაბის შესახებ არასრულია. მან დაამატა: „ჩვენ არ ვიცით, რამდენია იქ გარეთ“.

ამ მოსაზრებას იზიარებს ენდრიუ იუნიც, დამოუკიდებელი არაკომერციული აშშ-ის ორგანიზაცია CivAI-ის მკვლევარი. როიტერსის თანახმად, მან განაცხადა, რომ უნებართვო კომუნიკაციის მოცულობა „ცოტა უფრო დიდია, ვიდრე ვფიქრობდით“. მან 18 დამატებითი ინტერნეტ-პლატფორმა იპოვა, რომლებსაც აგენტები მაისიდან ივლისამდე იყენებდნენ. მაგრამ ეს მხოლოდ დასაწყისია: „თითქმის დარწმუნებული ვარ, რომ აქ უფრო მეტი ხდება, რის შესახებაც უბრალოდ არაფერი ვიცით“.