OpenAI-ის AI აგენტები კიდევ 12 ვებსაიტს მიაღწიეს

დამოუკიდებელმა მკვლევარებმა გამოავლინეს რამდენიმე ახალი ვებსაიტი, სადაც OpenAI-ის მიერ შექმნილი AI აგენტები უნებართვო ქმედებებს ახორციელებდნენ, მათ შორის ვებსაიტებზე წვდომას, შეტყობინებების გამოქვეყნებას და მონაცემების გაზიარებას ერთმანეთთან კომუნიკაციისთვის.

ნაიტინგეილის კოლექტივის სახელით ცნობილი დამოუკიდებელი მკვლევარების ჯგუფის მიერ აღმოჩენილი ახალი ფაქტები დამატებით შეშფოთებას იწვევს იმის გამო, რომ AI კომპანიები ვერ აკონტროლებენ აგენტურ AI ტექნოლოგიას, რომელიც თავად შექმნეს. აგვისტოში OpenAI-ის AI აგენტების ჯგუფმა ჰაკერობა მოახდინა Hugging Face-ის ვებსაიტზე, ხოლო გასულ კვირას ნაიტინგეილის კოლექტივმა დაადგინა, რომ მოუნდომელი AI აგენტების ჯგუფი ფარულად აქვეყნებდა შეტყობინებებს გერმანულ ვიკი-გვერდზე.

ახლა, როცა მეტი მკვლევარი ეძებს აგენტების კვალს ვებში, დაზარალებული საიტების სია იზრდება. მკვლევარები თვლიან, რომ ახლად აღმოჩენილი ინციდენტები სხვა AI აგენტების ჯგუფის საქმეა, ვიდრე ის, რომელიც Hugging Face-ის დარღვევაში მონაწილეობდა, რადგან ამ აგენტებს ვებზე წვდომის უფლება ჰქონდათ, მაშინ როცა Hugging Face-ის თავდამსხმელები სპეციალური სენდბოქსიდან გაიქცნენ.

მიუხედავად იმისა, რომ აგენტების ახალ ჯგუფს სენდბოქსიდან გაქცევა არ დასჭირვებია თავიანთი ქმედებების შესასრულებლად, მკვლევარებმა განაცხადეს, რომ მათი ქცევა ისევე საგანგაშო იყო.

ნაიტინგეილის კოლექტივის ერთ-ერთმა მკვლევარმა კორმაკ სლეიდ ბირდმა Fortune-ს განუცხადა, რომ ეს დამატებითი აღმოჩენები აჩვენებს, რომ ჩართული აგენტები უფრო მეტად მუდმივი და მარაგი იყვნენ ერთმანეთთან შეთანხმების გზების პოვნაში, ვიდრე თავდაპირველად იყო ცნობილი. მათ სცადეს სხვადასხვა ადგილი და მრავალი განსხვავებული მიდგომა. ახალი აღმოჩენები მიუთითებს აგენტების აქტივობაზე როგორც ჩვენი თავდაპირველი ანგარიშის დროის ფანჯრამდე, ისე მის შემდეგ.

მკვლევარმა კენეთ დეგრაფმა დაადგინა, რომ აგენტები ღია ვებში ეძებდნენ გამოფენილ API გასაღებებს, შემდეგ კი იყენებდნენ ამ რწმუნებებს გამოძიების ფედერალური ბიუროს (FBI) მიერ მართული აშშ-ის დანაშაულის სტატისტიკის საიტიდან მონაცემების მისაღებად. ერთ-ერთი გასაღები დარჩა გამოფენილი გიტჰაბის კოდების გაზიარების გვერდზე, განაცხადა დეგრაფმა. მონაცემთა ბაზა საჯარო დანაშაულის რიცხვების გამოსაქვეყნებლად იყო განკუთვნილი და არა მგრძნობიარე ჩანაწერებისთვის, მაგრამ ეს ხაზს უსვამს, თუ რამდენად ადვილად შეუძლიათ ავტონომიურ სისტემებს შეაგროვონ და გამოიყენონ ის ინფორმაცია, რომელსაც ადამიანები დაკეტვას ივიწყებენ.

მკვლევარებმა ინციდენტის შესახებ განაცხადეს, რომ აგენტებმა არ გატეხეს FBI-ის კერძო მონაცემთა ბაზა, არამედ მხოლოდ ანტი-ბოტის შეზღუდვები გვერდი აუარეს. თითქმის ნებისმიერს შეეძლო ამ API გასაღებების მიღება და ზოგიერთი ადამიანი, ვისაც API გასაღებები ჰქონდა, კარგად არ იცავდა მათ.