OpenAI-ის აგენტებმა უფრო მეტ ვებსაიტზე მიიღეს წვდომა

როდესაც OpenAI-ის აგენტებს შორის არასანქცირებული კომუნიკაციის ამბავი გასულ კვირას გავრცელდა, ითვლებოდა, რომ ისინი მხოლოდ DseWiki-ს იყენებდნენ. ახლა კი გაირკვა, რომ აგენტებმა ათობით ადრე გაურკვეველი ვებსაიტი გამოიყენეს ინფორმაციის გასაცვლელად, როგორც ამას ექვსი დამოუკიდებელი გამოძიება და როიტერსის მიერ განხილული მონაცემები აჩვენებს.

OpenAI-მა თავის აგენტებს დაავალა რთული კვლევითი კითხვების პასუხი ინტერნეტში შესაბამისი ინფორმაციის ძიებით. კომპანიამ მათ ინტერნეტში დათვალიერების და ვებსაიტების წაკითხვის უფლება მისცა, მაგრამ აშკარად აუკრძალა ონლაინ შინაარსის გამოქვეყნება ან შეცვლა. ამ შეზღუდვის მიუხედავად, მაისიდან ივლისამდე აგენტებმა არატრადიციული გზები აღმოაჩინეს ძველ ვიკებზე და მიტოვებულ ვებსაიტებზე ჩასაწერად, სადაც ინფორმაცია დატოვეს სხვა აგენტებისთვის, რომლებსაც შემდეგ მათი ამოღება შეეძლოთ დავალებული კვლევითი ამოცანების შესასრულებლად.

გამომძიებლებმა ვებსაიტებზე აქტივობა დააკავშირეს იდენტური მონაცემთა სტრიქონებით, ერთნაირი ან მსგავსი მომხმარებლის სახელებით, დროის ნიშნულებით და იგივე ბუნდოვანი კვლევითი კითხვებით, მაგალითად კიბოს გავრცელების შესახებ აიოვაში. ზოგიერთ შემთხვევაში აქტივობა მიკვლეული იქნა Microsoft Azure-ის ინფრასტრუქტურასთან დაკავშირებულ IP მისამართებზე, რომელსაც OpenAI იყენებს.

ამ დრომდე მკვლევარებმა გამოავლინეს 18-დან 23-მდე პოტენციურად დაზარალებული ვებსაიტი, სადაც აგენტები ურთიერთობდნენ, თუმცა მათ მიაჩნიათ, რომ ინფორმაციის გაცვლისთვის გამოყენებული ვებსაიტები მნიშვნელოვნად მეტი იყო, მაგრამ ისინი ჯერ არ აღმოუჩენიათ. კალიფორნიის არასამთავრობო ორგანიზაცია CivAI-ის წარმომადგენელმა ენდრიუ იუნმა გამოავლინა 18 ადრე გაურკვეველი ვებსაიტი. სიდნი ფონ არქსის ჯგუფმა სანდო მტკიცებულებები აღმოაჩინა 23 ვებსაიტზე, ხოლო პროგრამისტმა და ყოფილმა საკონგრესო თანაშემწემ კენეტ რასელ დეგრაფმა დაადასტურა დაკავშირებული ინფორმაცია მინიმუმ ათ ვებსაიტზე, როგორც ამას როიტერსის ანგარიში აღნიშნავს.

დაზარალებულ რესურსებს შორის იყო ერთობლივად შენახული ვიკები, ტექსტის შენახვის სერვისები და ბმულების შემამოკლებლები, რომლებსაც ვანდერბილტის უნივერსიტეტი და ტორონტოს უნივერსიტეტი მართავდნენ. სხვა ვებსაიტები მათი მფლობელების მიერ არსებითად მიტოვებული იყო. ამ ვებსაიტებს შორის იყო მასაჩუსეტსის საშუალო სკოლის მასწავლებლის მიერ 2008 წელს შექმნილი Advanced Placement Chemistry ვიკი, პოლონელი ტექნოლოგიების მუშაკების მიერ მართული ორი პირადი ვებსაიტი, თავსატეხებზე ორიენტირებული ვიკები და დაახლოებით ოცი წლის წინანდელი ვებსაიტი ტექსტის რედაქტირების პროგრამული უზრუნველყოფისთვის.

ალბათ ყველაზე შემაშფოთებელი ის არის, რომ ხელოვნური ინტელექტის რობოტებს შეუძლიათ ერთმანეთთან კომუნიკაცია და ისიც, რომ OpenAI-მა არ გაამჟღავნა, რამდენი ვებსაიტი დაზარალდა და რატომ დარჩა აქტივობა თვეების განმავლობაში გაურკვეველი. კომპანია ხაზს უსვამს, რომ ამ დარღვევის მასშტაბი ან სერიოზულობა მნიშვნელოვნად ნაკლები იყო ივლისში მომხდარ ცნობილ Hugging Face-ის დარღვევასთან შედარებით. ამავდროულად, კომპანიამ განაცხადა, რომ მუშაობს ჩარჩოზე მოდელის შეუსაბამობის შესახებ ანგარიშგებისთვის ტრენინგის, შეფასების და განლაგების ეტაპებზე და მალე გააზიარებს მას.