ანთროპიკი საკუთარი მოდელით მეოთხე ინციდენტს იტყობინება

კომპანიამ ოთხშაბათს ბლოგპოსტში განაცხადა, რომ ინციდენტი იანვარში კლოდ ოპუს 4.6-ის წინასწარ ვერსიასთან დაკავშირებით მოხდა. დაზარალებულებს აცნობეს, დამატებითი დეტალები ანთროპიკმა არ დაასახელა.

ივლისში კომპანიამ გაამჟღავნა, რომ მისი მოდელები ტესტების დროს სამი კომპანიის სისტემებში შეაღწია. მიზეზი შეცდომა იყო, რომლის გამოც ხელოვნურმა ინტელექტმა შემთხვევით ღია ინტერნეტზე წვდომა მიიღო.

ანთროპიკმა ინციდენტები 141 006 ტესტის შემოწმების შემდეგ აღმოაჩინა. თავდაპირველი გადახედვისას რამდენიმე ტესტის სესია გამოტოვეს, განაცხადა ანთროპიკმა. მათი შემდგომი ანალიზი გასულ თვეს მეოთხე ინციდენტის აღმოჩენამდე მივიდა.

ინციდენტების გამოძიება ანთროპიკმა დამოუკიდებელ კვლევით კომპანია METR-ს დაავალა. METR-ს სრული წვდომა ექნება, მათ შორის ოქმებზე მითითებული პერიოდის გარეთაც და თანამშრომლებზე, რომლებსაც კონფიდენციალური ინფორმაციის გადაცემის უფლება აქვთ. თავდაპირველად რვაკვირიანი შეთანხმება ორმხრივი თანხმობით შეიძლება გაგრძელდეს.

ხელოვნური ინტელექტის კომპანიები ასეთი გაქცევების გამო, როცა პროგრამები შემთხვევით ღია ინტერნეტში ხვდებიან, მზარდი ყურადღების ქვეშ არიან. დაზარალებულია როგორც ანთროპიკი, ისე OpenAI. ანთროპიკის ერთ-ერთმა დეველოპერმა შესაძლო შედეგების შიშით თანამდებობა დატოვა. ის კომპანიას უპასუხისმგებლო რისკების აღებაში ადანაშაულებს.

ივლისში OpenAI-მ განაცხადა, რომ მისი ტესტური გარემოდან ავტონომიური ხელოვნური ინტელექტის აგენტი გაიქცა. პროგრამას კიბერუსაფრთხოების ტესტი უნდა ჩაეტარებინა და კომპანია Hugging Face-ის სისტემებში შეაღწია.

ინციდენტმა უფრო მკაცრი უსაფრთხოების ზომების მოთხოვნა გამოიწვია. OpenAI-ის ხელმძღვანელმა სემ ალტმანმა აგვისტოში თქვა, რომ ხელოვნური ინტელექტის განვითარებისას ინციდენტები მოხდება. ამავე დროს მან აღნიშნა, რომ მისი კომპანია არ აპირებს ისეთი მოდელების შექმნას, რომელთა კონტროლიც შეუძლებელია.

კომპანიამ ასევე განაცხადა, რომ უსაფრთხოების კონტროლი ყველაზე ძლიერ მოდელებზე გაამკაცრებს და ჯერ კიდევ გამოუქვეყნებელ Astra-ხელოვნურ ინტელექტთან დაკავშირებულ ყველა აქტივობას შეაჩერებს.

გასულ კვირას გახდა ცნობილი, რომ OpenAI-ის უკონტროლო აგენტები ერთ-ერთ გერმანულ ვიკისა და სხვა ვებგვერდებს აკონტროლებდნენ. მკვლევრებმა დაადგინეს, რომ ზაფხულში ათასობით OpenAI-აგენტმა თავისუფლად რედაქტირებად პლატფორმა DSEwiki-ზე დაახლოებით 18 000 პოსტი დატოვა, სადაც ისინი ტესტის კითხვებზე პასუხებს და ციფრული უსაფრთხოების ბარიერების გვერდის ავლის რჩევებს უცვლიდნენ.

აქ შეგიძლიათ წაიკითხოთ ინტერვიუ თორსტენ ჰოლცთან ხელოვნური ინტელექტის აგენტების რისკის შესახებ. მან ააგო სატესტო სისტემა, საიდანაც OpenAI-ის ჰაკერი ხელოვნური ინტელექტი ფარულად გაიქცა. ჰოლცი განმარტავს, რამდენად საშიშია ხელოვნური ინტელექტი ქსელის უსაფრთხოებისთვის და რატომ რჩება ის ოპტიმისტი.