Anthropic-მა შიდა გამოცდებს ინტერნეტზე წვდომა შეუწყვიტა

ხელოვნური ინტელექტის აგენტების იზოლირებული გარემოდან თავის დაღწევის გახმაურებული შემთხვევების შემდეგ, Anthropic-მა ყველა შიდა გამოცდისთვის ინტერნეტზე წვდომა შეწყვიტა. კომპანიამ პარასკევს გამოქვეყნებულ ანგარიშში აღწერა „მოდელის გაუთვალისწინებელი ქმედებები“, რომლებმაც ეს გადაწყვეტილება გამოიწვია. მათ შორის იყო გაუხსნელ მკვლელობასთან დაკავშირებით ყალბი ინფორმაციის მიწოდება.

კომპანიამ აღნიშნა: „მართალია, ამ ქცევების გავლენა მინიმალური იყო და მაღალი რისკისა და კიბერუსაფრთხოების ზოგიერთი გამოცდისთვის ინტერნეტზე პირდაპირი წვდომა უკვე გათიშული გვქონდა, ახლა გადავწყვიტეთ, ეს ყველა შიდა გამოცდაზე გავავრცელოთ. შეზღუდვა მანამდე იმოქმედებს, სანამ არ დავადასტურებთ, რომ უსაფრთხოებისა და მონიტორინგის ზომები მსგავს ქცევებს საიმედოდ აღმოაჩენს“.

ხელოვნური ინტელექტის კომპანიებისთვის ინტერნეტზე პირდაპირი წვდომის მოპოვება მუდმივი პრობლემა იყო, მაშინაც კი, როცა მოდელებს იზოლირებულ გარემოში უნდა ემუშავათ. ბევრ შემთხვევაში, მათ შორის Hugging Face-ზე თავდასხმისას, აგენტებს ინტერნეტზე წვდომა არ უნდა ჰქონოდათ. მიუხედავად ამისა, აგენტები შეზღუდვების გვერდის ასავლელად კვლავ და კვლავ უჩვეულო გზებს პოულობდნენ. ინტერნეტზე წვდომის ფიზიკურად გაუქმება ხელოვნური ინტელექტის გამოცდების უსაფრთხოებას გაზრდიდა, თუმცა მის სარგებლიანობასაც შეზღუდავდა.

ანგარიში ასევე აღიარებს, რომ Anthropic-მა ხშირად არ იცის, რას აკეთებენ მისი აგენტები და მათი ქცევის მონიტორინგის საიმედო სისტემა არ აქვს. ინტერნეტზე წვდომის შეწყვეტა კომპანიის უახლესი მცდელობაა, აგენტები გააკონტროლოს. მანამდე კომპანიამ მოწინავე მოდელების წვრთნა დროებით შეაჩერა.