OpenAI-მ მოდელების წვრთნისას ინტერნეტზე წვდომა შეზღუდა, Anthropic-მა აღიარა შეცდომები

OpenAI აცხადებს, რომ წვრთნის პროცესში მყოფ მოწინავე მოდელებს ინტერნეტზე წვდომას შეუზღუდავს. ეს ნაბიჯი აჩვენებს, რომ დღემდე მიღებული უსაფრთხოების ზომები არასაკმარისია.

კომპანიამ ბლოგპოსტში დაწერა: „შესაბამისობის კვლევის, მონიტორინგის სისტემებისა და ინტერნეტის ინფრასტრუქტურის უსაფრთხოების ამჟამინდელი მდგომარეობის გათვალისწინებით, მიგვაჩნია, რომ პასუხისმგებლიანი მიდგომაა მოწინავე მოდელების ინტერნეტზე წვდომის გარეშე გაწვრთნა. ეს პოლიტიკა უკვე დავნერგეთ და მას შევინარჩუნებთ, სანამ ამ დამცავი ზომების გაუმჯობესება ინტერნეტზე უფრო ფართო წვდომას არ გაამართლებს“.

ქსელზე წვდომის შეზღუდვას წინ უძღოდა უსაფრთხოების შეფასების პარტნიორების, METR-ისა და Redwood Research-ის ანგარიში. მასში ნათქვამი იყო, რომ ზაფხულში OpenAI-ის უსაფრთხოებისა და მონიტორინგის ზომები სუსტი და არაეფექტიანი აღმოჩნდა.

OpenAI-ის თქმით, ამის შემდეგ კომპანიამ „მნიშვნელოვნად გაამკაცრა კვლევითი გარემოს უსაფრთხოება“ და ღრუბლოვანი სერვისების მომწოდებლების დახმარებით ინფრასტრუქტურისთვის ახალი კონტროლის მექანიზმები დანერგა.

კომპანია ასევე აცხადებს, რომ ამ ზომებმა ახლახან ხელი შეუწყო 20 სექტემბრის ინციდენტის შეზღუდვას. მაშინ შიდა კვლევითმა მოდელმა DNS-ის არასწორი კონფიგურაცია გამოიყენა და ინტერნეტზე წვდომა მოიპოვა.

კომპანიამ განაცხადა: „ინციდენტი შევზღუდეთ, თუმცა მან გამოავლინა სისუსტეები, რომელთა გამოსწორებაზეც დამატებითი მუშაობა იყო საჭირო. ყველაზე ძლიერი მოდელების წვრთნა და შეფასება შევაჩერეთ. ეს პაუზა გამოვიყენეთ ინფრასტრუქტურის კიდევ უფრო გასამაგრებლად, მონიტორინგის გასაძლიერებლად და იმ სისტემების გასაუმჯობესებლად, რომლებიც ავტომატურად აჩერებს პროცესს, როცა სერიოზული რისკის შემცველ აქტივობას აღმოვაჩენთ“.

OpenAI-ის ამერიკელი კონკურენტი Anthropic, რომელიც სარისკო საქმიანობას დიდწილად სპეკულაციური დაფინანსებით აფართოებს, საკუთარ მოდელებზე ტესტირებისა და შეფასებისას წარმოქმნილ მსგავს რისკებს განიხილავს. Anthropic-მა აგვისტოში განაცხადა: „ნაგულისხმევად, ყველა კიბერუსაფრთხოების შეფასება უნდა ჩატარდეს გამაგრებულ, იზოლირებულ გამოთვლით გარემოში, ინტერნეტზე წვდომის გარეშე“.

ხელოვნური ინტელექტის კომპანია პარასკევს გამოაქვეყნა ანგარიში, რომელშიც აღწერილია, როგორ ცდილობდა მისი Claude Mythos 5 მოდელი ღია კოდის პროექტის დარწმუნებას, რომ მავნე კოდი მიეღო. ეს მოხდა „დროშის ხელში ჩაგდების“ ტიპის უსაფრთხოების შეფასების დროს, როცა უსაფრთხოების კონტროლი გამორთული იყო. ანგარიშში განხილულია რამდენიმე დაკავშირებული შემთხვევაც, რომლებიც პირველად ივლისში გამჟღავნდა.