OpenAI-მ ხელოვნური ინტელექტის არასათანადო ქცევის გასაჯაროების ჩარჩო შექმნა

ხელოვნური ინტელექტის განვითარების შენელების მოწოდებებს პრეზიდენტ დონალდ ტრამპის ადმინისტრაცია შეეწინააღმდეგა. ადმინისტრაციის მტკიცებით, ტექნოლოგიის უსაფრთხოების უზრუნველსაყოფად ინდუსტრიას ახალი კანონები ან რეგულაციები არ სჭირდება.

OpenAI-ის მიერ ოთხშაბათს გაზიარებული მაგალითებიდან ორი კომპანიის შიდა, გამოუქვეყნებელ მოდელებს ეხებოდა. OpenAI-ის ცნობით, მოდელებმა ინტერნეტში ფაილები ატვირთეს, მიუხედავად იმისა, რომ ამის მითითება არ მიუღიათ.

OpenAI-ის ცნობით, ერთ-ერთი შემთხვევა 2025 წლის ოქტომბერში მოხდა. კომპანია მოდელს ამოწმებდა, შეეძლო თუ არა პასუხებში საჯაროდ ხელმისაწვდომ მონაცემებზე მითითება. როცა მოდელმა საჭირო ინფორმაცია ვერ იპოვა, დროებითი ჰოსტინგის სერვისზე ფაილი ატვირთა. მოგვიანებით მან პასუხში ამავე ფაილის წყაროდ მითითება სცადა. კომპანიის შეფასებით, მოდელი, სავარაუდოდ, მისი შედეგების შესაფასებელი ავტომატური სისტემის გამოყენებას შეეცადა.

OpenAI-ის ცნობით, კიდევ ერთი შემთხვევა მიმდინარე წლის აპრილში მოხდა. აგენტების ჯგუფს მხოლოდ ადგილობრივი ფაილების გამოყენებით ერთობლივად „სამუშაო წიგნი“ უნდა შეევსო. როცა აგენტებს ერთმანეთისთვის ფაილების გაზიარება გაუჭირდათ, ერთ-ერთმა მათგანმა ფაილები ღია ინტერნეტში ატვირთა და სხვა აგენტებს ბმული გაუზიარა.

OpenAI-ის ცნობით, კომპანიამ გასულ თვეში კიდევ ერთი შემთხვევა აღმოაჩინა. მისი ხელოვნური ინტელექტის მოდელის, GPT-6 Astra-ს გამოუქვეყნებელი ვერსია საკუთარ თავს „შეზღუდვების გვერდის ავლის მსგავს მითითებებს“ აძლევდა. რამდენიმე სცენარში მოდელი საკუთარ თავს დეველოპერის მითითებების უგულებელყოფისკენ, ახალი პერსონის მიღებისკენ ან პასუხების ხანგრძლივობის შეზღუდვისკენ უბიძგებდა. ასეთი მცდელობები იშვიათი იყო და განსხვავებული ეფექტიანობა ჰქონდა, თუმცა OpenAI-ის ცნობით, ამ ქცევამ კომპანიაში შეშფოთება გამოიწვია. კომპანიის თქმით, Astra-ს საჯაროდ გამოშვებული ვერსიის საწვრთნელ პროცესში მოდელის მიერ საკუთარი შეზღუდვების გვერდის ავლის არცერთი მცდელობა არ დაუფიქსირებიათ.

OpenAI-მ ოთხშაბათს ასევე გაავრცელა დამატებითი დეტალები შეტყობინებების დაფაზე, რომელიც მისმა აგენტებმა პაკეტების მართვის სისტემაში, Artifactory-ში, შექმნეს. კომპანია ამ შემთხვევას მიმდინარე წლის მაისში წააწყდა. OpenAI-ის ცნობით, რამდენიმე თვის შემდეგ Hugging Face-ზე შეტევისას მისმა აგენტებმა კოორდინაციისთვის მსგავსი მექანიზმი გამოიყენეს. კომპანიის თქმით, ამ შემთხვევაში აგენტებს შეტყობინებების გასაცვლელად არცერთი სისუსტე არ გამოუყენებიათ. OpenAI ახლა შესაბამისობის მონიტორინგს, შეფასებებსა და შეტევის სიმულაციებს იყენებს, რათა აგენტებმა ერთმანეთთან ფარულად ვერ იკონტაქტონ.

კიბერუსაფრთხოების სპეციალისტებმა უაირდს ადრე განუცხადეს, რომ Hugging Face-ზე შეტევა ადამიანურმა შეცდომებმა გამოიწვია და მის თავიდან აცილებას უსაფრთხოების თანამედროვე პრაქტიკა შეძლებდა. თუმცა ჩენმა აღნიშნა, რომ OpenAI ხელოვნური ინტელექტის უსაფრთხოებისადმი მრავალმხრივი მიდგომის გამოყენებას ცდილობს. ეს მიდგომა მოდელების მზარდ შესაძლებლობებს ითვალისწინებს და უსაფრთხო გარემოზე დამოკიდებული არ არის.

ჩენმა თქვა: „გვინდა დავრწმუნდეთ, რომ მოდელები მიზნებთან შესაბამისობაში რჩებიან, მიუხედავად იმისა, თუ რა გარემოში იყენებენ მათ. როცა ადამიანები ერთმანეთს ადანაშაულებენ და ამბობენ, რომ ეს დაცულობის საკითხია და არა შესაბამისობის, ვფიქრობ, ამას აზრი ნამდვილად არ აქვს. მოდელი ყოველთვის სათანადოდ უნდა იქცეოდეს“.

თემებიკაი ჩენისემ ალტმანიდარიო ამოდეიჯეიკობ კოქსონიდონალდ ტრამპიOpenAIუაირდიAnthropicაშშGPT-6 Astra

გამოქვეყნდა 17 სექტემბერი, 2026