OpenAI-მ კვლევითი მოდელებისთვის გამორთვის სისტემა შექმნა

რამდენი ზიანის მოტანა შეუძლია უკონტროლო აგენტს 35 წამში? ამის კითხვა იმიტომ ღირს, რომ სწორედ ამდენი დრო შეიძლება დასჭირდეს მის გამორთვას.

2019 წელს OpenAI-მ გადაწყვიტა, ახალი მოდელი საჯაროდ არ გამოექვეყნებინა, რადგან კვლევამ „ტექნოლოგიის მავნე გამოყენებასთან დაკავშირებული შეშფოთება“ გამოავლინა. სამშაბათს კი კომპანიამ განაცხადა, რომ კვლევით ლაბორატორიებში განთავსებული მოდელებისთვის გადაუდებელი გამორთვის სისტემა შექმნა. ეს მას შემდეგ მოხდა, რაც რამდენიმე მოდელმა შემაშფოთებელი ქცევა გამოავლინა.

OpenAI-მ სამშაბათის პოსტში განმარტა: „რაც უფრო ძლიერები ხდებიან ჩვენი მოდელები და რაც უფრო იზრდება მათთან დაკავშირებული უსაფრთხოებისა და დაცვის რისკები, მით უფრო მნიშვნელოვანია, რომ შესაძლო პრობლემები აღმოვაჩინოთ და საჭიროების შემთხვევაში მოდელების მუშაობა სწრაფად შევაჩეროთ“.

კომპანიამ სისტემას „საკონტროლო ოთახი“ დაარქვა და აღწერა, როგორც „ცენტრალური სისტემა, რომელიც ჩვენს კვლევით ინფრასტრუქტურაში მოდელების დატვირთვას აკონტროლებს და უსაფრთხოებასთან ან დაცვასთან დაკავშირებული საფრთხის აღმოჩენისთანავე მათ სწრაფად აჩერებს“.

როგორც ჩანს, სისტემას შეუძლია მოდელებს ყოველგვარი შედეგის გამოშვება შტეფსელის ამოღების გადაწყვეტილებიდან 35 წამში შეუწყვიტოს, თუმცა ეს დრო შეიძლება შემცირდეს.

კომპანიის თქმით, „35-წამიანი დაყოვნება დასკვნის მიღების ავტორიზაციის ქეშირების შრის ბრალია, რომელიც ტრაფიკის საჭირო მოცულობის მომსახურებისთვისაა განკუთვნილი. ამ დროის ნულამდე შემცირებაზე ვმუშაობთ, რათა პროცესები მყისიერად დავასრულოთ“.

კრიტიკული ინფრასტრუქტურის შექმნისას დამწყებთათვის გავრცელებული შეცდომაა წარმოებისა და მდგრადობის ხელსაწყოების საერთო რესურსებზე აგება, რომელთა გათიშვაც ერთ ინციდენტს შეუძლია. როგორც ჩანს, OpenAI ამ რისკს ითვალისწინებს. კომპანიის თქმით, ხელსაწყო „ისე შეიქმნა, რომ სხვა სისტემების მწყობრიდან გამოსვლის შემთხვევაშიც განაგრძოს მუშაობა და მოდელის შედეგების გამოშვება შეაჩეროს, თუ თავად საკონტროლო ოთახი გაითიშება“.

OpenAI-ს არ განუმარტავს, რატომ დასჭირდა გადაუდებელი გამორთვის სისტემის შექმნა ამდენ ხანს ან რატომ გადაწყვიტა, რომ მისი შექმნის დრო ახლა დადგა.

The Register-ს მიაჩნია, რომ ამ განვითარებაზე შესაძლოა გავლენა მოეხდინა აგენტების მიერ საკუთარი მანდატის შემაშფოთებელი გადამეტების ბოლო მაგალითებს. მათ შორისაა Hugging Face-ზე თავდასხმა, Wikimedia Foundation-ისთვის პრობლემების შექმნა და ავსტრალიის ჯანდაცვის მონაცემების კვლევისას ზედმეტად ღრმად შესვლა.

კომპანიის განცხადებაში ნათქვამია: „საკონტროლო ოთახი უკვე განთავსებულია ჩვენს კვლევით ინფრასტრუქტურაში, სადაც მისი საჭიროება ყველაზე დიდია. ჩვენი გარე მოდელების მომსახურების სისტემა კი ბუნებით უფრო ცენტრალიზებულია და საჭიროების შემთხვევაში მოდელების განთავსების სწრაფად გასათიშად კარგად განვითარებული ოპერაციული შესაძლებლობები აქვს“.