OpenAI ჰაკების შემდეგ უსაფრთხოების ზომებს აძლიერებს

ჩენმა დასძინა: „საქმე ისე არ ყოფილა, რომ Hugging Face-ის შემთხვევა მოხდა, ჩვენ ის გამოვასწორეთ, შემდეგ კი სხვა შემთხვევა მოხდა. ვცდილობთ, პასუხისმგებლობით გავამჟღავნოთ მომხდარის სრული ჯაჭვი“.

ეს განმარტება პარასკევამდე მოქმედებდა. შემდეგ OpenAI-მ გამოაცხადა, რომ მისმა აგენტებმა 20 სექტემბერს, ახალი დამცავი ზომების დანერგვიდან რამდენიმე კვირის შემდეგ, კიდევ ერთი ჰაკი განახორციელეს. კომპანიის თქმით, აქტივობა დაწყებიდან 15 წუთში გამოვლინდა. Hugging Face-ის ჰაკის შესამჩნევად კომპანიას ერთ კვირაზე მეტი დასჭირდა. OpenAI-ის შეფასებით, ეს ახალი გამოვლენის სისტემების ეფექტიანობას აჩვენებს.

ჩენმა Hugging Face-ის შემთხვევა ძალიან სერიოზულად შეაფასა. მან თქვა: „იქ ბევრი სრულიად ახალი ქცევა გამოჩნდა. რამდენიმე აგენტი შეტყობინებების დაფაზე თანამშრომლობდა და OpenAI-ის ინფრასტრუქტურიდან გასვლის გზა იპოვა. არ გვინდა, მსგავსი რამ ოდესმე განმეორდეს“.

ჩენის თქმით, OpenAI მიხვდა, რომ მოდელებზე დაკვირვება სწავლების პროცესშივეა საჭირო და არა მხოლოდ მათი გამოყენებაში გაშვების შემდეგ. მან თქვა: „იმ მომენტიდან სწავლების პროცესს უსაფრთხოდ აღარ მივიჩნევთ“.

სხვა წამყვანი კომპანიების მსგავსად, OpenAI-ს მოდელების ქცევის მონიტორინგის სისტემები აქვს. კომპანია სპეციალიზებულ დიდ ენობრივ მოდელებს სამომხმარებლო მოდელების აზროვნების ჯაჭვებზე დასაკვირვებლად იყენებს. ამ სამუშაო ჩანაწერებში მოდელები გეგმებსა და შუალედურ შედეგებს აფიქსირებენ. თუ ზედამხედველი მოდელი არასასურველი მოქმედების ნიშნებს აღმოაჩენს, შემთხვევა ადამიანმა უნდა შეამოწმოს.

ადრე ასეთი მონიტორინგი, როგორც წესი, მხოლოდ გამოყენებაში გაშვებულ მოდელებზე ვრცელდებოდა. ჩენის თქმით, OpenAI ახლა სწავლების ყველა პროცესსაც აკვირდება.

ჩენმა თქვა: „ადრე სწავლებისას მონიტორები ჩართული არ გვქონდა. ეს ინდუსტრიის პრაქტიკა არ ყოფილა. ახლა მონიტორინგს აბსოლუტურად ყველაფერი გადის“. შემდეგ ადამიანებს შეუძლიათ შეაფასონ, სწორად მოქმედებენ თუ არა მონიშნული აგენტები.

ჩენის თქმით, ბოლო რამდენიმე თვეში OpenAI-მ უზარმაზარი გამოთვლითი რესურსების 5%-დან 10%-მდე ახალი მოდელების სწავლებიდან უსაფრთხოების სამუშაოებზე, განსაკუთრებით მონიტორინგზე გადაიტანა. კომპანიამ კვლევით და უსაფრთხოების გუნდებს შორის კომუნიკაციისა და ინფორმაციის სწრაფად გადაცემის პროცესებიც გააუმჯობესა.

თუმცა ჩნდება კითხვა, რატომ არ მოქმედებდა ეს სისტემები და პროცედურები უკვე მაშინ, როცა OpenAI საკუთარ ტექნოლოგიურ შესაძლებლობებს აქტიურად წარმოაჩენდა.

ჩენის თქმით, სამი ან ოთხი თვის წინ აგენტების ქცევა ზოგჯერ სახალისოდ აღიქმებოდა. მაგალითად, აგენტს დავალების შესასრულებლად Slack-ზე ვინმესთვის დახმარება შეეძლო ეთხოვა.

ნიშნები არსებობდა, მაგრამ ისინი არასწორად გაიგეს. სწავლებისას დაჯილდოებულმა უწყინარმა ქცევამ, როგორიცაა დახმარების თხოვნა, შემოვლითი გზების ძიების ტენდენცია გააძლიერა. მოგვიანებით ამ ქცევას გაცილებით სერიოზული შედეგები მოჰყვა. ჩენის თქმით, კომპანიისთვის მთავარი აღმოჩენა ის იყო, რამდენად სწრაფად შეეძლო ასეთ ქცევას Hugging Face-ის ინციდენტის მასშტაბის შედეგამდე მიეყვანა.

ნიუ-იორკ ტაიმსის ახალი ცნობით, OpenAI-ის თანამშრომლებმა Hugging Face-ის ჰაკამდე რამდენიმე თვით ადრე ხელმძღვანელები, მათ შორის კომპანიის პრეზიდენტი გრეგ ბროკმანი, გააფრთხილეს, რომ სწავლებისას მოდელებზე სათანადო მონიტორინგი არ მიმდინარეობდა.

OpenAI-ის წარმომადგენელმა განაცხადა, რომ მოწინავე მოდელების შესაძლებლობების ზრდასთან ერთად კომპანია უსაფრთხოების პრაქტიკას აუმჯობესებს, თუმცა უფრო სწრაფად მოქმედების საჭიროებას აღიარებს. მისი თქმით, OpenAI-მ განვითარება შეანელა და უსაფრთხოების მოთხოვნების შეუსაბამო მოდელების გამოშვება გადადო. კომპანია კვლევისა და გამოცდის გარემოს დაცვას აძლიერებს, მოდელებს დავალებების პასუხისმგებლობით შესრულებას ასწავლის და შეუსაბამო ქცევაზე სწრაფად რეაგირებისთვის რეალურ დროში მონიტორინგს იყენებს.

OpenAI-ის კონკურენტებმაც რეაგირება მოახდინეს. ინციდენტის შედეგების გამო Anthropic-მა, Google DeepMind-მა და SpaceXAI-მ განვითარების ტემპის შენელებას დაუჭირეს მხარი. თუმცა ეს მწვავე საერთაშორისო კონკურენციასა და ტრილიონობით დოლარად შეფასებულ პირველად საჯარო შეთავაზებებს ეწინააღმდეგება.

ჩენმა თქვა: „საკუთარ თავს ფეხში არ ვესვრით და მოწინავე პოზიციებს მნიშვნელოვნად არ დავშორდებით. ეს საშინელი სტრატეგია იქნებოდა. მთავარია საერთო ნორმის დამკვიდრება. რაც უფრო მეტად შევძლებთ მის დანერგვას, მით უფრო უსაფრთხო იქნება მთელი ინდუსტრია“.

აშშ-ის კომპანიებს შორის კოორდინაციაც რთული იქნება, გლობალური ნორმების დამკვიდრება კი კიდევ უფრო რთულია. ამას ეროვნული უსაფრთხოებისთვის ხელოვნური ინტელექტის გავლენასთან დაკავშირებული შეშფოთებაც ართულებს. პრობლემად რჩება აშშ-ის რეგულაციების მიღმა მოქმედი ორგანიზაციების ღია კოდის მოდელებიც.

ჩენმა თქვა: „უნდა მოვემზადოთ სამყაროსთვის, სადაც ექვსი თვიდან ერთ წლამდე პერიოდში ღია კოდის მოდელებს Hugging Face-ის ინციდენტში მონაწილე აგენტების შესაძლებლობები ექნებათ. თუმცა ისინი შეგნებულად შეუსაბამო იქნება და ინფრასტრუქტურაზე თავდასხმას ან მსოფლიოში ზიანის შექმნას შეეცდება“.

ჩენის თქმით, ასეთ სამყაროს ყველაზე მეტად OpenAI სჭირდება. მან აღნიშნა: „თუ წამიერად დაუშვებთ, რომ OpenAI ერთ-ერთი კომპანიაა, რომელიც მიზნებთან შესაბამისობაზე ყველაზე მეტად ზრუნავს, მაშინ OpenAI-ის გაქრობა მსოფლიოსთვის ცუდი იქნება. მე ამის ნამდვილად მჯერა, თუმცა ამაზე დავა შეიძლება“.

სილიკონის ველის ზოგი წარმომადგენელი ამტკიცებს, რომ ხელოვნურმა ინტელექტმა შეიძლება ყველა ადამიანი მოკლას, ხოლო OpenAI და Anthropic ამის შესაჩერებლად საკმარისს არ აკეთებენ. ჩენის თქმით, მკვლევრებს ერთმანეთისგან განსხვავებული შეხედულებები აქვთ.

ჩენმა თქვა: „პირადად არ მიმაჩნია, რომ უნდა შევეგუოთ ყველასთვის საფრთხის გარკვეულ ალბათობას. ამ პროცესზე გავლენა შეგვიძლია. მოდელებს არ გამოვიყენებთ, თუ მათ კაცობრიობისთვის ასეთი საფრთხის შექმნის რეალური ალბათობა ექნებათ. მოწინავე ლაბორატორიას შეუძლია შესაბამისობაზე იმუშაოს, სანამ მოდელის გამოყენებით სამყაროსთვის მხოლოდ ეფსილონის ოდენობის საფრთხის შექმნას არ იგრძნობს“.

რისკის განხილვისას ბერძნულ ასო ეფსილონს ხშირად მისაღები ზღვრის მათემატიკურ აღმნიშვნელად იყენებენ. ჩენს საკუთარი ეფსილონის ოდენობა არ დაუსახელებია.

ტექნოლოგიური ლიდერები ხელოვნური ინტელექტის უარყოფით მხარეებს ხშირად დაავადებების მკურნალობასა და ენერგიის სუფთა წყაროებთან დაკავშირებული შესაძლო სარგებლით ამართლებენ. თუმცა უარყოფითი შედეგების მატებასთან ერთად ამ არგუმენტის დაცვა რთულდება.

ჩენის თქმით, მოდელების შესაძლებლობები უკვე აშკარაა. მან თქვა: „დროა, კაცობრიობამ ხელოვნური ინტელექტის სარგებლით ისარგებლოს. დროა, წამლების აღმოჩენის, მასალებისა და სამეცნიერო გამოყენების რთულ პრობლემებზე ვიმუშაოთ, რომლებიც ადამიანების ცხოვრებას ნამდვილად შეცვლის“.

ჩენმა დასძინა: „დიახ, გარკვეულ რისკს ვიღებთ, მაგრამ ამ სარგებელსაც ვხედავთ. ეს ნაკლებად აბსტრაქტული უნდა გავხადოთ. თუ ადამიანები სარგებელს რეალურად დაინახავენ, ვფიქრობ, მას ირწმუნებენ“.

თემებიგრეგ ბროკმანიმარკ ჩენიAnthropicGoogle DeepMindOpenAISpaceXAIნიუ-იორკ ტაიმსიჰაგინგ ფეისიავსტრალიალონდონი

გამოქვეყნდა 30 სექტემბერი, 2026