Asymmetric Security-ის ცნობით, აგენტებმა 55 ორგანიზაციის მონაცემებზე წვდომა მიიღეს.
წყარო: The Register. ქართული თარგმანი: შიკრიკი.
OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worse

ტექსტი ავტომატურად ითარგმნა. წყარო: The Register.
OpenAI-ის აგენტები არაერთხელ გასცდნენ მათთვის განსაზღვრულ ფარგლებს. ეს მოქმედებები ორ ცალკეულ ანგარიშშია აღწერილი. სემ ალტმანის კომპანიამ განაცხადა, რომ მოდელების შესაძლო პრობლემური მოქმედებების შესახებ 100-ზე მეტ ორგანიზაციას შეატყობინა.
OpenAI-მ ოთხშაბათს გვიან Hugging Face-ზე მიმდინარე გამოძიების განახლებაში აღნიშნა, რომ 100-ზე მეტ ორგანიზაციას აცნობა მათი სისტემებისადმი „არასწორად ორიენტირებული მოდელების“ შესაძლო წვდომის შესახებ.
OpenAI-მ განახლებაში დაწერა: „შეტყობინება არ ნიშნავს, რომ ვინმემ კერძო ინფორმაციაზე წვდომა მიიღო ან მესამე მხარის რომელიმე სისტემა გატეხა“.
ციფრული ექსპერტიზისა და ინციდენტებზე რეაგირების სტარტაპმა Asymmetric Security-მა ხუთშაბათს ცალკე ანგარიში გამოაქვეყნა. კომპანიის ცნობით, OpenAI-ის კონტროლიდან გასულმა აგენტებმა 55 ორგანიზაციის მონაცემებზე წვდომა მიიღეს. მათ შორისაა აშშ-ის განათლების დეპარტამენტი, გაეროს ვაჭრობისა და განვითარების ორგანიზაცია, აშშ-ის ეკონომიკური ანალიზის ბიურო და MAX.gov, რომელიც ფედერალური ბიუჯეტის დოკუმენტებს შეიცავს. სიაში ასევე მოხვდა დაავადებათა პრევენციისა და კონტროლის ევროპული ცენტრი, აშშ-ის ფასიანი ქაღალდებისა და ბირჟების კომისია, ენერგეტიკის საერთაშორისო სააგენტო და გამოძიების ფედერალური ბიუროს დანაშაულის მონაცემთა პლატფორმა.
Asymmetric-მა ამ სიის შესადგენად მხოლოდ საჯაროდ ხელმისაწვდომი მონაცემები გამოიყენა. კომპანიის თქმით, მოქმედებები მარტიდან სექტემბრამდე მიმდინარეობდა. ანგარიშის თანახმად, აგენტების მიერ ჩატარებული შემოწმებები მიუთითებს, რომ მათ საზოგადოებრივი ჯანმრთელობისა და სხვა მონაცემების კვლევა დაევალათ, შესაძლოა, შეფასების ფარგლებში.
Asymmetric-მა განაცხადა: „ჩვენ სატესტო გარემოებზე წარმატებული წვდომა აღმოვაჩინეთ. ასევე ვიპოვეთ თავდამსხმელთა სადაზვერვო მეთოდების გამოყენებისა და ვებსაიტების უფრო ფართო ჯგუფის შემოწმების მტკიცებულებები“. ამ ვებსაიტებს შორის იყო აშშ-ის დაავადებათა კონტროლისა და პრევენციის ცენტრი, ფასიანი ქაღალდებისა და ბირჟების კომისია, ენერგეტიკის საერთაშორისო სააგენტო და მეიოს კლინიკა. გამოძიებამ რამდენიმე „ახალი მეთოდიც“ გამოავლინა. აგენტებმა ისინი იზოლირებული გარემოდან გასაღწევად და ინტერნეტზე სრული წვდომის მისაღებად გამოიყენეს.
ანგარიშის ავტორებმა დაწერეს: „ზოგიერთმა მეთოდმა ჩანაწერები წაშალა ან მიუწვდომელი გახადა. ამიტომ მხოლოდ საჯარო ინფორმაციის საფუძველზე მგრძნობიარე მონაცემებზე წვდომის გამორიცხვა შეუძლებელია“.
The Register-მა OpenAI-ს ჰკითხა, იყო თუ არა Asymmetric-ის სიაში შეტანილი ორგანიზაციები მათ შორის, რომლებსაც კომპანიამ შეატყობინა. მოდელების შემქმნელმა არ დაასახელა ინფორმირებული ორგანიზაციები. თუმცა მან მანამდე ნიუ-იორკ ტაიმსს დაუდასტურა, რომ მისი აგენტები აშშ-ის განათლებისა და ვაჭრობის დეპარტამენტების, ასევე ფასიანი ქაღალდებისა და ბირჟების კომისიის ვებსაიტებს ამოწმებდნენ.
ამავე გამოცემის სხვა ამბები.
Criminals attack French postal operator subsidiary, grab contact details of 22M people
OpenAI-ის წარმომადგენელმა The Register-ს ელექტრონული ფოსტით განუცხადა: „როგორც ადრე გამოვაცხადეთ, არასწორად ორიენტირებული მოდელების მოქმედებებს ვსწავლობთ და ორგანიზაციებს ვატყობინებთ, როცა მათ სისტემებზე შესაძლო ზემოქმედებას აღმოვაჩენთ. მესამე მხარეების ანგარიშებში აღწერილ მიგნებებსაც ვიძიებთ, ჩვენს მონაცემებს ვადარებთ და საჭიროების შემთხვევაში დამატებით ინფორმაციას ვითხოვთ. ჩვენი პრიორიტეტია, დაზარალებულ ორგანიზაციებს ზუსტი და სასარგებლო ინფორმაცია მივაწოდოთ. ახალი ინფორმაციის მიღებისას მიდგომის დახვეწას გავაგრძელებთ. ჩვენ მიერ შესწავლილი მოქმედებების უმეტესობა ჩვეულებრივ კვლევით დავალებებს, მათ შორის საჯარო ვებგვერდებზე განთავსებულ მასალებზე წვდომას, მოიცავდა. ზოგიერთ შემთხვევაში საქმე სამთავრობო ვებსაიტებს შეეხო, რომლებსაც ჩვენი მოდელები ხშირად საჯარო ინფორმაციის ავტორიტეტულ წყაროებად იყენებენ“.
კონტროლიდან გასული აგენტების მიერ სისტემების გატეხვის შემთხვევების ზრდა კითხვებს აჩენს. ისინი ხელოვნური ინტელექტის მწარმოებლების მიერ გამოცდისას დაცულ უსაფრთხოებას ეხება. ამ შემთხვევებმა ასევე გააძლიერა მოწოდებები, რომ მოდელების დანაშაულებრივ მოქმედებებზე ხელოვნური ინტელექტის კომპანიების ხელმძღვანელებს სამართლებრივი პასუხისმგებლობა დაეკისროთ.
საფრთხეების გამოვლენის სტარტაპ Horizon3-ის აღმასრულებელი დირექტორი სნეჰალ ანტანი აგენტებს ქმნის და ცდის. ანტანის თქმით, ტერმინი „არასწორი ორიენტაცია“ მოწინავე მოდელების შემქმნელებს პასუხისმგებლობისგან ზედმეტად ადვილად ათავისუფლებს.
ანტანიმ The Register-ს უთხრა: „არასწორად ორიენტირებული მოდელის ინციდენტი, არსებითად, რთული ფორმით ნიშნავს, რომ მოდელმა დადგენილი ფარგლები არ დაიცვა ან ასეთი ფარგლები საერთოდ არ ჰქონდა. გარემოდან გასვლის აღმოსაჩენად არც აუდიტის ჩანაწერები და არც დაკვირვების საშუალებები არსებობდა, ხოლო მოდელმა მესამე მხარის სისტემებზე უნებართვოდ წვდომა მიიღო“.
ანტანიმ დასძინა: „პასუხისმგებლობა იმ ლაბორატორიებს ეკისრებათ, რომლებიც ამ მოდელებს ქმნიან და ნერგავენ. უსაფრთხოებისა და დაცულობის დაპირისპირება მათ პასუხისმგებლობის თავიდან არიდების საშუალებას აძლევს. უსაფრთხოების პრიორიტეტად ქცევის მოტივაცია არ აქვთ, რადგან მთავარი სისწრაფეა“.
OpenAI-ის მიერ კონტროლიდან გასულ აგენტზე უახლესი ინფორმაციის გამჟღავნებას მისი და ყველა სხვა მსხვილი ხელოვნური ინტელექტის კომპანიის მოდელებთან დაკავშირებული უსაფრთხოების თითქმის ყოველდღიური პრობლემები დაემთხვა.
გასულ პარასკევს OpenAI-მ თავისი ყველაზე მოწინავე მოდელების წვრთნა ჩუმად შეაჩერა. კომპანია მანამდე აღიარებდა, რომ ერთმა აგენტმა გარე ჩატბოტთან დასაკავშირებლად დომენური სახელების სისტემა გამოიყენა.
ორშაბათს OpenAI-მ GPT-6.1 Astra-ს დაგეგმილი გამოშვება გადადო. მოდელმა წინამორბედზე მეტად გამოავლინა მოტყუების უნარი. მათ შორის, იგი მომხმარებლებს ყოველთვის ზუსტად არ ეუბნებოდა, რომელი მოქმედება შეასრულა ან არ შეასრულა. გაერთიანებული სამეფოს ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის ცნობით, მოდელმა იმიტირებულ უსაფრთხოების შეფასებებში მოთხოვნის გარეშე მიწოდების ჯაჭვებზე თავდასხმებიც განახორციელა.
ოთხშაბათს OpenAI-მ კონკურენტი ჩინური მოდელების მწარმოებელი Moonshot AI დისტილაციაში დაადანაშაულა. ეს, არსებითად, OpenAI-ის მოდელების მსჯელობის მასშტაბურ კოპირებას ნიშნავს. კომპანიის განცხადებით, ასეთი მოქმედება ეროვნულ უსაფრთხოებას საფრთხეს უქმნის.
პარასკევს დილით OpenAI-მ The Register-ს დაუდასტურა, რომ მგრძნობიარე კორპორაციული ინფორმაციის სავარაუდო არასწორი მოპყრობის გამო უსაფრთხოების ორი მკვლევარი და პროგრამის მენეჯერი გაათავისუფლა.
თემებისემ ალტმანისნეჰალ ანტანიAsymmetric SecurityHorizon3Moonshot AIOpenAIThe Registerგაერთიანებული სამეფოს ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტიGPT-6.1 Astra
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 3 ოქტომბერი, 2026

US extends chip sale restrictions to more Asian countries to reduce risk of ‘diversion’ to China
Attackers are using AI agents to automate cybercrime at 'industrial scale,' FBI and AWS warn
სხვა ამბები ამ განყოფილებიდან.

Crook turns free trials into phishing factory, as LearnWorlds sends 13,000 fake YouTube copyright notices

Anthropic says Claude Mythos Preview cut AMD MI355X onboarding from up to 12 months to around three days

Amazon’s Starlink rival sees major setback after 40 satellites destroyed in rocket failure
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.