Irregular-ის შეცდომებმა ხელოვნური ინტელექტის შეტევების ტალღა გამოიწვია

ნევომ ვერჯთან დაადასტურა, რომ იგივე პრობლემა OpenAI-ის, Meta-ს, Anthropic-ისა და Google-ის მოდელებთან დაკავშირებულ შემთხვევებსაც ედო საფუძვლად. მან დასძინა: „ბოლო დროს დარგში დაფიქსირებული სხვა უსაფრთხოების შემთხვევები Irregular-ს ან ჩვენს შეფასებებს არ უკავშირდება“. მათ შორისაა Hugging Face-ზე შეტევა და გაერთიანებული სამეფოს ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის (AI Security Institute) დარღვევები.

თუმცა „გამჟღავნება“ აუცილებლად საჯაროდ გამოცხადებას არ ნიშნავს. გაურკვეველია, ნევო Irregular-ის კლიენტების, საზოგადოების თუ სხვა მხარის ინფორმირებას გულისხმობდა. ყველა შემთხვევას ერთი სატესტო ხარვეზი ედო საფუძვლად. მიუხედავად ამისა, Anthropic-ისა და OpenAI-ის ანგარიშები და Google-ის შესახებ მედიაში გავრცელებული ცნობები მიუთითებს, რომ ტექნოლოგიური კომპანიები დაახლოებით ერთდროულად, ივლისის ბოლოს გააფრთხილეს. OpenAI-მ და Anthropic-მ დარღვევები თავად გამოაცხადეს. Meta-სთან დაკავშირებული შემთხვევა ჯერ მედიით გახდა ცნობილი, Google-ის შემთხვევა კი რამდენიმე კვირის შემდეგ გაშუქდა.

Irregular-ის კიბერუსაფრთხოების გამოცდები აშშ-ის ოთხ ტექნოლოგიურ გიგანტს არ შემოიფარგლება. კომპანიის ვებსაიტზე გამოქვეყნებული კვლევის თანახმად, Irregular-მა მსგავსი გამოცდები Kimi K3-სა და GLM-5.2-ზეც ჩაატარა. ეს ჩინური კომპანიების, შესაბამისად Moonshot AI-ისა (Moonshot AI) და Z.ai-ის (Z.ai), ღია ხელოვნური ინტელექტის მოდელებია. სხვა შემთხვევებში ჩართული მოდელებისგან განსხვავებით, მათი უფასოდ ჩამოტვირთვა და მომხმარებლის საკუთარ მოწყობილობაზე გაშვება შეიძლება. Meta-მ თავისი წამყვანი Spark-ის (Spark) მოდელი დახურული დატოვა. ღია მოდელების შემთხვევაში Irregular-ის მსგავს გამომცდელებს წვდომისთვის კომპანიებზე დამოკიდებულება ან მათთვის მონაცემების გაგზავნა არ სჭირდებათ. Irregular-ის კვლევაში ისინი მომხმარებლის ინფრასტრუქტურაზე განთავსებულ სისტემებადაა აღწერილი.

ნევომ თქვა, რომ ჩინური მოდელების შეფასებებს მსგავსი რეალური შემთხვევები არ მოჰყოლია. მან აღნიშნა: „GLM-ისა და Kimi-ს შეფასებისას აქ დასახელებულ შემთხვევებში აღწერილი ტიპის პრობლემა არ შეგვიმჩნევია“. თუმცა ნევომ გააფრთხილა: „მხოლოდ ეს დაკვირვება არ უნდა მივიჩნიოთ მტკიცებულებად, რომ ეს მოდელები ასეთი ქცევის მიმართ ნაკლებად მოწყვლადია“. არც Moonshot AI-ს და არც Z.ai-ს ვერჯის კომენტარის თხოვნაზე არ უპასუხია.

ნევოს თქმით, ამ შემთხვევების შემდეგ Irregular-მა ცვლილებები შეიტანა. მან თქვა: „ინტერნეტზე წვდომის კონტროლი გავამკაცრეთ, მონიტორინგი და ხელით შემოწმება გავაფართოეთ და შეფასებების დაწყებამდე შემოწმებები გავაძლიერეთ, რათა დავრწმუნდეთ, რომ წვდომა განზრახულ ფარგლებს შეესაბამება“. მან დასძინა: „ასევე გავაუმჯობესეთ, როგორ ვაფიქსირებთ დოკუმენტურად და ვათანხმებთ პარტნიორებთან თითოეული შეფასების მოწყობასა და პარამეტრებს“.

ნევოს თქმით, ჩართულ კომპანიებთან ერთობლივი მუშაობის დასრულების შემდეგ Irregular-ი უფრო ფართო ანგარიშის გამოქვეყნებას გეგმავს. ანგარიში შეეხება „მიღებულ გაკვეთილებსა და კიბერშეფასებების უსაფრთხოდ ჩატარების პრაქტიკას“. მან თქვა: „პარტნიორებთან ჩვენი მუშაობის მიზანია, ამ შემთხვევებიდან მიღებული გაკვეთილები სულ უფრო მძლავრი ხელოვნური ინტელექტის უსაფრთხოდ შემუშავებისა და შეფასების საჯარო, საერთო პრაქტიკად ვაქციოთ“.

ნევოს თქმით, Irregular-მა სატესტო გარემოში იმ შემთხვევებთან დაკავშირებული პრობლემები მოაგვარა. აშშ-ის ხელოვნური ინტელექტის ოთხი კომპანიიდან არცერთს დამატებითი დეტალების მოთხოვნაზე არ უპასუხია. კითხვები ეხებოდა დარღვევების აღმოჩენის დროს, Irregular-ისგან ზიანის ანაზღაურების ან სხვა ზომების მოთხოვნას და მასთან თანამშრომლობის გაგრძელებას. Google-სა და Anthropic-ს პასუხი არ გაუციათ, ხოლო OpenAI-მ და Meta-მ ვერჯი ადრე გამოქვეყნებულ ბლოგპოსტებზე მიუთითეს.

თემებიომერ ნევოIrregularAnthropicOpenAIMetaGoogleHugging FaceRANDხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტიMoonshot AI

გამოქვეყნდა 25 სექტემბერი, 2026