ახალმა სისტემამ ხელოვნური ინტელექტით მართული მავნე პროგრამა აღმოაჩინა

მათ ჩარჩოს კოგნიტიური არტეფაქტების სადაზვერვო კვლევითი ქსელი (Cognitive Artifact Intelligence Research Network), შემოკლებით CAIRN, უწოდეს. სახელი ბილიკებზე მოგზაურთა მიერ გზის მოსანიშნად ან კონკრეტულ ადგილზე ყურადღების გასამახვილებლად დაწყობილი ქვების გროვებიდან მოდის. მავნე პროგრამების ავტორები ხელოვნური ინტელექტის სერვისებს სულ უფრო ფართოდ იყენებენ. Cisco Talos-ის მკვლევრებმა CAIRN-ით სრულად ავტონომიური მართვის ინფრასტრუქტურის მქონე ჰაკერული ხელსაწყო აღმოაჩინეს. CLOSEDQUORUM-ად წოდებული მავნე პროგრამა სამიზნე სისტემაში ნაბიჯებს ოთხამდე ენის დიდ მოდელთან გამოკითხვით გეგმავდა. ის ამ ერთობლივად მიღებული პასუხებიდან მითითებებს იღებდა.

Cisco Talos-ის უსაფრთხოების მკვლევარმა და CAIRN-ის შემუშავების ხელმძღვანელმა რაიან ფეტერმანმა თქვა: „მთავარი იდეა ისაა, რომ ხელოვნური ინტელექტის ინტეგრაცია ანაბეჭდების მსგავს კვალს ტოვებს. ეს გვაძლევს სიგნალს, რომლითაც ნიმუშებს ვაკვირდებით, მათ კლასიფიკაციას ვახდენთ და მიმდინარე მოვლენებს ვსწავლობთ. რას ცდილობენ თავდამსხმელები? რა სახის ახალი ქცევები ჩნდება? როცა ასეთი ხელსაწყოები უფრო ფართოდ გავრცელდება, ეს თავდაცვის სფეროსთვის ღირებული რესურსი იქნება“.

უკრაინის კიბერუსაფრთხოებაზე რეაგირების ჯგუფმა CERT-UA-მ 2025 წლის ივლისში აღმოჩენილი ფიშინგკამპანიის შესახებ გააფრთხილა. კამპანია „LAMEHUG-ის“ სახელით ცნობილ მავნე პროგრამას იყენებდა. ჩანერგილი პროგრამა ბრძანებების მისაღებად Hugging Face-ის API-ის მეშვეობით ენის დიდ მოდელს Qwen2.5-Coder-32B-Instruct-ს უკავშირდებოდა. ფეტერმანმა თქვა: „მაშინ გავიფიქრე: ‘ვაუ, ეს საოცარია. ხელოვნური ინტელექტით აღჭურვილი მავნე პროგრამების დიდი ბუმი დაიწყება და ვითარება მთლიანად შეიცვლება’“.

თუმცა, ერთი წლის შემდეგ, როდესაც ფეტერმანმა ამ ზაფხულს ხელოვნური ინტელექტის მქონე მავნე პროგრამების მიმოხილვა დაიწყო, კვლავ მხოლოდ რამდენიმე დოკუმენტირებული მაგალითი იპოვა. ეს მისთვის მოულოდნელი აღმოჩნდა. ფეტერმანმა თქვა: „მასალა მართლაც ცოტა იყო. მგონი, დაახლოებით ცხრა დასახელებული მავნე პროგრამის ოჯახი ვიპოვე“. მისი თქმით, ზოგიერთი მათგანი კვლევისთვის შექმნილი კონცეფციის სადემონსტრაციო ნიმუში იყო. მან დასძინა: „ეს ჩემს მოლოდინს არ შეესაბამებოდა. ასევე მიჭირდა დაჯერება, რომ რეალური მდგომარეობა ასეთი იყო. ამიტომ საკითხის უფრო ღრმად შესწავლა გადავწყვიტე“.

შედეგად შეიქმნა CAIRN. სისტემა მეტამონაცემებში ხელოვნური ინტელექტის ინტეგრაციის მახასიათებლებსა და ნიშნებს ადგენს. შემდეგ მავნე პროგრამის ნიმუშებს კლასიფიკაციისთვის არსებითად უნიკალურ საიდენტიფიკაციო ნიშნებს ანიჭებს. სისტემა თითოეულ არტეფაქტს CAIRN-ის მთელ ბიბლიოთეკასთან მიმართებით აანალიზებს. შემდეგ შესაძლო ტენდენციებისა და კავშირების საჩვენებლად მათ სხვადასხვა მახასიათებლის მიხედვით აჯგუფებს. ფეტერმანის თქმით, ბოლო რამდენიმე თვის განმავლობაში CAIRN-ზე მუშაობისა და მისი გამოყენების შედეგად ხელოვნური ინტელექტის მქონე მავნე პროგრამის კიდევ დაახლოებით 20 მაგალითი აღმოაჩინა.