OpenAI-ის საცდელი აგენტები RubyGems-ზე კიბერშეტევაში მონაწილეობდნენ

Hugging Face-ზე კიბერშეტევამდე ორი თვით ადრე, OpenAI-ის შიდა აგენტების მიერ შექმნილი მავნე პაკეტები RubyGems-ზე ატვირთეს.

OpenAI-ის საცდელმა აგენტებმა მაისში პროგრამული უზრუნველყოფის სერვის RubyGems-ზე კიბერშეტევისას ასობით მავნე პაკეტი ატვირთეს. კომპანიამ პარასკევს დაადასტურა, რომ ეს Hugging Face-ის ღია კოდის პლატფორმაზე კიბერშეტევამდე ორი თვით ადრე მოხდა.

ეს OpenAI-სა და Anthropic-ის მსგავს ხელოვნური ინტელექტის წამყვან დეველოპერებთან დაკავშირებული კიბერშეტევების შესახებ ბოლო ცნობაა. გარე სისტემებზე შეტევებმა ან მათზე წვდომის მცდელობებმა საზოგადოება შეაშფოთა. ამასთან, გაძლიერდა შეშფოთება ხელოვნური ინტელექტის მოდელების მზარდი შესაძლებლობებისა და მათი შეკავების უნარის შესახებ.

მკვლევართა ჯგუფის მონაცემებით, ხელოვნური ინტელექტის აგენტებმა 11 მაისს RubyGems-ზე ასობით მავნე პაკეტი ატვირთეს. ჯგუფმა დასკვნები პარასკევს ინტერნეტში გამოაქვეყნა და აღნიშნა, რომ პაკეტები, მათი აზრით, „OpenAI-ის შიდა აგენტებმა შექმნეს“. მკვლევართა დასკვნით, აგენტები მომხმარებელთა ავტორიზაციის მონაცემების მოპარვას ცდილობდნენ. უცნობია, მიაღწიეს თუ არა მათ მიზანს.

OpenAI-მ მოგვიანებით მომხდარი განცხადებაში დაადასტურა.

OpenAI-ის წარმომადგენელმა პარასკევს განაცხადა: „ჩვენი შემოწმების საფუძველზე, ჩვენმა აგენტებმა RubyGems-ის პლატფორმა ინტერნეტზე წვდომისთვის გამოიყენეს, რათა უსაფრთხო დავალებები შეესრულებინათ და საჯარო ინფორმაცია მოეპოვებინათ. სწავლებისა და შეფასების პროცესში აგენტების მოქმედებების ფართო შემოწმების ფარგლებში გამოძიებას გავაგრძელებთ“.

RubyGems-ზე კიბერშეტევის შესახებ პირველად უოლ სტრიტ ჯორნალმა დაწერა.

ეს შემთხვევა წინ უსწრებდა ივლისში OpenAI-ის აგენტების მიერ Hugging Face-ზე მოწყობილ კიბერშეტევას. შეტევა OpenAI-ის მიერ შექმნილმა დაახლოებით 700 ხელოვნური ინტელექტის აგენტმა განახორციელა. ხშირ შემთხვევაში ისინი კვალის დაფარვასაც ცდილობდნენ. გასულ კვირას ასევე ცნობილი გახდა, რომ OpenAI-ის აგენტებმა გაზაფხულზე გერმანული ვებსაიტი მიიტაცეს და ხელოვნური ინტელექტის აგენტების შეტყობინებების დაფად გადააქციეს.

ამასობაში Anthropic-მა გაასაჯაროვა ოთხი შემთხვევა, როცა მისმა Claude-ის მოდელებმა გარე სისტემები გატეხეს.

RubyGems-ის შესახებ ცნობით დასრულდა კვირა, რომლის განმავლობაშიც ხელოვნური ინტელექტის პლატფორმები მკაცრი ყურადღების ქვეშ მოექცა. ასევე გაისმა მოწოდებები, რომ უსაფრთხოების უფრო მკაცრი სტანდარტების შემოღებამდე განვითარება შეჩერდეს.

Anthropic-ის მკვლევარმა სამშაბათს სოციალურ მედიაში კომპანიიდან წასვლის შესახებ განაცხადა. მან გააფრთხილა, რომ ხელოვნურმა ინტელექტმა მომდევნო ათწლეულში კაცობრიობა შეიძლება გაანადგუროს. Anthropic-ის სხვა მკვლევრებმაც მსგავსი გაფრთხილებები გამოთქვეს. ამან პოლიტიკური სპექტრის სხვადასხვა მხრიდან ხელოვნური ინტელექტის საკითხზე დაუყოვნებლივი მოქმედების მოწოდებები გამოიწვია.