Anthropic-მა Claude რაკეტებისა და ჯაშუშობისთვის გამოიყენა

კომპანიამ ახალ ანგარიშში აღნიშნა, რომ ჩრდილოეთ იემენში ჩარევა მოხდა და Claude-ის გამოყენება რაკეტების ხელმძღვანელობის პროგრამებისთვის, მათ შორის მართვადი რაკეტისა და შორეული ბალისტიკური რაკეტისთვის, დაიბლოკა.

Anthropic-ის საფრთხის ანგარიშის თანახმად, ოპერატორები Claude-ს „ადამიანი პროგრამისტების ნაცვლად“ იყენებდნენ და მოდელის სხვადასხვა ინსტანციებს კონკრეტული როლები მიანიჭეს რაკეტების ხელმძღვანელობისა და ფრენის კონტროლის პროგრამების დასაწერად.

შიდა დაცვის სისტემებმა ბევრი მოთხოვნა დააბლოკა, თუმცა Anthropic-მა აღიარა, რომ რამდენიმე გაივლიდა. ოპერატორები საბოლოო მიზნებს მალავდნენ და ამოცანებს ცალკეულ სესიებზე ანაწილებდნენ, რათა არც ერთი მოთხოვნა არ გამოეჩინა ოპერაცია.

კომპანიამ განაცხადა, რომ არ აქვს მტკიცებულება იმისა, რომ ჯგუფმა მოქმედი იარაღი შექმნა, თუმცა ოპერატორებმა წარუმატებელი საცდელი გასროლა ჩაატარეს.

ანგარიშში ნათქვამია, რომ კომპანიამ ჩართული ანგარიშები აკრძალა და „საფრთხის ინფორმაცია გაუზიარა საჯარო და კერძო სექტორის პარტნიორებს რისკების შესამცირებლად“.

ანგარიშში ნათქვამია, რომ რუსეთთან დაკავშირებული ჯაშუშური ოპერაცია Midnight Blizzard-ის (ან APT29) ნიშნებს ატარებდა და იგი ავტომატიზებულ AI სამუშაო პროცესებს ეყრდნობოდა თითქმის მთელი ოპერაციის გასატარებლად, მათ შორის ფიშინგის, დაყენებისა და მონაცემების მოპარვისთვის უკრაინული, ევროპული და დიპლომატიური მიზნების წინააღმდეგ, დრონების მწარმოებლების ჩათვლით.

ცალკე კომპანიამ განაცხადა, რომ ჩინური ოპერაცია დაარღვია, რომელსაც ჰუნანის პროვინციის უნივერსიტეტის სტუდენტები აწარმოებდნენ და Claude-ს „საინჟინრო და ორკესტრირების ფენად“ იყენებდნენ შეტევითი პროგრამისთვის, რომელიც მთავრობისა და კორპორაციული ქსელების წინააღმდეგ იყო მიმართული ახლო აღმოსავლეთში, ევროპასა და სამხრეთ-აღმოსავლეთ აზიაში.

ორივე შემთხვევაში Anthropic-მა აღნიშნა, რომ შესაბამისი ანგარიშები აკრძალა და დამატებითი მონიტორინგი დააყენა მსგავსი აქტივობის აღმოსაჩენად.

Anthropic-მა ასევე განაცხადა, რომ სამი ირანის სახელმწიფოსთან დაკავშირებული ანგარიში გამოავლინა და წაშალა, რომლებიც Claude-ს ფარული გავლენისა და ფსიქოლოგიური ოპერაციებისთვის იყენებდნენ. თითოეული ოპერაცია დაკავშირებული იყო ირანის პროპაგანდის ინსტიტუტთან, მათ შორის ისლამური კულტურისა და კომუნიკაციების ორგანიზაციასთან და მაშჰადის სემინარიის სარდლობის ოთახთან, რომელიც ისლამური რევოლუციის გვარდიის კორპუსის (IRGC) ნარატივებთან შესაბამის კონტენტს ავრცელებდა.

კიდევ ერთ შემთხვევაში ანგარიშში ნათქვამია, რომ სახელმწიფოსთან დაკავშირებული ჯგუფები Claude-ს ინდუსტრიული მასშტაბის ოპერაციისთვის იყენებდნენ და მოდელს სტრუქტურირებული პროფილების გენერირებას ავალებდნენ, რომლებიც მიზნებს ადგილმდებარეობის, დემოგრაფიის, პოლიტიკური მიდრეკილებებისა და ნდობის ქულების მიხედვით ასახავდნენ.