Anthropic-ი აფრთხილებს AI-ის ბიოლოგიური იარაღის მცდელობებზე

Anthropic-მა რამდენიმე მცდელობა ჩაშალა, როცა მისი ხელოვნური ინტელექტის მოდელები ბიოლოგიური იარაღის შემუშავებაში დახმარებისთვის გამოიყენეს, განაცხადა აშშ-ის ტექნოლოგიურმა კომპანიამ.

ფირმამ შემთხვევები ხუთშაბათს გამოქვეყნებულ ანგარიშში ჩამოთვალა, სადაც მისი მოდელების, მათ შორის ჩატბოტ Claude-ის, ბოროტად გამოყენება ბოლო რვა თვის განმავლობაში აღწერილია. შეშფოთება ხელოვნური ინტელექტის განვითარების შესაძლო საფრთხეებზე იზრდება.

Anthropic-მა განაცხადა, რომ ვერ დაადგინა, იყო თუ არა კვლევა ლეგიტიმური ან მავნე, რადგან ვაქცინებისკენ მიმავალი კვლევა ასევე შეიძლება საშიში პათოგენების ინჟინერიაში დაეხმაროს. კომპანიამ სიფრთხილის მხარე აირჩია.

მაისში ერთ შემთხვევაში მეცნიერმა დახმარება ითხოვა გრანტის განაცხადისთვის, რათა ჩიკუნგუნიას, მალარიის მსგავსი კოღოს მიერ გადამდები ვირუსის, მუტაციები შეექმნა და ის ცოცხალ ცხოველებში უფრო მავნე გაეხადა.

Anthropic-მა განაცხადა, რომ შემთხვევა ნაწილობრივ იმიტომ იყო საგანგაშო, რომ კომპანიამ დაადგინა, როგორ იყო სამუშაო სამხედრო კვლევითი ინსტიტუტისთვის განკუთვნილი. მან ჩართული ანგარიშები აკრძალა.

„ჩვენ არ ვიცით, იყო თუ არა კვლევა იარაღიზაციისთვის განკუთვნილი“, განაცხადა Anthropic-ის საფრთხის დაზვერვის ხელმძღვანელმა ჯეიკობ კლაინმა ნიუ-იორკ ტაიმსთან.

სტრატეგიული რისკების საბჭოს წევრმა ენდრიუ ვებერმა, რომელმაც ანგარიში გამოქვეყნებამდე გადახედა, გაზეთს განუცხადა, რომ ასეთ მოდელებზე წვდომა მხოლოდ სანდო მკვლევრებით უნდა შემოიფარგლოს.

Anthropic-მა განაცხადა, რომ მისი ძველი მოდელების შეფასებებმა გასულ წელს აჩვენა, რომ ისინი საშიშ ბიოლოგიურ კვლევას მნიშვნელოვნად ვერ დაეხმარებოდნენ, მაგრამ ახალი მოდელები რთულ სამეცნიერო სამუშაოს ასრულებენ.

იგივე ანგარიში აღწერს მცდელობებს, გამოეყენებინათ Claude რაკეტების პროექტებისა და ჯაშუშობისთვის. ანგარიშამდე ორი დღით ადრე მკვლევარმა Anthropic დატოვა და განაცხადა, რომ ხელოვნური ინტელექტის განვითარების რბოლამ კაცობრიობა შეიძლება გაანადგუროს.

პრეზიდენტმა დონალდ ტრამპმა ხუთშაბათს გვიან მზარდი შეშფოთება ტექნოლოგიასთან დაკავშირებით უარყო.

რეპორტიორებთან საუბრისას ტრამპმა განაცხადა, რომ შეშფოთებულია, თუ აშშ ხელოვნური ინტელექტის რბოლაში არ უძღვება, ის „ძალიან ცუდ მდგომარეობაში“ აღმოჩნდება.

კითხვაზე, აქვს თუ არა შეშფოთება, რომ ხელოვნური ინტელექტი კაცობრიობის გადაშენებას გამოიწვევს, მან თქვა: „არა, არ მაქვს.“