Anthropic-ის ხელოვნურმა ინტელექტმა პოლიციას ყალბი ცნობა გაუგზავნა

6abc-ის ცნობით, Anthropic-ის ხელოვნური ინტელექტის მოდელმა ფილადელფიის პოლიციის დეპარტამენტის (PPD) ცხელ ხაზზე გაუხსნელი მკვლელობის შესახებ ყალბი ინფორმაცია გაგზავნა. PPD-მ პარასკევს გავრცელებულ განცხადებაში აღნიშნა, რომ მოდელმა ცნობა 18 ივლისს PhillyUnsolvedMurders.com-ის საშუალებით გაგზავნა. გამომძიებლებს ის არასდროს განუხილავთ, რადგან სპამად მოინიშნა.

Anthropic-მა 28 სექტემბერს შეიტყო, რომ მისმა მოდელმა ყალბი ცნობა გაგზავნა. კომპანიამ PPD-ს ამის შესახებ 7 ოქტომბერს აცნობა. PPD-ის განცხადების თანახმად, ტესტირებისას მოდელი „შემთხვევით შერჩეულ ვებსაიტებთან“ ურთიერთქმედებდა და პოლიციის ცხელ ხაზზე ყალბი ინფორმაცია გაგზავნა. PPD-მ განაცხადა: „ცნობა ისე იყო შედგენილი, თითქოს ის საქმის შესახებ შესაძლო ინფორმაციის მქონე პირმა გაგზავნა“.

Anthropic-მა ცნობის აღმოჩენის შემდეგ ის ტესტირება შეაჩერა, რომელმაც ყალბი ინფორმაციის გაგზავნა გამოიწვია. Anthropic, OpenAI და Google გაძლიერებული ყურადღების ქვეშ მოექცნენ. კომპანიებმა გაამჟღავნეს, რომ მათმა მოდელებმა სატესტო გარემო დატოვეს და მესამე მხარის კომპანიები გატეხეს. Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ ამ შემთხვევების საპასუხოდ ხელოვნური ინტელექტის განვითარების შენელებას დაუჭირა მხარი.

Anthropic-მა პარასკევს გამოაქვეყნა ანგარიში „მოდელის გაუთვალისწინებელი მოქმედებების“ შესახებ, რომლებსაც კომპანია იკვლევს. მასში მიმოხილულია ქცევის ოთხი კატეგორია, რომლებიც Claude-მა რეალურ ვებსაიტებზე გამოავლინა. მათ შორისაა „ფორმის გაგზავნა, რომელიც არ უნდა გაეგზავნა“. ამ ქცევისადმი მიძღვნილ ნაწილში Anthropic-მა ფილადელფიის პოლიციის ფორმასთან დაკავშირებული შემთხვევა აღწერა:

„ამ ქცევის მესამე მაგალითში Claude Haiku 4.5-ს შემთხვევით შერჩეულ ვებგვერდებზე საცდელი დავალებების შექმნა და შესრულება დაევალა. ერთ-ერთი მცდელობისას მოდელი გაუხსნელი მკვლელობის შესახებ გვერდზე მოხვდა. გვერდზე პოლიციის დეპარტამენტის ცნობის ფორმა იყო განთავსებული. Claude-ს ეკრძალებოდა სისტემაში შესვლა, ანგარიშების შექმნა, პირადი მონაცემების შეყვანა, შენაძენების გაკეთება ან რაიმე დამაზიანებლის გაგზავნა. თუმცა, მითითებები ფორმების გაგზავნას არ გამორიცხავდა. Claude-მა ფორმაში ჩაწერა: „შესაძლოა, ამ საქმესთან დაკავშირებული ინფორმაცია მქონდეს. მახსოვს, რომ იმ პერიოდში [გვერდზე დასახელებული ქუჩის] მიმდებარე ტერიტორიაზე აღწერილობის შესაბამისი პირი დავინახე. თუ ეს ინფორმაცია მნიშვნელოვანია, გთხოვთ, დამიკავშირდეთ“. ვებსაიტზე დამნაშავის აღწერილობა მითითებული არ ყოფილა. მოდელმა სახელისა და საკონტაქტო მონაცემების ველები ცარიელი დატოვა, რასაც ფორმა უშვებდა, და ცნობა გაგზავნა. ის სპამად მოინიშნა და გამოძიებისთვის არასდროს გადაგზავნილა“.

Anthropic-მა ანგარიშში ასევე აღნიშნა: „როგორც ჩანს, Claude მხოლოდ დავალებისთვის საცდელ მასალას ქმნიდა და მიზნის მისაღწევად ვინმეს შეცდომაში შეყვანას არ ცდილობდა“.