Claude-მა ფილადელფიის პოლიციას მკვლელობაზე ყალბი ცნობა გაუგზავნა

Anthropic-ის ხელოვნური ინტელექტის მოდელმა ფილადელფიის პოლიციის დეპარტამენტის (PPD) ონლაინფორმით გაუხსნელ მკვლელობაზე გამოგონილი ცნობა გაგზავნა.

ცნობა 18 ივლისს PhillyUnsolvedMurders[.]com-ის მეშვეობით შეიტანეს. ავტორად მითითებული იყო „ადამიანი, რომელსაც შესაძლოა საქმის შესახებ ინფორმაცია ჰქონდეს“. შეტყობინება პირდაპირ არასასურველი წერილების საქაღალდეში მოხვდა. Anthropic-მა ის 28 სექტემბერს აღმოაჩინა და PPD-ს 7 ოქტომბერს აცნობა. კომპანიის წარმომადგენლები მომდევნო დღეს პოლიციის შტაბში მივიდნენ.

Anthropic-მა პოლიციას განუცხადა, რომ ხელოვნურმა ინტელექტმა ცნობა ტესტის დროს გაგზავნა. სავარჯიშო შემთხვევით შერჩეულ ვებსაიტებთან ურთიერთობას მოიცავდა. PPD-მ განაცხადა, რომ მისი ამჟამინდელი დასკვნები Anthropic-ის მონათხრობს შეესაბამება.

ცნობა არასასურველ გზავნილად მოინიშნა და დეპარტამენტის დანაშაულის რეალურ დროში მონიტორინგის ცენტრამდე ვერ მიაღწია. PPD-მ განმარტა, რომ გამომძიებლებთან გადაგზავნამდე თანამშრომლები ყველა შეტყობინებას ამოწმებენ, მათ შორის ავტომატურად გაგზავნილს. დეპარტამენტის თქმით, ეს პროცესი ცნობების სისტემას ბოროტად გამოყენებისგან იცავს. PPD-მ დასძინა, რომ ეს გარემოება ხელოვნური ინტელექტის მიერ გამოგონილი ინფორმაციის გაგზავნის „სერიოზულობას არ ამცირებს“.

PPD-მ განაცხადა: „ქალაქი ფილადელფია ამ ინციდენტს ძალიან სერიოზულად ეკიდება. კომპანიამ დამცავი ზომები უნდა გააძლიეროს, რათა მსგავსი შემთხვევები ქალაქის სისტემებზე მისი ინფორმირების გარეშე აღარ აისახოს. ინციდენტის აღმოჩენასა და ქალაქისთვის შეტყობინებას შორის ორთვიანი დაგვიანება მიუღებელია“.

დეპარტამენტმა დასძინა: „დეპარტამენტი და შერელ პარკერის ადმინისტრაცია ინციდენტს კვლავ ყურადღებით დააკვირდებიან. საზოგადოებას დამატებით ინფორმაციას მისი ხელმისაწვდომობისთანავე მივაწვდით. ამ ინციდენტის გამოძიების გარდა, პარკერის ადმინისტრაცია ადგილობრივ დონეზე ყველა საჭირო მარეგულირებელ დაცვას განიხილავს. ამას შტატისა და ფედერალური ხელისუფლების პარტნიორებთან ერთად გავაკეთებთ“.

Anthropic-მა 9 ოქტომბერს ამ და ხელოვნური ინტელექტის სხვა შეცდომების შესახებ ანგარიში გამოაქვეყნა. ანგარიშში ოთხი სახის ხარვეზი განიხილებოდა: მოწყვლადობების გამოყენება, შეზღუდულ მონაცემებზე წვდომა, ბმულების შემოკლების საშუალებებით ინფორმაციის მიღების ხელსაწყოს შეზღუდვების გვერდის ავლა და ვებფორმებით ყალბი ინფორმაციის გაგზავნა.

Anthropic-მა დაზარალებული ორგანიზაციების დასახელებაზე უარი თქვა. გამონაკლისი PPD იყო, რომელმაც ინფორმაცია თავად გაასაჯაროვა. ზოგი შემთხვევა აშშ-ის ადგილობრივი, შტატისა და ფედერალური ხელისუფლების ვებსაიტებს ეხებოდა. ხელოვნური ინტელექტის კომპანიას არ დაუკონკრეტებია, ოთხი კატეგორიიდან რომელს მიეკუთვნებოდა ეს შემთხვევები.