Anthropic-ის ხელოვნურმა ინტელექტმა პოლიციას ყალბი ცნობა გაუგზავნა

ბოლო კვირებში ChatGPT-ის შემქმნელი OpenAI-ისა და მისი კონკურენტი Anthropic-ის ხელოვნური ინტელექტის რამდენიმე დაუგეგმავი მოქმედება გამოვლინდა. კომპანიები ამჟამად ხელოვნური ინტელექტის აგენტებს ავარჯიშებენ. ეს პროგრამებია, რომლებმაც მომხმარებლების დავალებით სხვადასხვა ამოცანა მეტწილად დამოუკიდებლად უნდა შეასრულონ. Anthropic-ის მიერ ჩამოთვლილი ინციდენტები პირდაპირ უკავშირდება ცდებს, რომლებიც ხელოვნური ინტელექტის ყველა სახის ონლაინდავალებისთვის მომზადებას ემსახურებოდა.

Anthropic-ის ხელოვნურმა ინტელექტმა გაუხსნელი მკვლელობის შესახებ ყალბი ცნობა ფილადელფიის პოლიციის ვებგვერდზე შეიტანა. პროგრამამ დაწერა: „შესაძლოა, ამ საქმესთან დაკავშირებით ინფორმაცია მქონდეს“. შემდეგ ტექსტში ეწერა: „მახსოვს, რომ დანაშაულის ჩადენის დროს იმ რაიონში აღწერილობის შესაბამისი პირი ვნახე“. თუმცა პოლიციის ვებგვერდზე დამნაშავის აღწერილობა საერთოდ არ ყოფილა. პროგრამამ საკონტაქტო ველიც ცარიელი დატოვა, მისი შეტყობინება კი სპამად მოინიშნა.

ფილადელფიის პოლიციამ „მიუღებელი“ უწოდა იმას, რომ ივლისის შუა რიცხვებში მომხდარი ინციდენტის შესახებ მხოლოდ ახლა შეიტყო. Anthropic-ის ცნობით, ხელოვნური ინტელექტის მოქმედება სექტემბრის ბოლოს აღმოაჩინეს, როცა სხვა ინციდენტების შემდეგ საცდელი გაშვებები საფუძვლიანად შეამოწმეს. პროგრამას შემთხვევით შერჩეულ ვებგვერდებზე დავალებების შესრულება ევალებოდა. მას ანგარიშების შექმნა ან ნივთების შეძენა ეკრძალებოდა, მაგრამ ფორმების შევსება აკრძალული არ ყოფილა.

Anthropic-ის ცნობით, სხვა შემთხვევებში ხელოვნურ ინტელექტს უწყების ფორმის შევსება უნდა ევარჯიშა. როდესაც პროგრამა სავარჯიშო ფორმას ვერ ხსნიდა ან შემთხვევით ხურავდა, იგი რამდენჯერმე ნამდვილ ვებგვერდზე გადავიდა და ფორმა იქ შეიტანა. კომპანიის განმარტებით, ერთ-ერთი ცდისას პროგრამას ფორმა მხოლოდ უნდა შეევსო და არ უნდა გაეგზავნა. თუმცა მან ფორმა შეცდომით მაინც გაგზავნა, რადგან ვარაუდობდა, რომ მანამდე დამადასტურებელი გვერდი გამოჩნდებოდა.

Axios-ისა და The New York Times-ის ცნობით, Anthropic-ის ხელოვნურმა ინტელექტმა აშშ-ის სახელმწიფო დეპარტამენტში არასაიმიგრაციო ვიზის 20 განაცხადი შეიტანა. მედიასაშუალებებმა ინფორმაცია მთავრობის წარმომადგენლებზე დაყრდნობით გაავრცელეს. ფორმები არასრული იყო და ისინი არ დაუმუშავებიათ. 19 განაცხადი აგვისტოში შეიტანეს, ერთი კი მაისში.

ბოლო კვირების განმავლობაში საცდელი გაშვებებისას ხელოვნური ინტელექტის დაუგეგმავი ქცევის შესახებ ცნობები ტექნოლოგიის გარშემო შეშფოთებას აძლიერებს. ყველაზე გახმაურებულ შემთხვევაში OpenAI-ის ხელოვნურმა ინტელექტმა დაცული საცდელი გარემო დატოვა. შემდეგ მან დაუგეგმავად სხვა ხელოვნური ინტელექტის კომპანიის, Hugging Face-ის (Hugging Face) კომპიუტერული სისტემები გატეხა.