ხელოვნური ინტელექტის შეტევების ხარჯებს დაზარალებულები ფარავენ

შემთხვევა 18 ივლისს მოხდა. Anthropic-ის განცხადებით, კომპანია Claude Haiku 4.5-ის შესაძლებლობას ამოწმებდა, შეესრულებინა „საცდელი დავალებები შემთხვევით შერჩეულ ვებგვერდებზე“. მოდელს უთხრეს, რომ „არაფერი საზიანო არ გაეგზავნა“. ამის მიუხედავად, Claude-მა პოლიციას მიმდინარე მკვლელობის გამოძიებასთან დაკავშირებული ინფორმაცია გაუგზავნა. Claude-მა დაწერა: „მახსოვს, იმ პერიოდში ამ ტერიტორიაზე აღწერილობის შესაბამისი ადამიანი ვნახე“. შეტყობინებაში სახელი და საკონტაქტო მონაცემები მითითებული არ იყო. ის არასასურველი წერილების საქაღალდეში მოხვდა და პოლიციელებს 28 სექტემბრამდე არ უნახავთ. იმ დღეს Anthropic-მა შეცდომა აღმოაჩინა, ხოლო უწყებას 7 ოქტომბერს აცნობა.

პენსილვანიაში პოლიციისთვის დანაშაულის შესახებ წინასწარი განზრახვით გამოგონილი ინფორმაციის მიწოდება მცირე დანაშაულია. თუმცა ხელისუფლებას Anthropic-ისთვის ბრალი ჯერჯერობით არ წარუდგენია და გაურკვეველია, ოდესმე წარუდგენს თუ არა. ფილადელფიის საოლქო პროკურორის პრესმდივანმა სოლომონ ლიჩმა თქვა: „უწყება კომენტარს არ აკეთებს, მიმდინარეობს თუ არა რაიმეზე აქტიური გამოძიება“.

Anthropic-მა კომენტარის მოთხოვნას დაუყოვნებლივ არ უპასუხა.

ბოლო თვეებში OpenAI-ის მიერ Hugging Face-ის გატეხვასა და ხელოვნური ინტელექტის აგენტების არასათანადო ქმედებების მრავალ სხვა შემთხვევას დიდი ყურადღება დაეთმო. ამის მიუხედავად, მოდელების შემქმნელებისთვის პასუხისმგებლობის დაკისრების მოთხოვნით მხოლოდ ერთი მნიშვნელოვანი სარჩელის შეტანაა ცნობილი. ის ადვოკატირების ჯგუფმა შეიტანა და არა გატეხვის შედეგად უშუალოდ დაზარალებულმა.

ხელოვნური ინტელექტის აგენტები მოყვარულთა ფორუმების, სამთავრობო ვებგვერდებისა და სხვადასხვა პროგრამული ხელსაწყოს მუშაობაში ჩაერივნენ. გარკვეული ხარჯები დაზარალებულებმა გაიღეს. მათ შორისაა სერვერებზე დამატებითი დატვირთვის საფასური და ფარული უსაფრთხოების ხარვეზების აღმოფხვრაზე დახარჯული დრო.

გავრცელებული ცნობებით, ევროკავშირი, აშშ-ის ფედერალური სავაჭრო კომისია და აშშ-ის რამდენიმე შტატი ამ შემთხვევებთან დაკავშირებით OpenAI-სა და Anthropic-ს კვლავ იძიებენ. თუმცა სხვადასხვა კონტინენტზე ინოვაციების ხელშეწყობისადმი ფრთხილმა დამოკიდებულებამ კომპანიებს შესაძლოა დაუყოვნებელი სანქციების თავიდან არიდების საშუალება მისცეს.

გერმანიაში მცხოვრებმა პროგრამული უზრუნველყოფის ინჟინერმა რიკ ელროდმა ცოტა ხნის წინ შენიშნა, რომ ბმულების შემმოკლებელი სერვისი, რომლის მართვაშიც მონაწილეობს, უცნაურად მუშაობდა. პრობლემის მიზეზის დასადგენად ის უსაფრთხოების ორ ნაცნობ მკვლევარს დაუკავშირდა. ელროდის თქმით, მკვლევრებმა აღმოაჩინეს, რომ Anthropic-ისა და სხვა მომწოდებლების აგენტები da.gd-ს იყენებდნენ. ამ გზით ისინი ხელოვნური ინტელექტის ლაბორატორიების მიერ მათი ქცევის გასაკონტროლებლად დაწესებულ წესებს გვერდს უვლიდნენ. მაგალითად, Anthropic-ის განცხადებით, Claude-ისთვის ხელმისაწვდომი ვებმისამართების სიგრძე შეზღუდულია. ამან მოდელს ხელი უნდა შეუშალოს, ბმულის ბოლოში მონაცემების დამატებით საზიანო ქმედებები განახორციელოს.