ესპანეთში ხელოვნური ინტელექტის აგენტმა მონაცემები პირველად გააჟონა

მონაცემთა დაცვის ხელმძღვანელები მოდელების „დაუყოვნებლივ გადახედვას“ ითხოვენ

ესპანეთის მონაცემთა დაცვის სააგენტომ (AEPD) ქვეყანაში პირველი შემთხვევა გამოავლინა, როცა ავტონომიური ხელოვნური ინტელექტის აგენტის მოქმედებებმა პერსონალურ მონაცემთა გაჟონვა გამოიწვია.

AEPD-ის პრეზიდენტმა და მოადგილემ, ფრანსისკო პერეს ბესმა, ორშაბათს ბლოგზე დაწერა, რომ ერთმა პირმა ორგანიზაციაზე თავდასხმისთვის ხელოვნური ინტელექტის აგენტი გამოიყენა. აგენტი „ენის ცნობილ დიდ მოდელს“ იყენებდა.

აგენტმა ჯერ „ზოგადი ფაილები“ შეამოწმა, შემდეგ კი ორგანიზაციის სისტემაზე წვდომა მოიპოვა. ამის შემდეგ მან სისუსტეების აღმოსაჩენად დაუცველობის სკანირება ჩაატარა. ეს სისუსტეები მას პერსონალური მონაცემებისა და ინვოისების შემცველი ფაილების წაკითხვისა და შეცვლის უფლებას აძლევდა.

პერეს ბესს თავდასხმის მხარდასაჭერად გამოყენებული ენის დიდი მოდელი არ დაუსახელებია. თუმცა, მისი თქმით, თავდასხმის უკან მდგომმა პირმა აგენტის მეშვეობით „თავდასხმის სხვადასხვა ეტაპი წარმატებით დააკავშირა“.

პერეს ბესმა დასძინა, რომ ეს შემთხვევა ხელოვნური ინტელექტის მხარდაჭერით განხორციელებული თავდასხმების რეალურობას ადასტურებს. მან ორგანიზაციებს ისეთი თავდაცვის საშუალებების დანერგვისკენ მოუწოდა, რომლებიც აგენტური თავდასხმების სისწრაფეს გაუმკლავდება.

პერეს ბესმა განაცხადა: „ადამიანის ზედამხედველობა კვლავ აუცილებელია, თუმცა მას მხარს უნდა უჭერდეს გამოვლენის, შეკავებისა და რეაგირების მექანიზმები, რომლებსაც საკმარისად სწრაფად მოქმედება შეუძლია“.

მან ასევე თქვა: „შეტევით სფეროში ხელოვნური ინტელექტის აგენტების გამოჩენამ უსაფრთხოებისა და მონაცემთა დაცვის მოდელების დაუყოვნებლივ გადახედვა უნდა გამოიწვიოს“.

პერეს ბესმა დასძინა: „მონაცემთა დაცვის სპეციალისტები, ხელმძღვანელები და წარმომადგენლები უნდა მოემზადონ ვითარებისთვის, რომელშიც თავდასხმების სისწრაფე გაიზრდება. თუმცა, კვლავ გადამწყვეტი იქნება იგივე საფუძვლები: მონაცემთა დამუშავების პროცესების გაგება, მონაცემების მინიმუმამდე შემცირება, წვდომის შეზღუდვა, დაუცველობის აღმოფხვრა, მომწოდებლების კონტროლი და რეაგირებისთვის მზადყოფნა“.

ესპანეთში ხელოვნური ინტელექტის აგენტის მიერ განხორციელებული პირველი თავდასხმა მას შემდეგ მოხდა, რაც AEPD-მ მონაცემთა დაცვის საკითხებზე საჩივრების მხრივ ყველაზე დატვირთული წელი აღრიცხა.

სააგენტოს უახლესი წლიური ანგარიშის თანახმად, რომელიც 2025 წელს მოიცავს, AEPD-მ 30 931 საჩივარი მიიღო. ეს მის ისტორიაში ყველაზე მაღალი მაჩვენებელია და წინა წელთან შედარებით 64%-იან ზრდას ნიშნავს.