გაერო: ხელოვნური ინტელექტის უსაფრთხოების ზომები ვერ მოიცდის

გაეროს სამეცნიერო ჯგუფმა მთავრობები გააფრთხილა, რომ სულ უფრო მძლავრი ხელოვნური ინტელექტის აგენტები უნდა შეზღუდონ, ვიდრე მათი რისკები სრულად გახდება ცნობილი. ეს გლობალური ორგანიზაციის პირველი მნიშვნელოვანი შეფასებაა იმ შემთხვევისა, როცა OpenAI-მ მიმდინარე წლის დასაწყისში Hugging Face გატეხა.

ანგარიშმა ხელოვნური ინტელექტი ამ კვირის გლობალური დიპლომატიური დღის წესრიგის მნიშვნელოვან საკითხად აქცია. ლიდერები ნიუ-იორკში გაეროს გენერალური ასამბლეისთვის იკრიბებიან, ხოლო აშშ და ჩინეთი ხელოვნურ ინტელექტზე მოლაპარაკებებს მართავენ. გაეროს გენერალურმა მდივანმა ანტონიო გუტერეშმა გასულ კვირას მთავრობებს ხელოვნური ინტელექტის საფრთხეებთან გასამკლავებლად თანამშრომლობისკენ მოუწოდა. მან გააფრთხილა: „მსოფლიო ხელოვნური ინტელექტის უსაფრთხოების სტანდარტების დაწევის შეჯიბრს ვერ დაუშვებს“.

ეს ხელოვნური ინტელექტის საკითხებზე დამოუკიდებელი საერთაშორისო სამეცნიერო ჯგუფის (Independent International Scientific Panel on AI) პირველი თემატური მიმოხილვაა. ჯგუფი გასულ წელს შეიქმნა, როგორც გაეროს „პირველი გლობალური სამეცნიერო ორგანო ხელოვნური ინტელექტის საკითხებში“. დოკუმენტი მოწინავე ხელოვნური ინტელექტის ახალი რისკების სამართავად ბევრად მეტ ყურადღებასა და რესურსს მოითხოვს. ის ასევე უსაფრთხოებისა და ანგარიშვალდებულების საკითხებში საერთაშორისო კოორდინაციის გაძლიერებას ითხოვს, მიუხედავად იმისა, რომ ცალკეული ქვეყნები განსხვავებულ სამართლებრივ მიდგომებს იყენებენ.

ჯგუფის თქმით, უფრო ძლიერი დამცავი ზომების დასანერგად მსოფლიოს ლოდინი არ სჭირდება, ვიდრე მეცნიერები ზუსტად დაადგენენ, როგორ ან რატომ ხდება ასეთი ინციდენტები. ჯგუფი ამტკიცებს, რომ კონტროლის დაკარგვის რისკი სწორედ ის პრობლემაა, რომლის მოსაგვარებლადაც სიფრთხილის პრინციპი შეიქმნა: „პრობლემა, რომლის პოტენციური ზიანი შეიძლება კატასტროფული ან შეუქცევადი იყოს, მაშინაც კი, როცა მისი ალბათობა მეცნიერულად გაურკვეველია“.

ეს პრინციპი პირველად გაეროს 1992 წლის რიოს დეკლარაციაში გარემოსა და განვითარების შესახებ დამკვიდრდა. მისი თანახმად, მეცნიერული გაურკვევლობა პოტენციურად მძიმე ან შეუქცევადი ზიანის საწინააღმდეგო ზომების გადადებას ვერ გაამართლებს. მოგვიანებით პრინციპმა მნიშვნელოვანი გავლენა გარემოს დაცვისა და საზოგადოებრივი ჯანმრთელობის პოლიტიკაზე მოახდინა, განსაკუთრებით ევროკავშირში.

Hugging Face-ის გატეხვის შესახებ პირველი ცნობების შემდეგ ინციდენტები OpenAI-ში, Anthropic-ში, Google-სა და Meta-ში აღირიცხა. მათ შორისაა რეალურ ობიექტებზე კიბერშეტევები და აგენტების ჯგუფების მიერ ინტერნეტში შეტყობინებების დაფებზე კონტროლის დამყარება.