„ხელოვნური ინტელექტის ნათლია“ კომპანიების შიდა კონტროლის გეგმას მხარს უჭერს

OpenAI და Anthropic ხელოვნური ინტელექტის რისკებზე ზედამხედველების დანიშვნას ითხოვდნენ და პასუხიც მიიღეს.

ხელოვნური ინტელექტის შემფასებელთა ფორუმმა (AI Evaluator Forum), რომელიც რამდენიმე ზედამხედველ ჯგუფს აერთიანებს, პარასკევს წერილი გამოაქვეყნა. მასში ჩამოყალიბებულია „მინიმალური პირობები“, რომლებიც, ჯგუფების აზრით, Anthropic-ისა და OpenAI-ის მსგავსმა ლაბორატორიებმა უნდა დააკმაყოფილონ, რათა მათი ტექნოლოგიის რისკების შემფასებლებთან უფრო ეფექტიანად იმუშაონ.

წერილს ხელოვნური ინტელექტის სფეროს ათობით წარმომადგენელმა მოაწერა ხელი. მათ შორის არიან კომპიუტერული მეცნიერების პიონერები ჯეფრი ჰინტონი, რომელსაც „ხელოვნური ინტელექტის ნათლიად“ იცნობენ, და სტიუარტ რასელი.

წერილი Anthropic-ის აღმასრულებელი დირექტორის, დარიო ამოდეისა და OpenAI-ის აღმასრულებელი დირექტორის, სემ ალტმანის განცხადებებს მოჰყვა. ორივე მათგანი დათანხმდა, რომ კომპანიებში მესამე მხარის შემფასებლებს შეუშვებდა. ისინი ხელოვნური ინტელექტის რისკებს შეაფასებდნენ და თანამშრომლების დონის წვდომას მიიღებდნენ ინფორმაციაზე. ეს გადაწყვეტილება ინტერნეტში ხელოვნურ ინტელექტთან დაკავშირებული შიშის ტალღის ფონზე მიიღეს.

წერილში ნათქვამია: „სანდოობისთვის კომპანიებში მომუშავე მესამე მხარის შემფასებლებს მეცნიერული ობიექტურობა, გამჭვირვალობა, დამოუკიდებლობა და შესაფასებელი კომპანიების ჩარევისგან მტკიცე დაცვა უნდა ჰქონდეთ“.

პარასკევს გამოქვეყნებული წერილის თანახმად, შემფასებლებს გამჭვირვალედ მუშაობისა და კომპანიების დირექტორთა საბჭოებთან თუ სხვა უფლებამოსილ ზედამხედველ ორგანოებთან „შეუზღუდავი კომუნიკაციის“ უფლება უნდა ჰქონდეთ. მათ დასკვნების საჯაროდ გამოქვეყნებაც შეეძლებათ.

ჯგუფი ასევე მოითხოვს, რომ ხელოვნური ინტელექტის ლაბორატორიებმა შემფასებლები შურისძიებისგან დაიცვან. მათ წვდომა უნდა მიეცეთ „იმავე შესაბამის სისტემებზე, მონაცემებზე, ხელსაწყოებსა და ფიზიკურ სივრცეებზე“, რომლებზეც კომპანიების შემფასებლებს მიუწვდებათ ხელი.

წერილში ასევე ნათქვამია, რომ თითოეულმა ლაბორატორიამ „განსხვავებული ხედვებისა და სხვადასხვა სფეროს სპეციალისტები“ უნდა მიიწვიოს. მათ სხვადასხვა ტიპის რისკებზე უნდა იმუშაონ, მათ შორის, ბიოლოგიურ მეცნიერებებთან და კონტროლის დაკარგვასთან დაკავშირებულ საფრთხეებზე.

წერილის გამომქვეყნებელ ფორუმში შედის ხელოვნური ინტელექტის შეფასების არაკომერციული ჯგუფი METR. მან ცოტა ხნის წინ Hugging Face-თან დაკავშირებული OpenAI-ის უსაფრთხოების ინციდენტი გამოიკვლია. ფორუმში ასევე შედის ხელოვნური ინტელექტის გადამოწმებისა და შეფასების კვლევითი ინსტიტუტი (AI Verification and Evaluation Research Institute, AVERI), რომელსაც OpenAI-ის ყოფილი თანამშრომელი მაილს ბრანდიჯი სხვა ჯგუფებთან ერთად ხელმძღვანელობს.