სატია ნადელა ხელოვნური ინტელექტისთვის „საგანგებო მუხრუჭს“ ითხოვს

X-ზე გამოქვეყნებულ ვრცელ პოსტში Microsoft-ის აღმასრულებელმა დირექტორმა მაღალგანვითარებული ხელოვნური ინტელექტის მოდელების საფრთხეებზე საკუთარი მოსაზრებები ჩამოაყალიბა. მან ამ რისკებთან გამკლავების გზებზეც ისაუბრა. ნადელას თქმით, მიუღებელია სამყარო, სადაც ხელოვნური ინტელექტი „ერთმანეთში ჩადგმული შავი ყუთების ერთობლიობად“ აღიქმება, ხოლო მის რჩევებსა და ქმედებებს უბრალოდ ვიღებთ ან უარვყოფთ. ნადელა უფრო გამჭვირვალე სისტემის შექმნას ითხოვს. ასეთ სისტემაში მოდელების იზოლირება და დაკვირვება შესაძლებელი იქნება, ხოლო ისინი „ხელყოფისგან დაცულ, ადამიანისთვის გასაგებ მტკიცებულებას“ დატოვებენ.

მისი ბევრი რეკომენდაცია ამ სფეროს სხვა წარმომადგენლების მოწოდებებს ემთხვევა: ინციდენტების დროული გასაჯაროება, დამოუკიდებელი აუდიტი, შემოწმებადი მონაცემები და იზოლირება. ბოლო საკითხზე ნადელა ზოგიერთ სხვა სპეციალისტზე უფრო შორს მიდის. მან დაწერა:

„თავიდანვე უნდა ვივარაუდოთ, რომ მოდელი კომპრომეტირებულია და მისი იზოლირება მოვახდინოთ. ეს საგანგებო მუხრუჭად უნდა წარმოვიდგინოთ. უფლებამოსილ პირს ყოველთვის უნდა შეეძლოს დავალების შესრულებისას მოდელის შეჩერება ან გამორთვა. უფრო განვითარებულ მოდელებს იზოლირების უფრო მოწინავე ტექნოლოგიები დასჭირდება, რომელთა სტანდარტიზაციაც გვჭირდება“.

სამწუხაროდ, ნადელა პოსტში ხელოვნურ ინტელექტს მუდმივად „სუპერინტელექტადაც“ მოიხსენიებს.