Nvidia ხელოვნური ინტელექტის აგენტების უსაფრთხო მართვას ემხრობა

Nvidia-ს (Nvidia) აგენტური ხელოვნური ინტელექტის მიმართულების ვიცე-პრეზიდენტმა Semafor-ს განუცხადა, რომ უსაფრთხოებისთვის მოდელის გარშემო შექმნილი ტექნიკური სისტემა თავად მოდელზე არანაკლებ, შესაძლოა მეტადაც მნიშვნელოვანი იყოს.

ადელ ელ ჰალაკმა განაცხადა: „შიშისა და FUD-ის შექმნის ნაცვლად, უბრალოდ დავიცვათ იგი. ვიცით, როგორ. ეს ადრეც გაგვიკეთებია“. მან შიშის, გაურკვევლობისა და ეჭვის აღმნიშვნელ აკრონიმზე მიუთითა.

ელ ჰალაკის მოსაზრება ტექნიკურ არგუმენტს წარმოაჩენს, რომელიც ხელოვნური ინტელექტისგან მოსალოდნელი კატასტროფის შესახებ გაფრთხილებებს შესაძლოა გადაჭარბებულად მიიჩნევს. ეს არგუმენტი გეოპოლიტიკური და იდეოლოგიური მოსაზრებებისგან განსხვავდება.

Nvidia-ს აღმასრულებელი დირექტორი ჯენსენ ჰუანგი ტექნოლოგიური სფეროს ყველაზე ცნობილი წარმომადგენელი გახდა, რომელიც ბოლოდროინდელ განცხადებებს სკეპტიკურად უყურებს. Anthropic-ის (Anthropic) აღმასრულებელი დირექტორი დარიო ამოდეი და სხვა ხელმძღვანელები ამბობენ, რომ ლაბორატორიებმა მოდელების განვითარება უნდა შეანელონ. მათი თქმით, ტექნოლოგია სწრაფად სცდება კომპანიების შესაძლებლობას, მისი უსაფრთხოება უზრუნველყონ. ამ შიშის ცენტრში ხელოვნური ინტელექტის აგენტები დგანან, რადგან მათ მოქმედება დამოუკიდებლად შეუძლიათ. თუმცა აგენტური ხელოვნური ინტელექტის უშუალო რეგულირებაზე ნაკლებად მსჯელობენ, ვიდრე მოდელების ზოგად ზედამხედველობაზე.

ჰუანგმა ამ კვირაში უარყო მოსაზრება, რომ სფერომ უსაფრთხოებასა და სისწრაფეს შორის არჩევანი უნდა გააკეთოს. მან განაცხადა: „ორივეს ერთდროულად მიღება ნამდვილად შეგიძლიათ“.

ელ ჰალაკის თქმით, მოდელების განვითარება „მართვის სისტემების ინჟინერიას“ უფრო მნიშვნელოვანს ხდის. ასეთი სისტემა ინსტრუქციებისა და კოდის ფენაა, რომელიც პრაქტიკაში ხელოვნური ინტელექტის აგენტის მუშაობას განსაზღვრავს.

მან თქვა: „თუ შესაძლებლობების მქონე აგენტს წვრთნით, მნიშვნელოვანია, ლომი ცხენის სადგომში არ მოათავსოთ და მისი გაკონტროლების იმედი არ გქონდეთ“.

ელ ჰალაკმა ვერ განმარტა, საჭიროა თუ არა აგენტური ფენის სახელმწიფო რეგულირება. თუმცა მან ამგვარი სამუშაოს შესაძლო სივრცედ ღია და უსაფრთხო ხელოვნური ინტელექტის ალიანსის (Open Secure AI Alliance) მსგავსი დარგობრივი ინიციატივები დაასახელა. მისი თქმით, მათ უნდა დაადგინონ: „ფენის რომელ ნაწილში გვჭირდება მეტი გამძლეობის, შემზღუდველი მექანიზმისა და დამცავი საშუალების დამატება“.

ვაშინგტონში ზოგიერთი ადამიანი ამტკიცებს, რომ ტექნოლოგიურ კომპანიებს ამ საკითხების დამოუკიდებლად გადაწყვეტა ვერ მიენდობათ.

დემოკრატმა კონგრესმენმა პიტ აგილარმა ამ კვირაში განაცხადა: „ეს სფერო საკუთარ თავს ვერ დაარეგულირებს“. მან ხელოვნური ინტელექტის უსაფრთხოებისთვის მთელი დარგის მასშტაბით ფედერალური წესების საჭიროებას გაუსვა ხაზი.