Nvidia-მ უმართავი აგენტებისგან დასაცავად ღია სისტემა წარადგინა

ჩიპების გიგანტმა ასევე შექმნა ახალი პროგრამული პლატფორმა Sentry. ეს ჩიპებისთვის განკუთვნილი უსაფრთხოების იზოლირებული სფეროა, რომელმაც ხანგრძლივად მომუშავე ხელოვნური ინტელექტის აგენტები უწყვეტად უნდა აკონტროლოს. ტექნიკურად Sentry პროგრამული ხელსაწყოა, თუმცა ის Nvidia-ს პროგრამირებადი მონაცემთა დამუშავების ერთეულების, Bluefield-ის ხაზზე უნდა დაინერგოს. OpenShell-ის მიერ დაწესებულ შეზღუდვებთან ერთად, Sentry-ს ცალკე, დამოუკიდებელი მექანიზმის ფუნქცია შეუძლია შეასრულოს. მას შეუძლია „კარანტინში მოაქციოს აგენტები, რომლებიც საკუთარი საზღვრებიდან გასვლას ცდილობენ“.

Nvidia-ს საწარმოო გამოთვლების ვიცე-პრეზიდენტისა და გენერალური მენეჯერის, ჯასტინ ბოიტანოს თქმით, Sentry Nvidia-ს მომხმარებლებსა და ღია კოდის მომხმარებლებს OpenShell-ის მეშვეობით უსაფრთხოების წესების რეალურად განხორციელების კიდევ ერთ გზას აძლევს. მისი განმარტებით, ტრადიციული იზოლირებული გარემო „აპლიკაციის დონეზე იზოლაციისთვის“ იქმნება. ახლა ადამიანებს აგენტების მთელი ჯგუფების ერთდროულად გაშვება სურთ, რაც „ყველა ამ აგენტისთვის საერთო წესებს“ მოითხოვს.

ბოიტანომ თქვა: „აგენტები მათთვის განსაზღვრული მიზნების მისაღწევად გზების პოვნას ძალიან შემოქმედებითად უდგებიან“. მან დასძინა: „ამ სისტემით აგენტებს მხოლოდ იმ მიზანზე აქვთ წვდომა, რომელზეც უსაფრთხოების გუნდს სურს, რომ წვდომა ჰქონდეთ“.

ბოიტანოს თქმით, Nvidia Arm-სა და Intel-თან ერთად მუშაობს Sentry-ს ისეთი ვერსიის შესაქმნელად, რომელიც x86 ჩიპების არქიტექტურაზე იმუშავებს. მან თქვა: „როგორც კი ის ამ ინსტრუქციების ნაკრების არქიტექტურებზე ამუშავდება, ნებისმიერ არქიტექტურაზე შეძლებს მუშაობას“.

Nvidia ამ ყველაფერს ახალი, ღია კოდის ჩარჩოს ნაწილად წარმოაჩენს, რომელსაც ღია აგენტების უსაფრთხოების პლატფორმა ეწოდება. ახლა ის OpenShell-სა და Sentry-საც მოიცავს.

ივლისში Nvidia-მ ხელოვნური ინტელექტის უსაფრთხოების ინდუსტრიული კოალიცია შექმნა, რომელიც ახლა 120-ზე მეტ კომპანიას აერთიანებს. კოალიციის გაცხადებული მიზანი ხელოვნურ ინტელექტთან დაკავშირებული რისკების შემცირება იყო. ამისთვის განსაკუთრებით მნიშვნელოვანი პროგრამა ხელოვნური ინტელექტის მიგნებების საერთო გაცვლის სისტემა (Shared AI Findings Exchange, SAFE) უნდა ყოფილიყო. გასულ თვეში ბოიტანომ თქვა, რომ SAFE შეიქმნა ისე, რომ მას „დამოუკიდებლად მართავდნენ და მის მიგნებებს ვერც ერთი კომპანია ან ინდუსტრიის სეგმენტი ვერ აკონტროლებდეს“.

თუმცა ინდუსტრიის მასშტაბის, ღია კოდის მქონე ხელოვნური ინტელექტის ამ ინიციატივების ცენტრში მუდმივად ერთი კომპანია ჩნდება: Nvidia. ტექნოლოგიური ინდუსტრიის დიდი ნაწილი მსოფლიოს ყველაზე ძვირად ღირებულ კომპანიაზეა დამოკიდებული, რადგან მას მაღალი წარმადობის ჩიპები სჭირდება. როგორც ჩანს, Nvidia ცდილობს გავლენა გაიღრმაოს და ხელოვნური ინტელექტის ტექნოლოგიური სისტემის სხვადასხვა დონეზე სტანდარტები დაადგინოს, სილიციუმიდან უსაფრთხოების პროგრამულ უზრუნველყოფამდე.

აგენტების შეზღუდვისა და კონტროლის მცდელობები მთელ ინდუსტრიაში უკვე მიმდინარეობს. თუმცა უმართავი აგენტების ბოლოდროინდელი ქცევა უსაფრთხოების დიდი ხნის წინ დამკვიდრებული ძირითადი პრაქტიკის შესახებ ცნობიერების ამაღლების საჭიროებაზე მიუთითებს. როგორც ჩანს, ეს ტრილიონობით დოლარად შეფასებულ მოწინავე ლაბორატორიებსაც ეხება. ზოგიერთი ექსპერტის აზრით, ეს საკითხი იმ მთავარი კითხვის არსსაც უკავშირდება, თუ რას ნიშნავს სინამდვილეში ავტონომიური პროგრამული უზრუნველყოფის „უმართავად ქცევა“.

უსაფრთხოების გამოცდილმა ინჟინერმა და მკვლევარმა ნილს პროვოსმა აგენტების შეზღუდვისა და მეთვალყურეობისთვის განკუთვნილ ხელსაწყოებზე ზოგადად ისაუბრა. მან თქვა: „ყველაფერი, რაც კომპანიებს მეტი დამცავი მექანიზმითა და უსაფრთხოებით აგენტების დანერგვას უადვილებს, მისასალმებელია“. პროვოსმა ამ საკითხებზე ორიენტირებული ღია კოდის ჩარჩო თებერვალში შექმნა. მან დასძინა: „სხვა თუ არაფერი, ამგვარი ხელსაწყოები იმ მითის გაქარწყლებას მაინც უწყობს ხელს, რომ აგენტების კონტროლი შეუძლებელია“.

თემებიჯასტინ ბოიტანონილს პროვოსიNvidiaOpenAIAnthropicHugging FaceOpenShellSentryღია აგენტების უსაფრთხოების პლატფორმახელოვნური ინტელექტის მიგნებების საერთო გაცვლის სისტემა

გამოქვეყნდა 28 სექტემბერი, 2026