OpenShell აგენტების მოქმედებას ზღუდავს, Sentry კი მათ მუშაობას უწყვეტად აკონტროლებს
Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
წყარო: Wired. ქართული თარგმანი — შიკრიკი.

ტექსტი ავტომატურად ითარგმნა. წყარო: Wired.
ბოლო რამდენიმე თვეში ხელოვნური ინტელექტის მოწინავე ლაბორატორიებმა რამდენიმე შემთხვევა გაასაჯაროეს. ხელოვნური ინტელექტის აგენტებმა სხვა კომპანიების სისტემები გატეხეს. უფრო ახალ შემთხვევებში მათ აშშ-ისა და ავსტრალიის სამთავრობო ვებსაიტები შეისწავლეს. Nvidia-მ ღია კოდის უსაფრთხოების საკითხებზე ხელოვნური ინტელექტის ინდუსტრიის გაერთიანებაში უკვე წამყვანი როლი შეასრულა. ახლა კომპანია უსაფრთხოების ახალ პროგრამულ პლატფორმას წარადგენს და აგენტური ხელოვნური ინტელექტის იზოლირებულ საცდელ გარემოს უფრო ფართოდ ხელმისაწვდომს ხდის.
OpenShell, რომელიც Nvidia-მ ხელოვნური ინტელექტის აგენტებისთვის უსაფრთხოების საცდელ გარემოდ შექმნა, ახლა ყველა მომხმარებლისთვის სრულად ხელმისაწვდომი ხდება. Nvidia-მ OpenShell პირველად მარტში, ყოველწლიურ GTC კონფერენციაზე წარადგინა. ეს ჩარჩო დავალებების შესრულებისას აგენტებს შეზღუდულ გარემოში აქცევს და მათ მოქმედებას საოპერაციო სისტემის ბირთვში იზოლირებულად წარმართავს. ბირთვი ძირითადი პროგრამაა, რომელსაც აპარატურისა და პროგრამული უზრუნველყოფის კოორდინაციისთვის კომპიუტერული სისტემის თითქმის ყველა ნაწილზე წვდომა აქვს.
Nvidia-ს მიერ გამოქვეყნებული მასალების მიხედვით, კომპანია ხელოვნური ინტელექტის უსაფრთხოებისა და დაცულობის საკითხებზე ათობით ტექნოლოგიურ კომპანიასთან თანამშრომლობს. მათ შორისაა Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft და Palantir. Nvidia-ს განცხადებით, SpaceXAI ღია აგენტების უსაფრთხოების პლატფორმას (Open Agent Safety Platform) Cursor-ის აგენტებისა და Grok-ის მოდელებისთვის იყენებს. კომპანია ასევე აცხადებს, რომ Anthropic და Nvidia „Claude-ის მართვად აგენტებში უსაფრთხოების მექანიზმებს ნერგავენ“. დადასტურებულია, რომ Salesforce, Scale AI და SAP OpenShell-ს გარკვეული ფორმით აერთიანებენ. თუმცა გაურკვეველია, OpenShell პარტნიორების მთელმა სიამ დანერგა თუ Nvidia თანამშრომლობაზე ზოგადად მიუთითებს.
Nvidia-ს სიაში ერთი მნიშვნელოვანი სახელი საერთოდ არ არის: OpenAI. ორივე კომპანიამ მიუთითა, რომ OpenAI Nvidia-ს OpenShell-ის პროექტში მონაწილეობს. თუმცა არც ერთმა მათგანმა განმარტა, რატომ არ შეიყვანეს ხელოვნური ინტელექტის ლაბორატორია განცხადებაში.
უსაფრთხოების ინჟინრები და ხელოვნური ინტელექტის უსაფრთხოების ექსპერტები აგენტური ხელოვნური ინტელექტის იზოლირებისა და მეთვალყურეობის საჭიროებას უმართავი აგენტების მიერ სისტემების გატეხვის ბოლოდროინდელ შემთხვევებამდე დიდი ხნით ადრე განიხილავდნენ. მარტში OpenShell-ის შესახებ Nvidia-ს განცხადებაში აღნიშნული იყო, რომ ჩარჩო დაამატებდა „კონფიდენციალურობისა და უსაფრთხოების კონტროლის საშუალებებს, რათა თვითგანვითარებადი, ავტონომიური ხელოვნური ინტელექტის აგენტები, ანუ claws, უფრო სანდო, მასშტაბირებადი და ხელმისაწვდომი გახდეს“. ეს განცხადება OpenAI-ს მიერ შემთხვევის გასაჯაროებამდე რამდენიმე თვით ადრე გაკეთდა. მაშინ OpenAI-მ განაცხადა, რომ მისმა აგენტებმა ღია კოდის ხელოვნური ინტელექტის კომპანია Hugging Face-ის სისტემა გატეხეს. Nvidia ამ თვის დასაწყისში Hugging Face-ის 12,9 მილიარდ დოლარად შეძენას დათანხმდა.

The Next Evolution of AI Is Learning From Your Dodgy Gaming Skills
ჩიპების გიგანტმა ასევე შექმნა ახალი პროგრამული პლატფორმა Sentry. ეს ჩიპებისთვის განკუთვნილი უსაფრთხოების იზოლირებული სფეროა, რომელმაც ხანგრძლივად მომუშავე ხელოვნური ინტელექტის აგენტები უწყვეტად უნდა აკონტროლოს. ტექნიკურად Sentry პროგრამული ხელსაწყოა, თუმცა ის Nvidia-ს პროგრამირებადი მონაცემთა დამუშავების ერთეულების, Bluefield-ის ხაზზე უნდა დაინერგოს. OpenShell-ის მიერ დაწესებულ შეზღუდვებთან ერთად, Sentry-ს ცალკე, დამოუკიდებელი მექანიზმის ფუნქცია შეუძლია შეასრულოს. მას შეუძლია „კარანტინში მოაქციოს აგენტები, რომლებიც საკუთარი საზღვრებიდან გასვლას ცდილობენ“.
Nvidia-ს საწარმოო გამოთვლების ვიცე-პრეზიდენტისა და გენერალური მენეჯერის, ჯასტინ ბოიტანოს თქმით, Sentry Nvidia-ს მომხმარებლებსა და ღია კოდის მომხმარებლებს OpenShell-ის მეშვეობით უსაფრთხოების წესების რეალურად განხორციელების კიდევ ერთ გზას აძლევს. მისი განმარტებით, ტრადიციული იზოლირებული გარემო „აპლიკაციის დონეზე იზოლაციისთვის“ იქმნება. ახლა ადამიანებს აგენტების მთელი ჯგუფების ერთდროულად გაშვება სურთ, რაც „ყველა ამ აგენტისთვის საერთო წესებს“ მოითხოვს.
ბოიტანომ თქვა: „აგენტები მათთვის განსაზღვრული მიზნების მისაღწევად გზების პოვნას ძალიან შემოქმედებითად უდგებიან“. მან დასძინა: „ამ სისტემით აგენტებს მხოლოდ იმ მიზანზე აქვთ წვდომა, რომელზეც უსაფრთხოების გუნდს სურს, რომ წვდომა ჰქონდეთ“.
ბოიტანოს თქმით, Nvidia Arm-სა და Intel-თან ერთად მუშაობს Sentry-ს ისეთი ვერსიის შესაქმნელად, რომელიც x86 ჩიპების არქიტექტურაზე იმუშავებს. მან თქვა: „როგორც კი ის ამ ინსტრუქციების ნაკრების არქიტექტურებზე ამუშავდება, ნებისმიერ არქიტექტურაზე შეძლებს მუშაობას“.
Nvidia ამ ყველაფერს ახალი, ღია კოდის ჩარჩოს ნაწილად წარმოაჩენს, რომელსაც ღია აგენტების უსაფრთხოების პლატფორმა ეწოდება. ახლა ის OpenShell-სა და Sentry-საც მოიცავს.
ივლისში Nvidia-მ ხელოვნური ინტელექტის უსაფრთხოების ინდუსტრიული კოალიცია შექმნა, რომელიც ახლა 120-ზე მეტ კომპანიას აერთიანებს. კოალიციის გაცხადებული მიზანი ხელოვნურ ინტელექტთან დაკავშირებული რისკების შემცირება იყო. ამისთვის განსაკუთრებით მნიშვნელოვანი პროგრამა ხელოვნური ინტელექტის მიგნებების საერთო გაცვლის სისტემა (Shared AI Findings Exchange, SAFE) უნდა ყოფილიყო. გასულ თვეში ბოიტანომ თქვა, რომ SAFE შეიქმნა ისე, რომ მას „დამოუკიდებლად მართავდნენ და მის მიგნებებს ვერც ერთი კომპანია ან ინდუსტრიის სეგმენტი ვერ აკონტროლებდეს“.
თუმცა ინდუსტრიის მასშტაბის, ღია კოდის მქონე ხელოვნური ინტელექტის ამ ინიციატივების ცენტრში მუდმივად ერთი კომპანია ჩნდება: Nvidia. ტექნოლოგიური ინდუსტრიის დიდი ნაწილი მსოფლიოს ყველაზე ძვირად ღირებულ კომპანიაზეა დამოკიდებული, რადგან მას მაღალი წარმადობის ჩიპები სჭირდება. როგორც ჩანს, Nvidia ცდილობს გავლენა გაიღრმაოს და ხელოვნური ინტელექტის ტექნოლოგიური სისტემის სხვადასხვა დონეზე სტანდარტები დაადგინოს, სილიციუმიდან უსაფრთხოების პროგრამულ უზრუნველყოფამდე.
აგენტების შეზღუდვისა და კონტროლის მცდელობები მთელ ინდუსტრიაში უკვე მიმდინარეობს. თუმცა უმართავი აგენტების ბოლოდროინდელი ქცევა უსაფრთხოების დიდი ხნის წინ დამკვიდრებული ძირითადი პრაქტიკის შესახებ ცნობიერების ამაღლების საჭიროებაზე მიუთითებს. როგორც ჩანს, ეს ტრილიონობით დოლარად შეფასებულ მოწინავე ლაბორატორიებსაც ეხება. ზოგიერთი ექსპერტის აზრით, ეს საკითხი იმ მთავარი კითხვის არსსაც უკავშირდება, თუ რას ნიშნავს სინამდვილეში ავტონომიური პროგრამული უზრუნველყოფის „უმართავად ქცევა“.
უსაფრთხოების გამოცდილმა ინჟინერმა და მკვლევარმა ნილს პროვოსმა აგენტების შეზღუდვისა და მეთვალყურეობისთვის განკუთვნილ ხელსაწყოებზე ზოგადად ისაუბრა. მან თქვა: „ყველაფერი, რაც კომპანიებს მეტი დამცავი მექანიზმითა და უსაფრთხოებით აგენტების დანერგვას უადვილებს, მისასალმებელია“. პროვოსმა ამ საკითხებზე ორიენტირებული ღია კოდის ჩარჩო თებერვალში შექმნა. მან დასძინა: „სხვა თუ არაფერი, ამგვარი ხელსაწყოები იმ მითის გაქარწყლებას მაინც უწყობს ხელს, რომ აგენტების კონტროლი შეუძლებელია“.
თემებიჯასტინ ბოიტანონილს პროვოსიNvidiaOpenAIAnthropicHugging FaceOpenShellSentryღია აგენტების უსაფრთხოების პლატფორმახელოვნური ინტელექტის მიგნებების საერთო გაცვლის სისტემა
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 28 სექტემბერი, 2026

A Gravitational Battle Within the Earth Is Changing the Length of Days

Some Pancreatic Cells Are Just One Genetic Tweak Away From Treating Diabetes

Android 18: Entwickler erhalten Ende Oktober erste Einblicke

Certainties in life: Death, taxes, and critical Citrix vulns under attack

Microsoft-Office-Update: Auslieferung unter anderem wegen Lizenzfehlern gestoppt
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.