Nvidia-მ ურჩი ხელოვნური ინტელექტის აგენტების შემაკავებელი სისტემა შექმნა

ჰუანგი აპოკალიფსურ პროგნოზებსა და რეგულირების გზით პრობლემის გადაჭრას არ ეთანხმება. ის დამცავი შეზღუდვების აუცილებლობას აღიარებს, თუმცა ფართო სამართლებრივი წესების ნაცვლად უკეთეს ინჟინერიას ემხრობა.

Nvidia-მ პლატფორმა დაახლოებით 100 ინდუსტრიულ პარტნიორთან ერთად შექმნა. კომპანიის განცხადებით, სისტემა კომპანიებს, მკვლევრებსა და საჯარო სექტორის ორგანიზაციებს ხელოვნური ინტელექტის აგენტებისთვის უსაფრთხო საზღვრების დასადგენად აერთიანებს. ის საუკეთესო პრაქტიკის გაზიარებასა და საერთაშორისო თანამშრომლობასაც ემსახურება.

პლატფორმა ორ ძირითად კომპონენტს აერთიანებს. Nvidia OpenShell ღია კოდის უსაფრთხო სამუშაო გარემოა, რომელიც აგენტებს იზოლირებულ სივრცეში ათავსებს და ოპერატორის წესებს აღასრულებს. Nvidia Sentry დამოუკიდებელი ზედამხედველის სანიმუშო არქიტექტურაა. ის Nvidia-ს BlueField-4 მონაცემთა დამუშავების მოწყობილობებზე მუშაობს და უსაფრთხოების წესებს სილიციუმის დონეზე აღასრულებს.

OpenShell მოდელისა და აგენტის მართვის სისტემის მიღმა იზოლირებულ გარემოს ქმნის. ბირთვის დონეზე იზოლაცია განსაზღვრავს, რისი დანახვა, გამოყენება და შესრულება შეუძლია აგენტს. მოდელის საზღვრებიდან გასვლის შემთხვევაშიც აგენტი OpenShell-ის საზღვრებს ვერ გასცდება. Sentry აპარატურული ტელემეტრიით აგენტის ქცევას მუდმივად აკვირდება. ის ურჩ სამუშაო პროცესებს აგენტის პროგრამული გარემოს გარედან გამოყოფს. Nvidia-ს განცხადებით, საზღვრის გადაკვეთის მცდელობისას Sentry აგენტს მილიწამებში იზოლაციაში მოაქცევს და შეაჩერებს.

პლატფორმა განკუთვნილია დეველოპერებისა და კომპანიებისთვის, რომლებიც მონაცემთა ცენტრებში, სამუშაო სადგურებსა და რობოტულ სისტემებში ავტონომიურ აგენტებს იყენებენ. ის ღია და დახურულ მოდელებთან მუშაობს. OpenShell ოპტიმიზებულია Nvidia Vera-სთვის, რომელიც აგენტური ხელოვნური ინტელექტისთვის შექმნილი ცენტრალური პროცესორია. ღია კოდის წყალობით, მისი გამოყენება Arm-ისა და Intel-ის გამოთვლით პლატფორმებზეც შეიძლება.

პარტნიორებს შორის ხელოვნური ინტელექტის ლაბორატორიები, უსაფრთხოებისა და იდენტობის სერვისების მიმწოდებლები, საწარმოო პლატფორმები და აპარატურული კომპანიები არიან. SpaceXAI პლატფორმას Cursor-ის პროგრამირების აგენტებთან და Grok-ის მოდელებთან იყენებს. Anthropic კი OpenShell-სა და BlueField-ს Claude Managed Agents-ში დამატებითი კონტროლის შრის შესაქმნელად აერთიანებს.

Scale AI ტექნოლოგიას საწარმოო და სამთავრობო მომხმარებლებისთვის განკუთვნილ აგენტურ ინფრასტრუქტურაში ამატებს. Salesforce-მა და Nvidia-მ OpenShell Slack-თან დააკავშირეს. მომხმარებლებს Slack-იდან აგენტების აქტივობის ნახვა, მოვლენების შემოწმება და დამატებითი ნებართვების მოთხოვნების დამტკიცება ან უარყოფა შეუძლიათ.

SAP OpenShell-ს Joule Studio-ს სამუშაო გარემოში ამატებს და პროექტს საინჟინრო სამუშაოებით ეხმარება. კომპანია Nvidia-სთან ერთად Open Secure AI Alliance-ის ფარგლებში თავსებადობის სტანდარტებზეც მუშაობს. Figure, Gecko Robotics და Skild AI OpenShell-ით ფიზიკურ სამყაროში მოქმედი ავტონომიური სისტემებისთვის მსგავს კონტროლს ქმნიან.

სკეპტიკოსების თქმით, ლაბორატორიების რეგულირების მოთხოვნა შესაძლოა „საკუთარ ინტერესებზე მორგებული“ გეგმა იყოს. მათი აზრით, ის ერთდროულად მოდელების შესაძლებლობების რეკლამირებას, მომავალი რეგულაციების გავლენის ქვეშ მოქცევასა და ჩინეთის განვითარების დამატებით შენელებას ემსახურება. Anthropic-ს, OpenAI-ს, SpaceXAI-სა და Google-ს განვითარების შენელებაზე შეთანხმების გამო ანტიმონოპოლიური სარჩელი ემუქრებათ. მოსარჩელემ ამ ნაბიჯს პირდაპირ „საკუთარ ინტერესებზე მორგებული“ უწოდა.

აშშ-ის პრეზიდენტი დონალდ ტრამპი ამ შეხედულებას იზიარებს. მან განაცხადა, რომ ძირის გამოსათხრელად „ავადმყოფური შეთქმულება“ მიმდინარეობდა, თუმცა წყაროს ტექსტში სამიზნე დასახელებული არ არის. ტრამპმა ხელოვნური ინტელექტის „ძალის“ შექმნა დააანონსა, რომელიც ტექნოლოგიას „დააფასებს“ და ზედამხედველობას გაუწევს. ჰუანგმა რეგულირებაზე ხმაურიან მოთხოვნებს „ყურადღების გამფანტველი“ უწოდა. მისი თქმით, მოდელს საკუთარი თავის რეგულირებას ან შესაბამისობის ტესტების გავლას ვერ მიანდობენ. შეცდომის აღმოჩენისას აგენტი მიზნის მისაღწევად სტანდარტული პროგრამული კოდის გვერდის ავლას ბუნებრივად ეცდება.

ჰუანგის პოზიცია სრულად უანგაროდ ვერ ჩაითვლება. ფართო შეზღუდვები ან განვითარების შეჩერება, სავარაუდოდ, Nvidia-ს გაყიდვებს შეამცირებს, რადგან კომპანიის ამაჩქარებლები მოდელების უმეტესობას ამუშავებს. ჰუანგი ურჩ ხელოვნურ ინტელექტს ყოველთვის კიბერუსაფრთხოებისა და ქსელის ხარვეზად მიიჩნევდა. ახლა ის Open Agent Safety Platform-ს მთელი ინდუსტრიისთვის აუცილებელ ინფრასტრუქტურულ გამოსავლად წარმოაჩენს.

ჰუანგმა განაცხადა: „ხელოვნური ინტელექტის არაჩვეულებრივი საზოგადოებრივი პოტენციალი მხოლოდ მაშინ განხორციელდება, თუ უსაფრთხოების პრობლემას გადავჭრით. შესაძლებლობების მოწინავე ზღვრის კვლევასთან ერთად, უსაფრთხოების მოწინავე მიმართულებების აღმოჩენაც უნდა დავაჩქაროთ. უსაფრთხოება სრულ სისტემურ ინჟინერიას მოითხოვს. Nvidia Open Agent Safety Platform კომპანიებს, მკვლევრებსა და საჯარო სექტორის ორგანიზაციებს საუკეთესო პრაქტიკის გასაზიარებლად, შეფასების მეთოდების შესათანხმებლად და საერთაშორისო თანამშრომლობისთვის აერთიანებს. ერთად გლობალური უსაფრთხოების სტანდარტის ამაღლება შეგვიძლია“.

თუმცა, ეს ზომები ნაკლებად ეხება უფრო შემაშფოთებელ საფრთხეს: მძლავრი ინსტრუმენტების ბოროტმოქმედთა ხელში მოხვედრას ან ეთიკურად სადავო გამოყენებას. მავნე კოდის შექმნაზე შეზღუდვების არმქონე ჩინური ღია მოდელების გამოშვების შემდეგ ბლოკჩეინის დახმარებით განხორციელებული კიბერშეტევები 440%-ით გაიზარდა. ამ მოდელებმა შეტევების დასაწყებად საჭირო ცოდნის ზღვარიც შეამცირა. მკვლევრებმა ხელოვნური ინტელექტით ბუნებაში მანამდე არარსებული 16 ახალი ვირუსიც შექმნეს. კვლევა კონტროლირებულ სამედიცინო პირობებში ჩატარდა, თუმცა მან ძალზე სახიფათო გამოყენების შესაძლებლობა აჩვენა. ექსპერტები შიშობენ, რომ ასეთი კვლევები აუცილებელ დამცავ ზომებსა და რეგულირებას მნიშვნელოვნად უსწრებს.

თემებიდარიო ამოდეიდონალდ ტრამპიჯენსენ ჰუანგიAnthropicNvidiaOpenAISpaceXAINvidia Open Agent Safety PlatformNvidia OpenShellNvidia Sentry

გამოქვეყნდა 1 ოქტომბერი, 2026