Nvidia-ს აღმასრულებელი დირექტორი ხელოვნური ინტელექტის შემქმნელებს პასუხისმგებლობას აკისრებს

ბერლინში გამართულ Nvidia GTC-ზე ჯენსენ ჰუანგმა ხელოვნური ინტელექტის ერთ საკითხს სხვებზე მეტი ყურადღება დაუთმო: „დღეს ხელოვნურ ინტელექტში უსაფრთხოება ნომერი პირველი განხილვის თემაა“, განაცხადა მან. ეს სიტყვები მნიშვნელოვან პრობლემას ეხება. 2026 წლის ივლისში OpenAI-ის ხელოვნური ინტელექტის აგენტები სატესტო, იზოლირებული გარემოდან გამოვიდნენ და Hugging Face-ის ინფრასტრუქტურაში შეაღწიეს. ეს ხელოვნური ინტელექტის აგენტების მიერ უნებლიე შეღწევის ერთადერთი შემთხვევა არ ყოფილა. წელს გახშირდა შემთხვევები, როცა სხვა დეველოპერების, მათ შორის Anthropic-ის, Google-ისა და Meta-ს მოდელებმა ტესტირებისას კიბერშეტევები განახორციელეს.

ასეთი შემთხვევები ხელოვნური ინტელექტის მიმართ ნდობას არყევს. ეს კი ზიანს აყენებს მის მიღებას საზოგადოებაში და შესაძლოა, ხელოვნური ინტელექტის შემდგომ განვითარებასაც შეუშალოს ხელი. Nvidia-ს აღმასრულებელმა დირექტორმა ხელოვნური ინტელექტის მოდელების შექმნისას შესაძლო კიბერსაფრთხეებზე საუბრისას თქვა: „თუ იცი, რომ შენი პროდუქტი საზოგადოებას ზიანს აყენებს, მაშინვე შეწყვიტე. შეწყვიტე ზიანის მიყენება“.

თუმცა ჰუანგი ეწინააღმდეგება კანონით იძულებით დაწესებულ კოორდინირებულ შეზღუდვას, რომელიც, მაგალითად, Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ სექტემბერში შემოგვთავაზა. ჰუანგის თქმით, ვისაც ასეთი შეზღუდვის დაწესება სურს, შეუძლია ამისთვის თავად იბრძოლოს. მან დასძინა: „მაგრამ არ არის საჭირო იმის მოთხოვნა, რომ ვინმემ ყველა აიძულოს“.

Nvidia-ს აღმასრულებელი დირექტორისთვის აქამდე მომხდარი შემთხვევები ტექნოლოგიური პრობლემაა. მისი თქმით, „რეგულაცია მათ ვერ შეაჩერებდა, ამას ინჟინრები და ტექნოლოგია შეძლებდნენ“. შესაფერისად, მის კომპანიას ახლა სწორედ ასეთი ტექნოლოგია აქვს შეთავაზებაში.

ბერლინის ღონისძიებაზე Nvidia-მ ახლახან OpenShell-ის საცნობარო არქიტექტურა წარადგინა. კომპანიების თქმით, მისი დახმარებით მათ სამრეწველო მასშტაბით ხელოვნური ინტელექტის აგენტების შექმნა, გაშვება და უსაფრთხოდ ზედამხედველობა უნდა შეძლონ. Nvidia-ს ცნობით, ამ არქიტექტურაზე, სხვებთან ერთად, Anthropic, Meta და OpenAI მუშაობენ. მათი აგენტები წელს თავადაც მოხვდნენ ყურადღების ცენტრში არასანქცირებული წვდომის შემთხვევების გამო. გაურკვეველი დარჩა, რამდენად იყენებენ კომპანიები OpenShell-ს უკვე.

სისტემის საფუძველია მარტიდან ხელმისაწვდომი ღია კოდის პროგრამა OpenShell. მისი საშუალებით დეტალურად განსაზღვრული წესებით უნდა დადგინდეს, რომელ ფაილებზე, ქსელებსა და ხელსაწყოებზე ექნება წვდომა აგენტს. გარდა ამისა, Nvidia BlueField-4-ის მონაცემთა დამუშავების მოწყობილობებზე მომუშავე Sentry-ს სისტემით აპარატურულ ზედამხედველობას გეგმავს. სისტემამ ხელოვნური ინტელექტის მოდელების მსჯელობის პროცესიც უნდა შეამოწმოს საეჭვო ქცევის გამოსავლენად. თუმცა Sentry-ის გამოშვება მხოლოდ 2027 წლის დასაწყისისთვისაა დაანონსებული. GitHub-ზე საცავი meanwhile დიდი პოპულარობით სარგებლობს: მის 18 000 ვარსკვლავზე მეტის ნახევარზე მეტი ბოლო ოთხ კვირაში მიიღო.