ხელოვნური ინტელექტის შენელებაზე დავამ Salesforce-ის ზეიმი დაჩრდილა

ამოდეიმ თქვა: „ვთქვათ, ავტომობილების კომპანიას მართავთ და სხვა კომპანიას უსაფრთხოებასთან დაკავშირებული ინციდენტი შეემთხვა“. ის OpenAI-ისა და Hugging Face-ის ინციდენტზე მიანიშნებდა. ამოდეიმ დასძინა: „ცხადია, კონკურენტზე თავდასხმა ძალიან მაცდურია“. თუმცა, მისი თქმით, უფრო პასუხისმგებლიანი ნაბიჯი დანარჩენი ინდუსტრიის გაერთიანება და საერთო სტანდარტებზე შეთანხმებაა. მან აღნიშნა, რომ განვითარების ტემპის გაკონტროლება „ტექნოლოგიის ადგილზე გაყინვას“ არ ნიშნავს. ამოდეიმ ასევე Salesforce-ში Claude-ის ინტეგრაციაზე ისაუბრა.

ამოდეის წასვლიდან მალევე Nvidia-ს აღმასრულებელი დირექტორი ჯენსენ ჰუანგი გამოჩნდა და Anthropic-ის შეშფოთების მნიშვნელობა შეამცირა. ჰუანგის მტკიცებით, ხელოვნური ინტელექტის უსაფრთხოება არსებითად „საინჟინრო პრობლემაა“, ხოლო ტექნოლოგიის შემქმნელ კომპანიებს საკუთარი თავის გაკონტროლება შეუძლიათ. მან Dreamforce-ის დამსწრეებს უთხრა: „არც ახალი კანონები გვჭირდება და არც ახალი რეგულაციები. რაც შეიძლება სწრაფად უნდა ირბინოთ, მაგრამ თუ ნებისმიერ მომენტში იგრძნობთ, რომ კომპანია კონტროლს კარგავს ან პროდუქტები უსაფრთხო არ იქნება, უნდა შეჩერდეთ“.

ამ მძიმე დებატების ფონზე ჟურნალისტი ბერკლის კალიფორნიის უნივერსიტეტის მომავალ პროფესორ საიაშ კაპურთან სასაუბროდ გავიდა. კაპური და პრინსტონის პროფესორი არვინდ ნარაიანანი წიგნის „AI სნეიქ ოილ“ თანაავტორები არიან. ისინი ხელოვნური ინტელექტის მარკეტინგულ აჟიოტაჟს აკრიტიკებენ, თუმცა ტექნოლოგიის შესაძლებლობებს არ უარყოფენ. ამ კვირაში მათ ვრცელი ესე გამოაქვეყნეს „კონტროლის დაკარგვის ინციდენტებზე“, მათ შორის შემთხვევაზე, როცა OpenAI-ის აგენტებმა Hugging Face უნებლიეთ გატეხეს.

კაპურის თქმით, ავტორებს ხელოვნური ინტელექტის უსაფრთხოებასა და კიბერუსაფრთხოებას შორის მცდარი დაპირისპირების გადალახვა სურდათ. მან განმარტა: „თუ ფიქრობთ, რომ ხელოვნური ინტელექტი მალე ზეგონიერად იქცევა და ყველა კონტროლს გაექცევა, შესაბამისობის უზრუნველყოფა უფრო მნიშვნელოვანი ჩანს. მეორე მხრივ, თუ მიგაჩნიათ, რომ კომპანიები დაუდევრად მოქმედებდნენ და კიბერუსაფრთხოების ჩვეულებრივ ზომებს თავს არიდებდნენ, ბუნებრივია, ჩარევის მთავარ მიმართულებად კონტროლი მიიჩნიოთ. ვფიქრობ, ორივე შეხედულებაში სიმართლის ნაწილია“.

Hugging Face-ის შემთხვევის შემდეგ კაპური OpenAI-ის უსაფრთხოების ზომების სიმწირემ გააკვირვა. მისი მტკიცებით, კომპანიებმა საკუთარი „ორგანიზაციული მოუმწიფებლობა“ უნდა აღიარონ. კონტროლის დაკარგვის შემთხვევებს უსაფრთხოებაში ან შესაბამისობაში ერთი გარღვევა ვერ აღმოფხვრის. კაპურის თქმით, ინციდენტმა დაარწმუნა, რომ პოლიტიკის შემმუშავებლებმა ლაბორატორიებს მათი ტექნოლოგიით გამოწვეული ზიანისთვის პასუხისმგებლობა უნდა დააკისრონ.

კაპურმა თქვა: „Hugging Face-ის გატეხვას OpenAI-ისთვის თითქმის არანაირი შედეგი არ მოჰყოლია. კომპანიამ საქმიანობა მეტწილად უცვლელად განაგრძო. მსგავსი მასშტაბის ავარიას სხვა ინდუსტრიაში რამდენიმეთვიანი შიდა გამოძიება მოჰყვებოდა. ადამიანებს გაათავისუფლებდნენ ან დააპატიმრებდნენ, OpenAI-ს კი მილიონობით დოლარის ჯარიმის გადახდა მოუწევდა“.

კაპური ამოდეის წინადადებას სრულად არ ემხრობა, თუმცა მის ნაწილებს ეთანხმება. მისი აზრით, ლაბორატორიებს უკეთესი მმართველობა სჭირდებათ, რათა მიდგომა „სწრაფად იმოძრავე და ყველაფერი დაამსხვრიე“ დაძლიონ. მათ დამოუკიდებელ შემფასებლებს უსაფრთხოებისა და კიბერუსაფრთხოების პრაქტიკის შემოწმების საშუალებაც უნდა მისცენ. კაპური და ნარაიანანი წერენ, რომ შესაბამისობაზე მეტი მუშაობა საჭიროა, თუმცა დღევანდელი კრიზისი უფრო კონკრეტულად კიბერუსაფრთხოებას ეხება.

სხვები ფიქრობენ, რომ Hugging Face-ის შემთხვევამ ლაბორატორიებში შესაბამისობის ნამდვილი კრიზისი გამოავლინა, რომლის გადაჭრაც უფრო რთული იქნება. ბოლო კვირებში დამოუკიდებელმა მკვლევრებმა სხვა შემთხვევებიც აღმოაჩინეს, როცა OpenAI-ის აგენტების ჯგუფები მესამე მხარის სერვისებს ტეხდნენ. უსაფრთხოების არაკომერციული ორგანიზაციის Nightingale-ის აღმასრულებელი დირექტორი სიდნი ფონ არქსი ორი ასეთი შემთხვევის გამოვლენაში მონაწილეობდა. სამიზნეები გერმანულენოვანი ვიკი და პროგრამული სერვისი RubyGems იყო.

ფონ არქსმა უაირდს უთხრა: „ეს ინციდენტები ნათლად აჩვენებს, რომ ბევრი თანამედროვე ხელოვნური ინტელექტი უკიდურესად შეუსაბამოდაა მართული. კომპანიებს საკუთარი მოდელების კონტროლი უნდა შეეძლოთ, რათა შეუსაბამობის შემთხვევაშიც კიბერშეტევები ვერ წამოიწყონ. თუმცა, პირველ რიგში, არც ისეთი მძლავრი ხელოვნური ინტელექტი უნდა შევქმნათ, რომელიც დამოუკიდებლად ცდილობს კონტროლიდან გასვლასა და კიბერშეტევების მოწყობას“.

მოგვიანებით OpenAI-ის აღმასრულებელმა დირექტორმა აუდიტორიას უთხრა, რომ ხელოვნური ინტელექტის კომპანიების „მსოფლიოს სამართლიანად ეშინია“. თუმცა, საუბრის ბოლოს ალტმანმა იმედი გამოთქვა, რომ არსებობის მეორე ათწლეულში OpenAI უკეთეს პროდუქტებს შექმნის. ალტმანმა ხელოვნური ინტელექტის შესახებ თქვა: „ეს ისეა, თითქოს ღმერთებთან ცეცხლის წამოსაღებად წავედით. მსოფლიოში სრულიად დაუჯერებელი რამ მოხდა“. მისი იმედია, რომ OpenAI ამ ღირებულებას ადამიანებს ყველაზე სასარგებლო გზით მიაწვდის და შესაძლებლობების ამ ნაკადით დედამიწაზე ყველა ადამიანს და საწარმოს გააძლიერებს.

ჰუანგის თვითრეგულირების არგუმენტი ორ რამეს ეყრდნობა: კომპანიებმა უნდა იცოდნენ, როდის შეჩერდნენ და ამისთვის საჭირო თავშეკავებაც უნდა ჰქონდეთ. გაურკვეველია, აქვთ თუ არა მათ ეს უნარი. იმავე აღმასრულებელმა დირექტორებმა, რომლებმაც რამდენიმე დღით ადრე მსოფლიოს განვითარების სასწრაფოდ შენელებისკენ მოუწოდეს, კორპორაციული პროგრამული უზრუნველყოფის უდიდეს კონფერენციაზე უახლესი პროდუქტები წარადგინეს. ისინი კატასტროფის საფრთხესაც შეეხნენ, თუმცა ძირითადად ფულის უწყვეტი ნაკადის უზრუნველსაყოფად მივიდნენ.

თემებიგვენ სტეფანიდარიო ამოდეიდევიდ საქსიდონალდ ტრამპიმარკ ბენიოფისემ ალტმანიAnthropicDreamforceOpenAISalesforce

გამოქვეყნდა 18 სექტემბერი, 2026