წამყვანი ლაბორატორიები ხელოვნური ინტელექტის კატასტროფისთვის ემზადებიან

Axios-ის ცნობით, Anthropic-ის, OpenAI-ისა და ხელოვნური ინტელექტის სხვა ლაბორატორიების ხელმძღვანელები შესაძლო კატასტროფული ინციდენტისთვის პირად რეჟიმში ემზადებიან. ისინი განიხილავენ სცენარებს, რომლებშიც უმართავი ხელოვნური ინტელექტი კრიტიკულ ინფრასტრუქტურას მასშტაბურ ზიანს აყენებს. სამიზნეებს შორის ფინანსური მომსახურება, ინტერნეტი, ტელეკომუნიკაციები, ელექტროენერგიისა და წყლის მომარაგებაა. ეს პენტაგონის მიერ ჩატარებულ სამხედრო სიმულაციებს ჰგავს. მათი მიზანი ქვეყნებს შორის ბირთვული დარტყმების გაცვლისას სხვადასხვა სტრატეგიის შედეგების შეფასებაა.

კორპორაციულ სამყაროში ამგვარი დაგეგმვა უჩვეულო არ არის. კომპანიები გაუთვალისწინებელი შემთხვევებისთვის ზოგჯერ საქმიანობის უწყვეტობის სავარჯიშოებს ატარებენ. თუმცა, შეშფოთებას იწვევს ის, რომ ეს სავარჯიშოები ხელოვნურ ინტელექტთან დაკავშირებული დიდი ინციდენტისთვის ტარდება. დარგის მრავალი ექსპერტი ფიქრობს, რომ ასეთი შემთხვევა მომდევნო ექვსიდან 12 თვემდე პერიოდში მოხდება. კომპანიის წარმომადგენელმა გამოცემას განუცხადა: „OpenAI მზადყოფნის სავარჯიშოებს ატარებს, რომლებშიც გუნდები შესაძლო სცენარების ფართო სპექტრს განიხილავენ და ამუშავებენ. ეს სცენარები გარდაუვლად არ მიიჩნევა. მათი მიზანი სხვადასხვა გარემოებისთვის ჩვენი მომზადებაა“.

Anthropic-ის (Anthropic) აღმასრულებელმა დირექტორმა დარიო ამოდეიმ (Dario Amodei) ცოტა ხნის წინ გააფრთხილა საზოგადოება, რომ ხელოვნური ინტელექტით მართული ბოტნეტების „ჯგუფმა“ შესაძლოა უახლოეს თვეებში მთელი ინტერნეტი ჩაიგდოს ხელში. გაფრთხილება განსაკუთრებით OpenAI-ის მოდელების სატესტო გარემოდან გასვლის შემთხვევებს მოჰყვა. გავრცელდა ინფორმაცია შემთხვევაზეც, როცა „ავარიული გამორთვის მექანიზმმა“ უმართავი აგენტი ვერ შეაჩერა. ამის გამო სტარტაპი იძულებული გახდა, ტესტირება შეეჩერებინა. საფრთხე იმდენად დიდია, რომ Anthropic-მა პირველადი საჯარო შეთავაზების პროსპექტში „კაცობრიობისთვის ეგზისტენციალური რისკები“ ერთ-ერთ მთავარ რისკფაქტორად დაასახელა. კომპანიამ დოკუმენტის თითქმის მესამედი ამ საკითხს დაუთმო. OpenAI-ის უსაფრთხოების საკითხებზე მომუშავე ყოფილმა თანამშრომელმა თქვა, რომ ამჟამინდელი რისკები უსაფრთხოების კულტურის ნაკლებობიდან მომდინარეობს. საავიაციო და ბირთვულმა დარგებმა ასეთი კულტურის მნიშვნელობა გამოცდილებით უკვე შეისწავლეს.

ამის მიუხედავად, თეთრმა სახლმა ხელოვნური ინტელექტის რეგულაციების დაწესებაზე უარი თქვა. სანაცვლოდ, მან Nvidia-ს, OpenAI-ს, Anthropic-სა და სხვა ლაბორატორიებს ხელოვნური ინტელექტის განვითარებაზე „თვითკონტროლი“ მოსთხოვა. Axios-ის ცნობით, მოქმედი ადმინისტრაცია ამ ლაბორატორიებისა და ტექნოლოგიის განვითარების მიმართ რბილ მიდგომას ინარჩუნებს. თუმცა, სცენარების ერთ-ერთი მთავარი საკითხი დიდი ინციდენტის შემდეგ კონგრესისთვის ინფორმაციის მიწოდებაა. ასეთი მოვლენის შემდეგ კონგრესი, სავარაუდოდ, ხელოვნური ინტელექტის განვითარების შენელებას ან შეჩერებას შეეცდება. დამგეგმავები ფიქრობენ, რომ ამგვარ ნაბიჯს მნიშვნელოვანი დაბრკოლებები შეხვდება. მიუხედავად ამისა, ინციდენტი ეკონომიკაზე, სავარაუდოდ, მაინც იმოქმედებს. მსხვილმა ტექნოლოგიურმა კომპანიებმა ხელოვნური ინტელექტის ინფრასტრუქტურაში უკვე $1 ტრილიონზე მეტი დახარჯეს. 2050 წლამდე დამატებით $32 ტრილიონის ინვესტიციაა მოსალოდნელი.