ადამიანები ენერგოსისტემებისთვის კვლავ მთავარ კიბერსაფრთხედ რჩებიან

რისკის შეფასებისას განზრახვა გადამწყვეტია. OpenAI-ს მოდელმა კომპანიის სასწავლო შეზღუდვები გადალახა და ხელოვნური ინტელექტის ლაბორატორია Hugging Face-ს თავს დაესხა. ამერიკის საზოგადოებრივი ენერგომომარაგების ასოციაციის (American Public Power Association) კიბერუსაფრთხოების პროგრამის უფროსმა მენეჯერმა რობ დენაბურგმა მოდელის შესაძლებლობებს შთამბეჭდავი და შემაშინებელი უწოდა. ასოციაცია 2 000 მუნიციპალიტეტში ადგილობრივი თემების საკუთრებაში არსებულ ენერგომომარაგების სამსახურებს წარმოადგენს.

დენაბურგის თქმით, Hugging Face-ზე თავდასხმისა და მსგავს შემთხვევებში თვითნებური აგენტები კვლავ სასწავლო მიზნების შესრულებაზე იყვნენ ორიენტირებული. ვითარება უფრო საშიში იქნებოდა, თუ ვინმე მოდელს ენერგეტიკულ ინფრასტრუქტურაზე თავდასხმისთვის გაწვრთნიდა და აგენტები საცდელ გარემოს გასცდებოდნენ. ასეთ შემთხვევაშიც ბოროტი განზრახვის მქონე ადამიანი იქნებოდა ჩართული.

ისტორიულად, კრიტიკული ინფრასტრუქტურის მთავარ კიბერსაფრთხედ მტრულად განწყობილი სახელმწიფოები მიიჩნეოდნენ. კორმანის თქმით, ისინი უფრო დისციპლინირებული არიან და რთული თავდასხმების ჩატარებაც უკეთ შეუძლიათ. ახლა ხელოვნური ინტელექტი ნაკლებად გამოცდილი მოწინააღმდეგეების ეფექტიანობას ზრდის.

კორმანმა თქვა: „ბოროტმოქმედ ადამიანს ამ ხელსაწყოებით საკუთარ ბუნებრივ შესაძლებლობებზე უკეთ შეუძლია შეუტიოს სისტემებს, რომლებთან მუშაობაც მანამდე არ იცოდა. მან შესაძლოა ოპერაციული ტექნოლოგიის ოქმები, ქსელები და სტრატეგიები არ იცოდეს, მაგრამ დიდ ენობრივ მოდელს სახელმძღვანელოები წაკითხული აქვს და იცის, რა გააკეთოს“.

დენაბურგის თქმით, თავდაცვის სტრატეგიები თავდამსხმელის ვინაობის მიუხედავად მსგავსია. ხელოვნური ინტელექტი მოწინააღმდეგეს სისუსტეების ერთმანეთთან დაკავშირებასა და პროცესის ნაწილის ავტომატიზებაში ეხმარება. თუმცა დამცველს თავდასხმის ერთ ეტაპზე შეჩერებაც შეუძლია.

ენერგოკომპანიებს კრიტიკული ინფრასტრუქტურის დასაცავად სხვადასხვა საუკეთესო პრაქტიკის გამოყენება შეუძლიათ. ყველა მათგანი კიბერუსაფრთხოებას არ უკავშირდება. სისტემებს საჭიროებისას ხელით მართვაზე გადასვლა უნდა შეეძლოს. ზოგ შემთხვევაში ინფრასტრუქტურის ურთიერთდაკავშირების შემცირებაც გამოსავალია. კორმანის თქმით, კომპანიები სულ უფრო მეტად აცნობიერებენ პრინციპს: „თუ დაცვა არ შეგვიძლია, უნდა გავთიშოთ“.

მაკდაუელის თქმით, პასუხისმგებლობა მთავრობებსა და მოწინავე მოდელების შემქმნელ კომპანიებსაც ეკისრებათ. OpenAI-ს აღმასრულებელი დირექტორის, სემ ალტმანის შეხვედრა ენერგომომარაგების სამსახურებთან დადებითი ნაბიჯი იყო. შეხვედრა ელექტროქსელების დაცვას ეხებოდა. თუმცა კატასტროფის თავიდან ასაცილებლად მეტი მოქმედებაა საჭირო. მაკდაუელმა ვერჯს უთხრა: „ისინი დახმარებას გვთავაზობენ პრობლემისთვის, რომელსაც ნაწილობრივ თავად ქმნიან“. მისი თქმით, კომპანიები საკუთარ ტექნოლოგიურ განვითარებას სათანადოდ ვერ აკონტროლებენ.

ბირთვული ტექნოლოგიებისა და სახიფათო მასალების კვლევას რეგულაციები ზღუდავს, ხელოვნური ინტელექტისთვის კი მსგავსი დამცავი პოლიტიკა ჯერ არ მოქმედებს. მაკდაუელმა თქვა: „ამ ტექნოლოგიურმა და სამეცნიერო განვითარებამ შეიძლება კრიტიკულ ინფრასტრუქტურასა და ადამიანის სიცოცხლეს საფრთხე შეუქმნას. ამიტომ შეზღუდვები საჭიროა“. მან დასძინა: „განვითარების შეზღუდვა არც ჩვენ გვსურს, თუმცა კვლევის პასუხისმგებლობით გაგრძელება შესაძლებელია“.

მაკდაუელის თქმით, ენერგოსისტემების კიბერუსაფრთხოების გასაუმჯობესებლად ხელოვნური ინტელექტის გამოყენება საკმარისად შესწავლილი არ არის. კვლევები განსაკუთრებით იშვიათია სისუსტეების აღმოსაჩენად თავდასხმების იმიტაციის მიღმა.

ამ თვის დასაწყისში OpenAI-მ 1 მილიარდი დოლარის გამოყოფის პირობა დადო. თანხამ უნდა დააფინანსოს სწავლება და ახალ მოდელებზე წვდომა, რომლებიც კრიტიკული ინფრასტრუქტურის დაცვას შეუწყობს ხელს.

OpenAI-მ 3 სექტემბრის განცხადებაში თქვა: „მომავალ თვეებში ხელოვნური ინტელექტით განხორციელებული კიბერშეტევები გაცილებით ფართოდ გავრცელდება და გართულდება, რადგან მსოფლიოს მოდელების შესაძლებლობები იზრდება. მოწინავე ხელოვნურ ინტელექტს დამცველების მოქმედების დაჩქარება შეუძლია“.

კორმანი თავდაცვით აგენტებზე დაყრდნობას არ ემხრობა. კრიტიკული ინფრასტრუქტურის ოპერაციული ტექნოლოგიის მგრძნობიარე გარემოში როგორც კეთილგანწყობილი, ისე მავნე აგენტების კონტროლი შეიძლება გაჭირდეს. მან თქვა: „ოპერაციული ტექნოლოგიის გარემოში მეტისმეტად სწრაფი ცვლილებების შეტანაც ძალიან სახიფათოა. ახლა იქ ხელოვნური ინტელექტის ერთი ხარი მეორეს ებრძვის, ირგვლივ კი ყველაფერი მსხვრევადია“.

თემებიჯოშუა კორმანისოფი მაკდაუელირობ დენაბურგისემ ალტმანიუსაფრთხოებისა და ტექნოლოგიების ინსტიტუტიდემოკრატიების დაცვის ფონდიამერიკის საზოგადოებრივი ენერგომომარაგების ასოციაციაOpenAIHugging Faceვერჯი

გამოქვეყნდა 20 სექტემბერი, 2026