WIRED-ის წყაროების ცნობით, ამ წლის დასაწყისში კონტრაქტორმა თავდაცვის დეპარტამენტში უსაფრთხოების ინციდენტი გამოიწვია. მან რამდენიმე სადაზვერვო სააგენტოს მიერ გამოყენებული დაცული, ცენტრალიზებული სისტემა Anthropic-ის (Anthropic) კოდირების AI აგენტ Claude Code-ის პირად ანგარიშს დაუკავშირა. როგორც ჩანს, აგენტმა, რომელსაც გლობალურ საკონსულტაციო კომპანია Accenture-ში დასაქმებული კონტრაქტორი იყენებდა, მესამე მხარის მაღალი რისკის ვებსაიტს თავდაცვის დეპარტამენტის სისტემის შესახებ ინფორმაცია, მათ შორის შესვლის მონაცემები, გაუგზავნა.
ცენტრალიზებული სისტემა შეიცავს კონტროლირებად არაკლასიფიცირებულ ინფორმაციას (CUI), რომელიც სენსიტიურად ითვლება და გადამოწმების გარეშე საზოგადოებისთვის არ უნდა გამჟღავნდეს. CUI შეიძლება მოიცავდეს ინფორმაციას კრიტიკული ინფრასტრუქტურის, ბირთვული წყალქვეშა ნავების ძრავებისა და ქიმიური და ბიოლოგიური ტერორიზმის საფრთხეების შესახებ. უსაფრთხოების ექსპერტების თქმით, სისტემაზე წვდომამ შესაძლოა კიდევ უფრო სენსიტიური ინფორმაციის გამოყენების შესაძლებლობაც შექმნას.
ინციდენტის შესახებ ინფორმირებულმა წყარომ, რომელმაც ვინაობის გამხელა არ ისურვა, რადგან პრესასთან საუბრის უფლება არ ჰქონდა, თქვა, რომ ამან სისტემაში არსებული ყველა მონაცემი საფრთხის ქვეშ დააყენა. მისი თქმით, მესამე მხარის პროგრამული უზრუნველყოფის გატეხვის შემთხვევაში, ვიღაცას შესაძლოა დაცულ გარემოში შეუმჩნევლად შესვლის შესაძლებლობა ჰქონოდა. წყაროს შეფასებით, ეს ეროვნული უსაფრთხოებისთვის 100%-იანი საფრთხეა და შესაძლოა გამოუსწორებელი ზიანი გამოეწვია.
თავდაცვის დეპარტამენტის წარმომადგენელმა WIRED-ს განუცხადა, რომ დეპარტამენტი საკუთარ ქსელებსა და სისტემებზე კომენტარს არ აკეთებს.
Accenture-ის წარმომადგენელმა თქვა, რომ კომპანია ყველა შეშფოთებას სერიოზულად ეკიდება. მისი თქმით, ბრალდებები საფუძვლიანად და დამოუკიდებლად გამოიძიეს და უსაფუძვლოდ მიიჩნიეს. კომპანიამ სრულად შეასრულა სამართლებრივი და სახელშეკრულებო ვალდებულებები. დამატებითი განმარტების მოთხოვნის შემდეგ, Accenture-ს არ დაუკონკრეტებია, ვინ ჩაატარა გამოძიება, თუმცა არც ის უარუყვია, რომ მოხდა შემთხვევა, რომელსაც ინციდენტი შეიძლება ეწოდოს.
Accenture-ის თანამშრომელს ედავებიან, რომ მან დაცული სამუშაო გარემო Claude-ის პირად ანგარიშს დაუკავშირა, რათა AI აგენტს კოდი დაეწერა და გაეშვა. თავდაცვის დეპარტამენტის თანამშრომლებს ამჟამად Claude-ის გამოყენება ეკრძალებათ. Anthropic-მა WIRED-ს კომპანიის გამოყენების წესებზე მიუთითა. წესები მომხმარებლებს უკრძალავს პროდუქტის გამოყენებას სამხედრო ბაზებისა და მათთან დაკავშირებული ინფრასტრუქტურის მუშაობაში ჩარევისთვის, ან ნებართვის გარეშე უსაფრთხოების კონტროლის, მათ შორის ავთენტიფიკაციის სისტემების, საბოლოო მოწყობილობების დაცვისა და მონიტორინგის ხელსაწყოების გვერდის ავლისთვის.
Accenture-ის თანამშრომლის AI აგენტი თავდაცვის დეპარტამენტის ქსელში ორი თვის განმავლობაში მუშაობდა, სანამ ის აღმოაჩინეს და მოწყვლადობა აღმოფხვრეს. წყაროების ცნობით, Accenture-ის თანამშრომლებს, მიუხედავად AI კოდირების აგენტით გამოწვეული უსაფრთხოების რისკებისა, შემთხვევა მძიმე ან სასწრაფო პრობლემად არ მიუჩნევიათ. თავდაცვის დეპარტამენტის თანამშრომლებსა და ფედერალურ კონტრაქტორებს კიბერუსაფრთხოების ინციდენტის აღმოჩენიდან 72 საათის განმავლობაში შეტყობინება ევალებათ. წყაროების ცნობით, Accenture-მა თავდაპირველად მთავრობას დარღვევის შესახებ საერთოდ არ აცნობა.
თანამშრომელმა თქვა, რომ ამჟამად ირანთან კონფლიქტია და ირანმა რამდენიმე ფედერალური სააგენტოსა და აშშ-ის ინფრასტრუქტურის ნაწილის გატეხვა სცადა. მისი თქმით, ასეთი დაუდევარი დამოკიდებულებისთვის ყველაზე ცუდი დროა.
Accenture-ს ფედერალურ მთავრობასთან 3,5 მილიარდ დოლარზე მეტი ღირებულების კონტრაქტები აქვს, მათგან თითქმის 605 მილიონი დოლარისა კი თავდაცვის დეპარტამენტთან. კომპანია სხვა ფედერალურ უწყებებთანაც მუშაობს, მათ შორის განათლების დეპარტამენტთან, საერთო მომსახურების ადმინისტრაციასა და ენერგეტიკის დეპარტამენტთან. ამ თვის დასაწყისში გამოძიების ფედერალურმა ბიურომ (FBI) დაადგინა, რომ Accenture-ის კონტრაქტორმა მოწყვლადობა არ აღმოფხვრა. ამის შედეგად ჰაკერულმა ჯგუფმა ShinyHunters-მა ბიუროს ათასობით თანამშრომლის მონაცემებზე წვდომა მოიპოვა. FBI-მ კონტრაქტორი ოქტომბრის დასაწყისში ჩამოაშორა.
ვაშინგტონში მდებარე IT საკონსულტაციო კომპანია Hunter Strategy-ის დამფუძნებელმა მეტ ტრინერმა თქვა, რომ ეს შემთხვევა ასახავს იმ წინააღმდეგობრივ მოთხოვნებს, რომლებსაც სამთავრობო კონტრაქტორები უფრო ფართოდ აწყდებიან. მისი თქმით, კომპანიები ხშირად ისჯებიან მსგავსი ინციდენტების შეტყობინებისთვის, მიუხედავად იმისა, რომ ამის გაკეთება სწორი და კანონით სავალდებულოა. ზოგ შემთხვევაში, კომპანია უსაფრთხოების დარღვევის აღიარების გამო შესაძლოა სამთავრობო კონტრაქტებს ვეღარ იღებდეს. თუმცა, ტრინერის თქმით, აღწერილი ინციდენტი აუცილებლად უნდა შეტყობინებოდა შესაბამის უწყებებს.
ტრინერმა ასევე აღნიშნა, რომ კონტრაქტორებზე მზარდი ზეწოლა, რათა პროექტები უფრო სწრაფად და ნაკლებ ფასად ჩააბარონ, უსაფრთხოებისა და დაცულობის პრიორიტეტად ქცევას ეწინააღმდეგება. მისი თქმით, ყველა ისეთ სისტემაში მუშაობს, სადაც წესები და წახალისების მექანიზმები ერთმანეთს ეჯახება. ეს პრობლემა AI-მდე არსებობდა, ახლა კი ყველაფერი უფრო სწრაფად ხდება.
Accenture-ის კონტრაქტორის მიერ გამოყენებული კოდირების გარემო თავდაცვის დეპარტამენტის არაკლასიფიცირებული ინფორმაციის პროტოკოლის მარშრუტიზატორების ქსელზე (NIPRNet) მუშაობს. ეს ქსელი არაკლასიფიცირებული ინფორმაციისთვის გამოიყენება. ქსელი ინტერნეტთან არის დაკავშირებული და კონტრაქტორებსა და თანამშრომლებს მისი მეშვეობით ელექტრონულ ფოსტასა და ვებბრაუზერებზე წვდომა აქვთ, თუმცა ქსელი მკაცრად არის დაცული.
წყაროს თქმით, კოდის წერის პროცესისა და ღრუბლოვანი სერვერების ჩართვის ავტომატიზაციისთვის კონტრაქტორმა Claude-ის აგენტს შესვლის მონაცემები მისცა. ამან აგენტს ადმინისტრატორის უფლებები და ჩვეულებრივი შესვლის პროცესით დაწესებული დაცვის გვერდის ავლის შესაძლებლობა მისცა. AI აგენტი არა მხოლოდ კოდს წერდა, არამედ Accenture-ის თანამშრომლის სახელით სისტემაში კოდსაც ათავსებდა. ამ ამოცანების შესასრულებლად მას ინტერნეტთან დაკავშირება სჭირდებოდა. როგორც ჩანს, ამის დროს მან მესამე მხარის ვებსაიტს კონტრაქტორის შესვლის მონაცემები, პაროლები და NIPRNet-ის რუკა გაუგზავნა.
WIRED მესამე მხარის ვებსაიტს არ ასახელებს, რათა სისტემა დამატებითი საფრთხისგან დაიცვას. სტანდარტებისა და ტექნოლოგიების ეროვნულმა ინსტიტუტმა ეს ვებსაიტი მანამდე მაღალი რისკის მქონედ შეაფასა. მისი მოწყვლადობის გამოყენებით, ჰაკერებს შესაძლოა AI კოდირების აგენტისთვის ისეთი მითითებების მიწოდება შეძლებოდათ, რომლებიც შესვლის მონაცემების მოპარვას გამოიწვევდა.
AI აგენტი CUI-ის შემცველ სისტემას დაუკავშირდა. წყაროს თქმით, CUI-ის შემცველი გარემოდან ინფორმაცია ამ ინფრასტრუქტურას არ უნდა გასცდეს. უცნობია, რა ბედი ეწია ინფორმაციას, მათ შორის შესვლის მონაცემებს, მას შემდეგ, რაც ის ამ სერვისს გადაეგზავნა, ან შეინახა თუ არა სერვისმა ის.
უწყებისა და მისი საქმიანობის მიხედვით, CUI შეიძლება შეიცავდეს როგორც პირად საიდენტიფიკაციო მონაცემებს, ისე საკუთრებაში არსებულ ბიზნესინფორმაციას ან კონტრაქტებთან დაკავშირებულ მონაცემებს. თავდაცვის დეპარტამენტის ვებსაიტის თანახმად, CUI შეიძლება მოიცავდეს ინფორმაციას ასაფეთქებელი ნივთიერებების, საშიში ქიმიკატებისა და ნავთობსადენების დაცვის შესახებ. ის ასევე შეიძლება შეიცავდეს „სამხედრო ან კოსმოსური აღჭურვილობისა თუ ტექნოლოგიის“ პროექტებთან დაკავშირებულ დოკუმენტაციას და რადიოაქტიური მასალის ზუსტ ადგილმდებარეობასა და რაოდენობას.
ჰაკერისთვის მონაცემების რუკა, უშუალოდ მონაცემებისგან განსხვავებით, შესაძლოა უაღრესად ღირებული იყოს. ტრინერის თქმით, თავდამსხმელისთვის იმის გაგება, თუ როგორ უკავშირდება ეს ელემენტები ერთმანეთს, სასარგებლოა მაშინაც კი, როცა თითოეული მათგანი საჯაროა. სენსიტიურია იმის ცოდნა, როგორ აერთიანებენ ამ ელემენტებს და როგორ აქცევენ მათ პრაქტიკულ სადაზვერვო ინფორმაციად.
ტრინერის თქმით, რუკა შესაძლოა ჰაკერს სისტემაში შეღწევაში არ დაეხმაროს, მაგრამ წვდომის მოპოვების შემდეგ მოწინააღმდეგეს მოქმედების დაჩქარებაში შეუწყობს ხელს. ამან თავდამსხმელს შესაძლოა აჩვენოს, სად არის სისტემის ყველაზე ღირებული ნაწილი.
ყოფილმა NSA-ის ჰაკერმა და სადაზვერვო და უსაფრთხოების საკონსულტაციო კომპანია IANS-ის თანამშრომელმა ჯეიკ უილიამსმა თქვა, რომ NIPRNet-ში კოდის გამშვები AI აგენტი დიდ პრობლემას ქმნის და ეროვნული უსაფრთხოებისთვის მნიშვნელოვან საფრთხეებს შეიცავს.
უილიამსის თქმით, ცალკეული მონაცემი ან ინფორმაცია შესაძლოა CUI-დ ითვლებოდეს, მაგრამ მათი გაერთიანების შემდეგ არაკლასიფიცირებული ინფორმაციაც შეიძლება თავად კლასიფიცირებულ ინფორმაციად იქცეს. მაგალითად, CUI შეიძლება იყოს ზოგიერთი საშიში მასალის ადგილმდებარეობა, ისევე როგორც იმ ობიექტების მოწყვლადობა, სადაც ეს მასალები ინახება. მათი გაერთიანებით კი შესაძლოა ისეთი ინფორმაცია გამოვლინდეს, რომელიც კლასიფიცირებული უნდა იყოს.
თუმცა, კლასიფიცირებული ინფორმაცია მხოლოდ ამ გზით არ მოქცეულა საფრთხის ქვეშ. ხელსაწყოებსა და კოდს ხშირად NIPRNet-ში ცდიან, სანამ უფრო დაცულ სისტემებში განათავსებენ. მათ შორისაა საიდუმლო ინფორმაციის პროტოკოლის მარშრუტიზატორების ქსელი (SIPRNet), რომელიც სამხედროების კლასიფიცირებული ინფორმაციისთვის განკუთვნილი დაცული ქსელია, და ერთობლივი მსოფლიო სადაზვერვო კომუნიკაციების სისტემა (JWICS), რომელიც უმაღლესი საიდუმლოების ინფორმაციისთვის დაცული შიდა ქსელია. SIPRNet და JWICS გარე ქსელებისგან ფიზიკურად განცალკევებულია. პრაქტიკულად, ეს ნიშნავს, რომ ჰაკერს მათზე დისტანციურად წვდომა უკიდურესად გაუჭირდებოდა.
თუმცა, AI აგენტის მიერ გატანილი შესვლის მონაცემებით, ჰაკერს შეეძლო NIPRNet-ზე წვდომა და ხელსაწყოსა თუ სისტემაში უკანა კარის ან სხვა მავნე კოდის ჩასმა. სათანადო შემოწმების გარეშე, ეს კოდი შესაძლოა ქსელებისგან ფიზიკურად განცალკევებულ სისტემებში მოხვედრილიყო.
უილიამსის თქმით, კოდს NIPRNet-ში სრულად ნორმალურად მუშაობა და SIPR ქსელში მავნე, დაუფიქსირებელი ქმედების შესრულება სრულიად შეეძლო. ამ ქსელებიდან მონაცემების გატანა რთული იქნებოდა, თუმცა მავნე კოდის გამოყენებით სისტემებზე შიგნიდან თავდასხმა შესაძლებელი იქნებოდა. მისი შეფასებით, ყველაზე სავარაუდო სცენარი მომსახურებაზე განაწილებული უარის ტიპის შეტევა იქნებოდა.
ტრინერის თქმით, ზიანის მოტანა შესაძლოა უფრო შეუმჩნეველ ქმედებასაც, მაგალითად სადაზვერვო ოპერაციებისა და საქმიანობის შენელებას, გამოეწვია. ამან მომხმარებლებს ხელსაწყოს მიმართ ნდობა შესაძლოა მას შემდეგაც დააკარგვინოს, რაც პრობლემა გამოსწორდება.
AI ასისტენტისთვის პროდუქტის ინჟინრის აღწერით კოდის დაწერის თხოვნა, რასაც „ვაიბ-კოდინგს“ უწოდებენ, სულ უფრო გავრცელებულია. შედეგად, კოდის შემოწმება რთულდება. AI-ს შეუძლია კოდის იმ მოცულობით შექმნა, რომელიც ადამიანურ პროდუქტიულობას ბევრად აღემატება, ამიტომ მისი შემოწმება დიდ დროსა და ძალისხმევას მოითხოვს.
უილიამსის თქმით, აგენტის გამოყენებისას უცნობია, რა მიწოდების ჯაჭვი ან დასკვნის გამოტანის პროცესი წარმოქმნის საბოლოო კოდს. მისი თქმით, დიდი ენობრივი მოდელები ხშირად თავად მოწყვლად კოდზე იწვრთნებიან და შესაძლოა იმავე არქიტექტურული პრობლემების შემცველი კოდი კვლავ შექმნან.
მთავრობას NIPRNet-ში ხარვეზიანი კოდის ამოცნობის საშუალება აქვს. სტატიკური აპლიკაციების უსაფრთხოების ტესტირება (SAST) კოდს გაშვებამდე ამოწმებს შეცდომებისა და ხარვეზების გამოსავლენად. თუმცა, უილიამსის თქმით, ჰაკერის მიერ ჩასმული უკანა კარი მოწყვლადობა არ არის, მაშინაც კი, თუ მისი არსებობა არავის სურს. ამიტომ SAST-მა ის, სავარაუდოდ, შეიძლება ვერ აღმოაჩინოს. SAST, როგორც წესი, კოდის შექმნის პროცესში ლოგიკური კავშირების სტრუქტურულ პრობლემებსაც ვერ ამჩნევს.
არაფერი მიუთითებს, რომ ჰაკერებმა კლასიფიცირებულ ან უმაღლესი საიდუმლოების სისტემაში შეღწევა შეძლეს. მიუხედავად ამისა, უილიამსის თქმით, ამ ინციდენტმა სერიოზული განგაში უნდა გამოიწვიოს. მისი თქმით, თავდაცვის დეპარტამენტი NIPRNet-ის შესახებ ნებისმიერ ინფორმაციას, რომლის ნახვაც ღია წყაროების დაზვერვით შეუძლებელია, შეზღუდულად მიიჩნევს, მიუხედავად იმისა, ეხება თუ არა ეს ინფორმაცია კლასიფიცირებულ ქსელს.
ეს პირველი შემთხვევა არ არის, როცა AI-სთან დაკავშირებული პრობლემების გამო თავდაცვის დეპარტამენტი მოწყვლადი გახდა. გასულ წელს ProPublica-მ გაამჟღავნა, რომ Microsoft ფედერალურ მთავრობასთან პროექტებზე „ციფრულ ზედამხედველებს“ იყენებდა. უსაფრთხოების ნებართვის მქონე ამერიკელი თანამშრომლები ჩინეთში აუთსორსინგით დასაქმებული მუშაკების მიერ დაწერილ კოდს ზედამხედველობდნენ. ProPublica-სთან მოსაუბრე ექსპერტების თქმით, ეს პროგრამა განსაკუთრებულ უსაფრთხოების რისკს ქმნიდა, რადგან ამერიკელი თანამშრომლები კოდის დამოუკიდებლად შემოწმებას ხშირად ვერ ახერხებდნენ. შედეგად, მავნე კოდის სამთავრობო სისტემებში შეუმჩნევლად ჩასმის შესაძლებლობა რჩებოდა.
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.