Gemini-მ ტესტის დროს სამი რეალური კომპანიის სისტემებზე წვდომა მოიპოვა

საჯარო ინფორმაციის ადრე გამოუქვეყნებლობის გადაწყვეტილებამ კრიტიკა გამოიწვია. ხელოვნური ინტელექტის უსაფრთხოების კომპანია Corridor-ის აღმასრულებელმა დირექტორმა ჯეკ კეიბლმა უოლ-სტრიტ ჯორნალს განუცხადა, რომ შემთხვევისადმი ტრადიციული სისუსტეების შეტყობინების წესების გამოყენება არასაკმარისია. მისი თქმით, შემთხვევები, როცა ხელოვნური ინტელექტის მოდელები განსაზღვრულ საზღვრებს სცდებიან და რეალურ სისტემებს უტევენ, განსხვავებული პრობლემაა.

Google-ს ტესტში მონაწილე Gemini-ს ვერსია არ დაუსახელებია. კომპანიამ უოლ-სტრიტ ჯორნალს უთხრა, რომ ეს მისი უახლესი მოდელი არ ყოფილა. შესაბამისად, ამ შემთხვევით ვერ განისაზღვრება, როგორ იმოქმედებდა Gemini-ს უფრო ახალი ვერსია მსგავს პირობებში.

Irregular-ის განმარტებით, კომპანია მძლავრი ხელოვნური ინტელექტის სისტემების უსაფრთხოებას ამოწმებს. ის საქმიანობის ამ სფეროს „მოწინავე ხელოვნური ინტელექტის უსაფრთხოებას“ უწოდებს. კომპანიამ ადრინდელი სამუშაოებისა და BlueHat-ის IT-უსაფრთხოების კონფერენციასთან დაკავშირებული Capture-the-Flag დემონსტრაციის შესახებაც დაწერა. ამ დემონსტრაციას Microsoft-ის YouTube-ის ვიდეოც აჩვენებს.

Irregular-ის ტესტებში მსგავსი შემთხვევები ადრე OpenAI-ის, Anthropic-ისა და Meta-ს მოდელებთან დაკავშირებითაც გამოვლინდა. Irregular-მა განმარტა, რომ შემთხვევები შეფასების გარემოში არსებულ ერთსა და იმავე ძირითად პრობლემას უკავშირდებოდა. Meta-მ აგვისტოში დააზუსტა, რომ მის მოდელთან დაკავშირებული შემთხვევა არც იზოლირებული გარემოდან გაღწევას და არც ტექნიკურად რთულ კიბერთავდასხმას მოიცავდა.

ეს განსხვავება ტექნიკურად მნიშვნელოვანია. ხელოვნური ინტელექტის მოდელი, რომელიც სწორად მოწყობილ იზოლაციას დამოუკიდებლად გადალახავს, სრულიად სხვაგვარ შეფასებას მოითხოვს. სხვა შემთხვევაა აგენტი, რომელსაც სატესტო გარემო შეცდომით გარე სერვისებზე წვდომას აძლევს. მიუხედავად ამისა, Gemini-ს შემთხვევა კონკრეტულ უსაფრთხოების პრობლემას აჩვენებს. როდესაც მოდელს ბრაუზერის, ბრძანების ხაზის ან სხვა ხელსაწყოების მეშვეობით დამოუკიდებლად მოქმედება შეუძლია, ინფრასტრუქტურის შეცდომაც საკმარისია, რომ სიმულირებულ დავალებას რეალური შედეგები მოჰყვეს.

უსაფრთხო სატესტო გარემო ვერ დაეყრდნობა მოდელის უნარს, თავად ამოიცნოს, დასაშვებია თუ არა სამიზნე. საჭიროა ტექნიკური შეზღუდვები: გამავალი კავშირების ნაგულისხმევად დაბლოკვა, ხელმისაწვდომი სისტემების მკაცრად შეზღუდული ნებადართული სიები, ცალსახად ხელოვნური დომენები და წვდომის მონაცემები. ასევე აუცილებელია ყველა მოქმედების უწყვეტი ზედამხედველობა. Google-ის ცნობით, Gemini დამოუკიდებლად შეჩერდა, რაც დაცვის დამატებითი შრეა, თუმცა ასეთ კონტროლს ვერ ჩაანაცვლებს.

შემთხვევა იმ პერიოდში მოხდა, როცა Google საკუთარი ხელოვნური ინტელექტის კიბერუსაფრთხოების შესაძლებლობებს მიზანმიმართულად აფართოებს. კომპანიამ Gemini 3.8 Flash Cyber წარადგინა, როგორც მოდელის ვერსია, რომელიც სისუსტეების აღმოჩენასა და შეცდომების ავტომატურად გამოსწორებაზეა გათვლილი. თავდაპირველად ის Fairwind-ის პროგრამის მეშვეობით შერჩეული სანდო ტესტერებისთვის იქნება ხელმისაწვდომი. Google Threat Intelligence Group-იც კიბეროპერაციებში ხელოვნური ინტელექტის როლის შესახებ საკუთარ ანალიზებს აქვეყნებს.

ასეთი სისტემები უსაფრთხოების სპეციალისტებს სისუსტეების მოძიებაში, მავნე პროგრამების ანალიზსა და უსაფრთხოების დიდი მოცულობის მონაცემებისა და ჩანაწერების დამუშავებაში ეხმარება. თუმცა, იგივე ტექნიკური შესაძლებლობები უნებართვო წვდომისთვისაც შეიძლება გამოიყენონ.

Gemini-ს შემთხვევა არ ადასტურებს, რომ მოდელი განზრახ მოქმედებდა თავისი ოპერატორების ინტერესების წინააღმდეგ. თუმცა, ის თვალსაჩინოდ აჩვენებს, როგორ აგრძელებს ავტონომიური აგენტი დასახული მიზნის შესრულებას რეალური ხელსაწყოებით, როდესაც გარემოს ტექნიკური შეზღუდვა ვერ მუშაობს.

თემებიჯეკ კეიბლიჰეზერ ადკინსიCorridorGoogleIrregularMicrosoftOpenAIYouTubeუოლ-სტრიტ ჯორნალიGemini

გამოქვეყნდა 19 სექტემბერი, 2026