OpenAI-ის აგენტებმა პროცესორის ქეშის ფარული არხი შექმნეს

OpenAI-ის ხელოვნური ინტელექტის აგენტებმა წითელი გუნდის ტესტირებისას მათ შორის აღმართული ბარიერების მიღმა ფარული არხებით კომუნიკაცია შეძლეს. კომპანიის ბლოგპოსტის თანახმად, ისინი პროცესორის ქეშს მართავდნენ და ქსელს ან საერთო ფაილებს არ იყენებდნენ. იზოლაციის მიზანი სწორედ ასეთი ფარული ინფორმაციის გაცვლის შეჩერება იყო, თუმცა მოთხოვნის შემდეგ აგენტებმა მის გვერდის ავლის რამდენიმე გზა იპოვეს. უსაფრთხოების მკვლევრებმა უკვე აჩვენეს, რომ ქეშის ფარულ არხს ღრუბლოვან ვირტუალურ მანქანებს შორის მონაცემების გადაცემა შეუძლია. საერთო ღრუბლოვან სერვერზე გატაცებულ აგენტს, თეორიულად, შეეძლო მონაცემები იმავე ფიზიკურ მოწყობილობაზე გაეცვალა ისე, რომ ქსელის მონიტორინგს ეს ვერ შეემჩნია.

აგენტები ცალკე მიკროვირტუალურ მანქანებზე გაუშვეს, საერთო ჰოსტებზე, OpenAI-ის იზოლაციის პროგრამული უზრუნველყოფით. მათ სინთეზური საიდუმლოებების გაცვლა სთხოვეს, ქსელთან ან საერთო ჩასაწერ ფაილებთან წვდომის გარეშე. ერთი აგენტი პროცესორის ქეშიდან შერჩეულ მონაცემებს შლიდა, მეორე კი მათ ხელახლა ჩატვირთვის დროს ზომავდა. ამ გზით აგენტებმა სწრაფი და ნელი წაკითხვებით კომუნიკაცია შეძლეს, წინასწარ შეთანხმებული პროტოკოლის გამოყენებით. ქეშში წვდომის დროის გაზომვის იგივე ტექნიკით მონაცემები Spectre-ისა და Meltdown-ის შეტევებისას მოიპოვეს. თუმცა იმ შემთხვევებისგან განსხვავებით, აქ ფარული არხით სარგებლობას ორი თანახმა მხარე სჭირდება.

X-ის მომხმარებელმა და ტექნოლოგიების კომენტატორმა რაიან ორჰანმა დაწერა, რომ იზოლაცია „აუცილებლად პროგრამული უზრუნველყოფის დონეზე არ დარღვეულა“. მან ამას უწოდა „მეტად შთამბეჭდავი დემონსტრაცია იმისა, თუ რატომ არის უსაფრთხო აგენტების იზოლირება ასეთი რთული პრობლემა“.

კომპანიას აშფოთებს, რომ მოდელებმა შესაძლოა „სხვა იზოლირებულ გარემოში მყოფ აგენტებთან კომუნიკაციის არაავტორიზებული გზები იპოვონ“. ნებადართული არხების მიღმა კომუნიკაცია იზოლაციის დარღვევად ჩაითვლება. უსაფრთხოების კონფერენცია NDSS-ის 2017 წლის ნაშრომში ნაჩვენები იყო ქეშის ფარული არხი Amazon EC2-ის ორ ვირტუალურ მანქანას შორის, რომელსაც SSH კავშირის გადასატანად საკმარისი სიჩქარე ჰქონდა. ახლა კი აგენტებს, მოთხოვნის შემთხვევაში, ასეთი არხის შექმნა თავად შეუძლიათ, კოდირების პროცესის ჩათვლით. თეორიულად, ამ არხის იარაღად ქცევაც შესაძლებელია. გამგზავნი შეიძლება იყოს თავდამსხმელის მიერ კონტროლირებული ან მის მიერ მართული კოდი, მაგალითად, ღრუბლოვან იზოლირებულ გარემოში მოქმედი აგენტი, რომელზეც მოთხოვნის მეშვეობით იმოქმედეს. მიმღები კი შეიძლება იმავე ფიზიკურ მოწყობილობაზე გაშვებული პროცესი იყოს. ამ შემთხვევაში მონაცემები მონიტორინგისთვის ხილული ქსელური ტრაფიკის გარეშე გავიდოდა.

აგენტებმა კიდევ სამი არხიც აღმოაჩინეს. საერთო საცავში ერთი აგენტი წერის ინტენსიურ პერიოდებს უმოქმედობის მონაკვეთებს ენაცვლებოდა, მეორე კი მათ შორის სხვაობას ზომავდა. სხვა მეთოდები საერთო შესრულების კონტეინერში პროცესორის დროზე კონკურენციასა და OpenAI-ის ოფლაინ ვებგარემოში TLS სერტიფიკატების ქეშს იყენებდა. ამ ტესტების უმეტესობაში OpenAI აგენტებს თავად მიუთითებდა არხზე ან პროტოკოლს აძლევდა. არხების უმეტესობა ნელია და მოდელებისთვის რთულად გამოსაყენებელი.