ChatGPT-ის Mac აპის ხარვეზი მგრძნობიარე მონაცემებს საფრთხეს უქმნიდა

ხარვეზის გამოყენებით, თავდამსხმელს მსხვერპლის კომპიუტერში ChatGPT-ის ფაქტობრივად სრულად ხელში ჩაგდება შეეძლო. ეს მას აპში შენახულ ყველა ჩატსა და სხვა მონაცემზე წვდომას მისცემდა. საფრთხე ასევე მოიცავდა დაკავშირებულ რესურსებს, მათ შორის ბრაუზერის სესიებს. დაუცველობა Objective-See Foundation-ის მკვლევრებმა აღმოაჩინეს. ის აჩვენებს, რამდენად ფართო სისტემური წვდომა და ნდობა სჭირდება ხელოვნური ინტელექტის პლატფორმებს მუშაობისთვის. ამავე მიზეზით, ისინი თავდასხმის სამიზნეებად იქცევიან.

Objective-See Foundation-ის პროგრამული უზრუნველყოფის ანალიტიკოსმა და macOS-ის გამოცდილმა მკვლევარმა პატრიკ უორდლმა თქვა: „აგენტებს თავიანთი საქმის შესასრულებლად ფართო წვდომა სჭირდებათ. ისინი შენობის მმართველს ჰგვანან, რომელსაც ყველა ოთახის გასაღები აქვს. ამიტომ, მათი დაზიანება ან კონტროლის ქვეშ მოქცევა უკიდურესად პრობლემურია. შედეგად, არაპრივილეგირებულ კოდს შესაძლოა ყველაფერზე წვდომა მიეცეს“.

OpenAI-მ უსაფრთხოების ხარვეზი და მისი აღმოფხვრა 25 სექტემბერს სისტემური ცვლილებების ჟურნალში საჯაროდ აღიარა. OpenAI-ის წარმომადგენელმა შეინ ბაუერმა უაირდს (WIRED) წერილობით განუცხადა: „უსაფრთხოების პრაქტიკის განვითარებას ვაგრძელებთ, თუმცა ვაცნობიერებთ, რომ უფრო სწრაფად მოქმედება გვჭირდება“.

ChatGPT-ის macOS აპი რამდენიმე კომპონენტს შეიცავს. ისინი ერთმანეთს ციფრული ხელმოწერების შემოწმებით უსაფრთხოდ უკავშირდებიან. ასეთი შემოწმების მიზანია იმის დადასტურება, რომ ორივე პროცესი OpenAI-ის კომპონენტია. შესაბამისად, მოთხოვნას გარე და პოტენციურად მავნე პროგრამული უზრუნველყოფა არ აგზავნის. სისტემის მოწყობა მოთხოვნიდან სამი დონის დაშორებით ხელმოწერების შემოწმებასაც მოითხოვს. ამით სისტემა უნდა დარწმუნდეს, რომ მავნე პროგრამა OpenAI-ის კომპონენტს შუამავლად არ იყენებს და ერთი შეხედვით სანდო მოთხოვნას არ აგზავნინებს.

თუმცა Objective-See Foundation-ის მკვლევრებმა სანდო კომპონენტი, სკრიპტების ინტერპრეტატორი აღმოაჩინეს. მას შეეძლო არასანდო სკრიპტის, ანუ შესასრულებელი ბრძანებების სიის, მიღება. შემდეგ მისი მანიპულირებით, ამ სკრიპტის ChatGPT-ის ძირითად პროცესში გადატანა შეიძლებოდა. უორდლმა თქვა: „ისინი ამ პროცესის მშობელ და წინაპარ პროცესებსაც ამოწმებენ. თუმცა მავნე სკრიპტი ინტერპრეტატორს უბრალოდ სამჯერ უშვებს და შემდეგ მოთხოვნას აგზავნის, რის გამოც პირობებს აკმაყოფილებს“.

უორდლმა დასძინა, რომ დაუცველობის გამოყენება „წარმოუდგენლად მარტივი“ იყო. მის სადემონსტრაციო კოდს მხოლოდ დაახლოებით ათეული სტრიქონი დასჭირდა. ხარვეზი თავდამსხმელს არა მხოლოდ ChatGPT-ის ჩატებზე წვდომას აძლევდა, არამედ აპისთვის ბრძანებების შესრულების იძულების საშუალებასაც. მაგალითად, თავდამსხმელს ბრაუზერზე ან სხვა მგრძნობიარე აპებზე წვდომა შეეძლო. ამასთან, მოთხოვნები OpenAI-ის პროგრამული უზრუნველყოფის მიერ გაცემულ კანონიერ მითითებებს ჰგავდა.