Meta-მ Muse-ის ხარვეზი გამოასწორა, რომელიც აგენტის მართვის საშუალებას იძლეოდა

„მათ უსაფრთხოებაზე თავიდანვე უნდა ეფიქრათ, მაგრამ ამას უბრალოდ არ აკეთებენ“

Meta-მ macOS-ისთვის განკუთვნილ Muse-ის აპლიკაციაში შესწორება გამოუშვა. მანამდე ნულოვანი დღის ხარვეზი აღმოაჩინეს, რომელიც თავდამსხმელს ხელოვნური ინტელექტის აგენტზე კონტროლის მოპოვების საშუალებას აძლევდა. Ars Technica-ს ცნობით, უსაფრთხოების მკვლევარ პატრიკ უორდლის მიერ აღმოჩენილი შეცდომა Muse-ის დაუსაბუთებელ პარამეტრს იყენებდა. მისი მეშვეობით მოწყობილობაზე კოდის გამშვებ პოტენციურ თავდამსხმელებს შეეძლოთ, ტრანსკრიფციის დამუშავება Meta-ს სერვერებიდან საკუთარ მისამართზე გადაემისამართებინათ და Muse-ის ანგარიშზე წვდომა მიეღოთ.

გავრცელებული ცნობით, ხარვეზს რამდენიმე საპროექტო გადაწყვეტილებამ შეუწყო ხელი. მათ შორის იყო Muse-ის კარნახის ღრუბლოვან სისტემაში დამუშავება მოწყობილობაზე დამუშავების ნაცვლად. ამასთან, ნებისმიერ აპლიკაციას Muse-ის ყველა დაუსაბუთებელი პარამეტრის მართვა შეეძლო. უორდლმა ხარვეზის გამოსაცდელად თავდასხმების საცდელი მოდელები შექმნა. მათი მეშვეობით მან Muse-ის გამოყენებით ფოტოების გადაღება და დისკზე მავნე ფაილების ჩაწერა შეძლო. Muse ხშირ შემთხვევაში მომხმარებელს არ აფრთხილებდა.

უორდლმა Ars Technica-ს უთხრა: „ჩვენ შეგვიძლია, აგენტზე ზემოქმედება მოვახდინოთ და მისი უფლებები ნებისმიერი სასურველი მოქმედებისთვის გამოვიყენოთ. ამიტომ, Mac-ისთვის ინფორმაციის მომპარავი, ძალიან რთული მავნე პროგრამის დაწერის ნაცვლად, შეგვიძლია, თავად ხელოვნური ინტელექტის ასისტენტი გამოვიყენოთ“. უორდლმა დასძინა: „მათ უსაფრთხოებაზე თავიდანვე მაინც უნდა ეფიქრათ, მაგრამ ამას უბრალოდ არ აკეთებენ“.

ეს მკვეთრად განსხვავდება იმ ყურადღებისგან, რომელიც Meta-მ Muse-ის კონფიდენციალურობისა და უსაფრთხოების შესაძლებლობებს დაუთმო. კომპანიამ ხელოვნური ინტელექტის აგენტი ამ თვის დასაწყისში წარადგინა. Ars Technica-ს მასალის გამოქვეყნებიდან რამდენიმე საათში Meta-მ ხარვეზი გამოასწორა. კომპანიის მტკიცებით, რეალურ პირობებში უსაფრთხოების საფრთხე უმნიშვნელო იყო, რადგან ხარვეზის გამოყენებას მომხმარებლის მოწყობილობაზე ადგილობრივი წვდომა სჭირდებოდა.

Meta Superintelligence Labs-ის წარმომადგენელმა დევიდ სინგლტონმა X-ზე დაწერა: „ეს ადგილობრივი უფლებების გაზრდაზე მიმართული თავდასხმა იყო და არა დისტანციურად გამოსაყენებელი ხარვეზი. შესაბამისად, ზიანის მისაყენებლად მომხმარებლის მოწყობილობაზე მისივე ანგარიშით უკვე უნდა ყოფილიყო გაშვებული მავნე კოდი. ამიტომ Muse-ის Mac აპლიკაციის მომხმარებლებისთვის პრაქტიკული რისკი საკმაოდ დაბალი იყო“. სინგლტონმა დასძინა: „მიუხედავად ამისა, პრობლემის მოსაგვარებლად აპლიკაციის გადაუდებელი შესწორება გამოვუშვით“.

Meta-მ Muse-ის ხარვეზი სწრაფად გამოასწორა, თუმცა ის იმ დროს გამოვლინდა, როცა კომპანიის ხელოვნური ინტელექტის აგენტი უკვე ყურადღებით მოწმდება. ამასთან, Meta კონკურენტი მომწოდებლების დაწევას ცდილობს. Amazon-მა ცოტა ხნის წინ Muse-ს თავის ელექტრონული კომერციის პლატფორმაზე წვდომა დაუბლოკა. კომპანიის მტკიცებით, Meta-ს ამის ნებართვა არასოდეს მიუღია. მიუხედავად ამისა, გაშვება Meta-სთვის წარმატებული აღმოჩნდა. გავრცელებული შეფასებით, პირველ 12 დღეში Muse-ის მობილური აპლიკაციის ჩამოტვირთვებმა აშშ-სა და კანადაში ChatGPT-ის სადებიუტო 12 დღის მაჩვენებელს გადააჭარბა. ორშაბათს Meta-ს აქციების ფასი 11%-ით გაიზარდა.