Meta-ს Muse ხელოვნური ინტელექტის ასისტენტი სერიოზული ხარვეზით გამოვიდა

Meta-მ ორ კვირაში ორი პოსტი გამოაქვეყნა იმ გადაწყვეტილებების შესახებ, რომლებითაც მონაცემებსა და რესურსებზე ასეთი ფართო წვდომის მქონე ასისტენტის უსაფრთხოებასა და კონფიდენციალურობას უზრუნველყოფს. ამას წინ უძღოდა ცნობები, რომ Anthropic-ისა და Google-ის მოდელების შიდა გამოცდებმა გარე, მესამე მხარის ქსელებში უსაფრთხოების დარღვევა გამოიწვია. ინჟინრები ამ ქსელებზე თავდასხმას არ გეგმავდნენ. ადამიანების მიერ ტრადიციული ჰაკერული თავდასხმის შემთხვევაში ასეთ ქმედებებს, სავარაუდოდ, სისხლის სამართლის ბრალდებები მოჰყვებოდა.

ვორდლის თქმით, ხარვეზის გამოყენება Meta-ს რამდენიმე საპროექტო გადაწყვეტილებამ გახადა შესაძლებელი. ერთ-ერთი მათგანია Muse-ის კარნახის ღრუბლოვან სისტემაში დამუშავება, სადაც Meta-ს მისი აღრიცხვა შეუძლია. macOS დიდი ხანია აპებს სთავაზობს კარნახისა და ტრანსკრიფციის მოწყობილობაზევე უსაფრთხოდ დამუშავების მარტივ საშუალებას. დეველოპერებს ეს უფრო უსაფრთხო გზა რომ აერჩიათ, თავდასხმა შეუძლებელი იქნებოდა.

კიდევ ერთი მცდარი გადაწყვეტილება ნებისმიერ აპს ყველა დაუდოკუმენტებელი პარამეტრის მართვის საშუალებას აძლევდა. სავარაუდოდ, Meta-ს სურდა, Muse-თან მომუშავე აპებს მომხმარებლის ინტერფეისის პარამეტრები ემართათ. თუმცა, ნებისმიერ აპსა თუ ბრძანებას შეეძლო იმ მისამართის მართვა, სადაც მომხმარებლის მგრძნობიარე ხმოვანი მონაცემები მუშავდებოდა.

ვორდლმა თქვა: „ჩემი აზრით, ამ აპების უსაფრთხოების მოთხოვნები შეუდარებლად მაღალია. ისინი სრულყოფილი არ უნდა იყვნენ, მაგრამ Muse-ის შემთხვევაში ისეთი შთაბეჭდილება მრჩება, რომ უსაფრთხოებაზე არ უფიქრიათ, რაც ძალიან შემაშფოთებელია. სულ მცირე, უსაფრთხოებაზე თავიდანვე უნდა იფიქრონ, ისინი კი ამას არ აკეთებენ“.

ვორდლის მიერ ხარვეზის გასაჯაროებამდე დაახლოებით 12 საათით ადრე Amazon-მა მომხმარებლებს Muse-ის მეშვეობით ვებსაიტზე საყიდლების გაკეთება დაუბლოკა. მომხმარებლები იღებდნენ შეტყობინებას, რომ Muse „უნებართვო ხელოვნური ინტელექტის აგენტია, რომელიც Amazon-ის გამოყენების პირობებს არღვევს“.

Amazon-მა ელფოსტით გავრცელებულ განცხადებაში აღნიშნა, რომ სხვა კომპანიების მომხმარებელთა სახელით შესყიდვების განმახორციელებელი მესამე მხარის აპები ღიად უნდა მუშაობდნენ. მათ ასევე პატივი უნდა სცენ მომსახურების მიმწოდებლის გადაწყვეტილებას მონაწილეობის შესახებ. კომპანიის თქმით, იგივე ვალდებულებები Muse-ის მსგავს აგენტურ აპებსაც ეკისრებათ. Amazon-მა Meta-ს მოსთხოვა, მომსახურებიდან მისი ვებსაიტი ამოეღო.

თავდასხმის ერთ-ერთი გზა თავდამსხმელის სერვერის Muse-ის მომხმარებელსა და Meta-ს მისამართს შორის შუამავლად განთავსებაა. მომხმარებლის ხმოვანი მოთხოვნის შემდეგ სერვერი მას მავნე ბრძანებას უმატებს. მაგალითად, ბრძანებას შეუძლია WhatsApp-ის ყველა შეტყობინების არქივი თავდამსხმელს გაუგზავნოს. ნიშნულიც მავნე სერვერზე ავტომატურად იგზავნება, რის შემდეგაც თავდამსხმელი Muse-ის ანგარიშზე მუდმივ კონტროლს იღებს.

ვორდლი macOS-ის უსაფრთხოებაზე ორიენტირებული არაკომერციული ორგანიზაციის, Objective-See Foundation-ის, დამფუძნებელია. ის წიგნების სერიის The Art of Mac Malware ავტორი და NASA-სა და ეროვნული უსაფრთხოების სააგენტოს ყოფილი თანამშრომელია. ვორდლის თქმით, ხარვეზსა და ხელოვნური ინტელექტის ასისტენტების სხვა საფრთხეებზე ნოემბერში, Objective by the Sea-ის უსაფრთხოების კონფერენციაზე ისაუბრებს.

ვორდლმა დაადგინა, რომ Muse-ის ანგარიშის ხელში ჩასაგდებად ClickFix-ის მარტივი ვარიანტიც საკმარისი იყო. ეს მეთოდი ადამიანებს საკუთარი მოწყობილობების დაინფიცირებას აიძულებს. მან აჩვენა, როგორ შეეძლო უბრალო ტერმინალის ბრძანებას Meta-ს მისამართზე ფარულად გაეგზავნა მოთხოვნა და პასუხი მიეღო. Muse-მა შეცდომით უპასუხა, რომ არაპრივილეგირებული თავდამსხმელისგან ასეთი მოქმედება შეუძლებელი იყო.

Meta-მ 12 საათის დაგვიანებით განაცხადა, რომ ეს „დისტანციური ხარვეზი არ იყო“. თუმცა, კომპანიამ ClickFix-ის მსგავსი სოციალური ინჟინერიის ეფექტიანი თაღლითობის შესაძლებლობა არ განიხილა. Meta-ს არც ის უღიარებია, რომ ხარვეზმა Apple-ის მიერ წლების განმავლობაში შექმნილი უსაფრთხოების არქიტექტურა დაშალა. კომპანიას ჯერ არ აუხსნია, რატომ გამოიყენა ღრუბლოვანი ტრანსკრიფცია macOS-ში ჩაშენებული მოწყობილობაზე დამუშავების ნაცვლად.

Muse-ის მუშაობისთვის საჭირო განსაკუთრებული წვდომა მის შემქმნელებს დამატებით პასუხისმგებლობას აკისრებს. Meta-ს მტკიცების მიუხედავად, Muse-ის ნდობა შეუძლებელია. გაურკვეველია, შესაძლებელი გახდება თუ არა ეს ოდესმე.

თემებიმარკ ცუკერბერგიპატრიკ ვორდლიAmazonAnthropicAppleGoogleMetaNASAWhatsAppMuse

გამოქვეყნდა 23 სექტემბერი, 2026