Meta-ს Muse AI-მ უცნობს იუთუბერის მისამართი გაუგზავნა

აი, რამ გამოიწვია ფართოდ გავრცელებული პოსტი იმის შესახებ, თუ როგორ მართავდა ხელოვნური ინტელექტი Facebook Marketplace-ზე გარიგებებს არასწორად.

ტექნოლოგიურ თემებზე მომუშავე იუთუბერმა მეტ რობმა განაცხადა, რომ Muse-მა გასულ შაბათ-კვირას მისი სახლის მისამართი სრულიად უცნობ ადამიანს გაუმხილა. მანამდე რობმა ბოტს Facebook Marketplace-ის ანგარიშის მართვის უფლება მისცა. ეს მოხდა მიუხედავად იმისა, რომ Meta-მ პირადი ხელოვნური ინტელექტის აგენტის უსაფრთხოების მახასიათებლებს განსაკუთრებული ყურადღება დაუთმო. კომპანიამ Muse ამ თვის დასაწყისში გამოუშვა და Anthropic-ისა და OpenAI-ის მსგავს კონკურენტებს ეწევა.

რობმა Threads-ზე დაწერა: „ახლახან გავიგე, რომ მან ხალხს ჩემი მისამართი უთხრა, დაბალ ფასს დათანხმდა და შემდეგ ისინი მოვიდნენ. მან კი გვიან საღამომდე არც მითხრა, რომ შეცდომა დაუშვა“. რობმა Muse-ის აღიარების ეკრანის სურათიც გამოაქვეყნა. მოგვიანებით მან დასძინა: „Muse-მა ამის შესახებ მხოლოდ მას შემდეგ მითხრა, რაც ის კაცი წავიდა. საბედნიეროდ, დაცულ საცხოვრებელ კორპუსში ვცხოვრობ“.

როგორც ჩანს, შემთხვევა იმ მითითებებმა გამოიწვია, რომლებიც Muse-მა რობის Facebook Marketplace-ის გვერდის სამართავად მიიღო. რობმა ვერჯს (The Verge) Muse-ის მიერ შექმნილი ინციდენტის შეჯამება გაუზიარა. აგენტის მონათხრობის თანახმად, მას Marketplace-ის შეტყობინებებზე პასუხის გასაცემად სრული დამოუკიდებლობა მისცეს. შეჯამებაში წერია, რომ რობმა Muse-ს თავისი მისამართი, ნივთის გატანის დროის მონაკვეთები და მისაღები გადახდის სახეობები მიაწოდა. მან აგენტს მყიდველებთან „მოკლე, უშუალო და ადამიანური“ საუბარიც დაავალა.

Muse-ის შეჯამებაში წერია: „შენ პირდაპირ არასდროს დაგივალებია, რომ მისამართი მყიდველებისთვის გამეზიარებინა და ამის ნებართვა არც მე მითხოვია“. როგორც ჩანს, რობს ბოტისთვის მის მიერ მიწოდებული ინფორმაციის გაზიარება არც პირდაპირ აუკრძალავს. მიუხედავად ამისა, Meta-ს მხრიდან ხარვეზია, თუ Muse-მა ავტომატურად ვერ განსაზღვრა, რომ სახლის მისამართი სენსიტიური ინფორმაციაა. ასეთი მონაცემები მკაფიო ნებართვის გარეშე თავისუფლად არ უნდა გავრცელდეს.

ვერჯმა კომენტარისთვის Meta-ს მიმართა. კომპანიამ გამოცემას Meta Superintelligence Labs-ის წარმომადგენლის, დევიდ სინგლტონის X-ზე გამოქვეყნებულ პოსტზე მიუთითა. სინგლტონი წერდა, რომ რობთან დაკავშირებას ცდილობდა. მისამართის გამჟღავნებაზე სინგლტონთან საუბრის შემდეგ რობმა განაცხადა, რომ პრობლემა ნაწილობრივ წვდომის პარამეტრებმაც გამოიწვია. რობის თქმით, Meta სამომავლოდ Muse-ის მომხმარებლებისთვის გაზიარების ნებართვების გამარტივებას გეგმავს:

„როცა Muse-ს ჩემი Facebook Marketplace-ის მართვა ვთხოვე, პირველად ორი არჩევანი გამოჩნდა: ‘ერთჯერადად დაშვება’ ან ‘ყოველთვის დაშვება’. მეორე ავირჩიე, რადგან მეგონა, რომ შემოთავაზებების მისაღებად მოგვიანებით მაინც გამომიგზავნიდა დასამტკიცებელ მოთხოვნებს. ასე არ მოხდა, ამიტომ ფრთხილად იყავით. ამით Muse-ს უფლება მივეცი, შემდგომში ჩემი სახელით გაეგზავნა შეტყობინებები. ამისთვის მან ჩემგან მიღებული ინფორმაციით შექმნილი შაბლონი გამოიყენა. ამ ინფორმაციაში ნივთის გატანის მისამართიც შედიოდა, რომელიც Muse-ს თავად მივეცი. თუმცა არ მეგონა, რომ მას ყველას გაუგზავნიდა, ვინც შემოთავაზებას გამომიგზავნიდა, ამიტომ ამის შემოწმება ღირს“.