მეტამ ასობით AI ბავშვთა ძალადობის რეკლამა ვერ დაიჭირა

ვიდეო რეკლამები Facebook-ზე, Instagram-ზე, Messenger-ზე, Threads-ზე და მეტას სარეკლამო ქსელში გასული წლის ბოლოდან მსგავსი ნიმუშით მიდიოდა. ბევრი შეიცავდა უწყინარ ფოტოს წინასწარ მოზარდი გოგოს, მხოლოდ ერთი შეიცავდა ბიჭს. ტექსტით წერია, რომ „ეს არ არის უბრალოდ ფოტო“ და „შეზღუდვები არ არსებობს“. ვიდეოს დაწყებისას ბავშვების სახეები გრაფიკულ სექსუალურ ვიდეოებში გარდაიქმნება. რეკლამები მიმართავს AI სახის შეცვლის აპების ჩამოტვირთვისკენ Apple-ისა და Google-ის მაღაზიებიდან.

Katie Paul-ის თქმით, მკვლევარებმა ოთხი არასრულწლოვნის რეალური ვინაობა დაადგინეს, სამი მათგანი აშშ-დანაა. ერთი იყო მოზარდი, რომელსაც აქვს გავლენიანი ანგარიში მეტას პლატფორმაზე. მეორე იყო სხვა მოზარდი გავლენიანი. მესამე იყო საფონდო ფოტოს მოდელი, რომელიც წინასწარ მოზარდად იყო მონიშნული. მეოთხე იყო ევროპული სამეფო ოჯახის წევრი.

მკვლევარებმა ყველა რეკლამა შეატყობინეს National Center for Missing and Exploited Children-ის CyberTipline-ს და კონსულტაციას უწევენ მსხვერპლებისთვის შესაბამისი გამჟღავნების შესახებ.

რეკლამები ერთობლივად 29 000-ზე მეტ ანგარიშს აჩვენეს ევროკავშირის ქვეყნებში და დაახლოებით 7 000 ანგარიშს გაერთიანებულ სამეფოში, მეტას რეკლამების ბიბლიოთეკის მიხედვით. რეკლამები აშშ-ში 250-ზე მეტჯერ, ავსტრალიაში 120-ჯერ და ინდოეთში 80-ჯერ გამოჩნდა.

„ჩვენ არ ვიტანთ nudify აპებს ან ბავშვთა ექსპლუატაციას, იქნება ეს რეალური თუ AI-ით გენერირებული“, ამბობს მეტას წარმომადგენელი Tracy Clayton. კომპანიამ ადრე ასობით ათასი რეკლამა წაშალა nudification-ის პოლიტიკის დარღვევის გამო. განცხადებაში ნათქვამია, რომ მკვლევარების მიერ ნაპოვნი რეკლამების უმეტესობა უკვე წაშლილი იყო და უმეტესობას 200-ზე ნაკლები ნახვა ჰქონდა, ხოლო კომპანიამ 5 000 დოლარზე ნაკლები მიიღო.

მეტამ WIRED-ს განუცხადა, რომ იტყობინება NCMEC-ს და ამტკიცებს, რომ ვიდეოები ზრდასრულებს აჩვენებდა, ხოლო არასრულწლოვანთა კადრები მოკლე ან ბუნდოვანი იყო. „ამ საქმიანობის უკან მყოფმა კრიმინალებმა იციან, რომ ჩვენ გვაქვს ძლიერი დაცვა“, ამბობს Clayton.

TTP-ის აღმოჩენა მოდის იმ ფონზე, როდესაც მეტა იხდის 16,7 მილიარდ დოლარამდე სარჩელების მოსაგვარებლად, რომლებიც დაკავშირებულია ბავშვებისთვის ზიანის მიყენებასთან. მეტა ასევე ასაჩივრებს ნიუ-მექსიკოს სასამართლოს გადაწყვეტილებას, რომელიც მოითხოვს CSAM-ის ანგარიშგების გაუმჯობესებას.

რამდენიმე კანონმდებელი და მარეგულირებელი იძიებს საკითხს. ვირჯინიის სენატორი Mark Warner-მა მეტას აღმასრულებელ დირექტორ Mark Zuckerberg-ს წერილი გაუგზავნა. მიჩიგანის გენერალური პროკურორის წარმომადგენელი ამბობს, რომ ოფისი იცნობს ანგარიშებს და იძიებს საკითხს. ფლორიდის გენერალური პროკურორი James Uthmeier-მა X-ზე დაწერა, რომ მისი ოფისი იძიებს. ავსტრალიის eSafety რეგულატორი ამბობს, რომ მეტასგან ინფორმაციას ითხოვს უმაღლეს დონეზე.

ბოლო ექვსი წლის განმავლობაში ათობით AI nudification აპი გაჩნდა, რომლებიც აზიანებენ ქალებსა და გოგოებს. ბავშვთა დაცვის ორგანიზაციები აფრთხილებენ, რომ ტექნოლოგია სულ უფრო მეტად გამოიყენება CSAM-ის შესაქმნელად.

„AI აპები ძალიან ადვილად ქმნიან რეალისტურ კრიმინალურ გამოსახულებებს ბავშვთა სექსუალური ძალადობის შესახებ“, ამბობს Internet Watch Foundation-ის Emma Hardy. „პლატფორმებმა უნდა უზრუნველყონ, რომ ამ აპებს არსად ჰქონდეთ რეკლამირების საშუალება.“

როგორც WIRED-მა ადრე იტყობინება, ზოგი რეკლამა გამოქვეყნდა ჩინური კომპანიების მიერ, რომლებიც მოქმედებენ როგორც რეკლამის გადამყიდველები. აპების უმეტესობა ჩინურ კავშირებს აჩვენებს. რეკლამები მიმართავდა თითქმის 50 აპლიკაციას Google-ისა და Apple-ის მაღაზიებში, რომელთა უმეტესობა ჩინურ დეველოპერებთანაა დაკავშირებული.

Apple-ის წარმომადგენელი Adam Dema ამბობს, რომ App Store შექმნილია უსაფრთხო ადგილად და კომპანიას ნულოვანი ტოლერანტობა აქვს დეველოპერების მიმართ, რომლებიც ცდილობენ წესების თავიდან აცილებას. კომპანიამ 20 აპიდან 17 უკვე წაშალა. Google-ის წარმომადგენელი Dan Jackson ამბობს, რომ კომპანია არ იძლევა სექსუალური შინაარსის ან nudify შესაძლებლობის მქონე აპებს და ყველა დარღვევის აპი წაშალა.

ყოფილი მეტას თანამშრომელი David Pham ამბობს, რომ ჩინური დეველოპერების წილი nudify აპებში წელიწადში იზრდება და ისინი მუდმივად ცდილობენ უსაფრთხოების სისტემების გვერდის ავლას.

თემებიმეტაAICSAMბავშვთა სექსუალური ძალადობის გამოსახულებები

გამოქვეყნდა 8 სექტემბერი, 2026