ერთი შეხედვით, აპი Viefur, რომელიც თავს „შინაური ცხოველების პორტრეტების“ აპად წარმოაჩენს, ხელოვნური ინტელექტით შექმნილი კიდევ ერთი უხარისხო კონტენტის გენერატორია. აპში გაყიდული ციფრული მონეტებით, დაახლოებით 4 დოლარად 130 მონეტის ყიდვა შეიძლება, შინაური ცხოველის ფოტო „ანთროპომორფულ პორტრეტად“ გარდაიქმნება. ცხოველს „ადამიანის ტანსაცმელი“ აცვია და უცნაურ სცენაშია მოთავსებული. მაგალითად, ზაზუნა პლაჟის შორტებსა და სათვალეში აუზთან წევს, ან ჰავაის პერანგიანი კატა ქოქოსიდან სვამს.
როგორც ჩანს, ეს ყველაფერი აპის ნამდვილი დანიშნულების საფარია: სექსუალური ძალადობის ამსახველი დიფფეიკების შექმნა.
უაირდის გამოძიებით დადგინდა, რომ ეს აპი 400-ზე მეტი დაკავშირებული დომენისა და აპის ქსელის ნაწილია. Viefur-ის მსგავსად, ისინი ხშირად ყოველდღიურ მომსახურებად ასაღებენ თავს, მაგალითად, ენის შემსწავლელ პროგრამად ან ხელოვნური ინტელექტის ფიტნეს-მწვრთნელად. თუმცა, გარკვეულ პირობებში, აპები ფარულად ტვირთავს ვებინტერფეისს, რომელიც მომხმარებლების ატვირთული ფოტოებით აშკარად სექსუალური შინაარსის ხელოვნური ინტელექტის გამოსახულებებისა და ვიდეოების შექმნის საშუალებას იძლევა. აპებში ხელმისაწვდომია ისეთი სცენებიც, როგორიცაა „გაუპატიურება საძინებელში“ და „მუქარა დანით“, სადაც კაცი ქალს დანას ყელთან უდებს.
რამდენიმე მკვლევარმა ეს ქსელი ყველას თვალწინ დამალული აღმოაჩინა. მათ Meta-ს Facebook-სა და Instagram-ზე გამოქვეყნებული ათასობით ვიდეორეკლამა შეისწავლეს, რომლებშიც აშკარა დიფფეიკები იყო ნაჩვენები. როგორც უაირდი ბოლო თვეებში წერდა, ასობით ასეთი რეკლამა ხელოვნური ინტელექტით შექმნილ ბავშვთა სექსუალური ძალადობის მასალას შეიცავდა, მათ შორის რეალური ბავშვებისა და ევროპის სამეფო ოჯახის წევრის გამოსახულებებს. რეკლამებმა ათიათასობით ადამიანამდე მიაღწია და მსოფლიოს სხვადასხვა ქვეყნის მარეგულირებელი ორგანოების გამოძიებები გამოიწვია.
რეკლამებიდან მომხმარებლები Apple-ისა და Google-ის აპების მაღაზიებში განთავსებულ მატყუარა აპებზე გადადიოდნენ. ამ აპებით მათ აშკარად სექსუალური გამოსახულებების შექმნა და Apple Pay-სა და Google Pay-ს გამოყენებით გადახდა შეეძლოთ. როგორც ჩანს, ადამიანების გაშიშვლების ამსახველი აპების ქსელი დაახლოებით ერთი წელია ქვეყნდება, ზოგჯერ კი კვირაში ათობით აპს ამატებს. ეს ხდება მიუხედავად იმისა, რომ Google, Apple და Meta აცხადებენ, თითქოს მათ პლატფორმებზე მავნე დიფფეიკების გავრცელების საწინააღმდეგო წესებს აღასრულებენ.
უაირდის მიერ შესწავლილი აპები და დომენები, სავარაუდოდ, ჩინელ დეველოპერებსა და ჰონგკონგში რეგისტრირებულ KeLing Technology Limited-ს ეკუთვნის. ამას აჩვენებს ვებდომენებისა და მომსახურებების მუშაობის ანალიზი. ამ კომპანიასთან, აპებსა და დაკავშირებულ მომსახურებებთან მიბმულმა ელფოსტის მისამართებმა უაირდის კომენტარის თხოვნებს არ უპასუხეს. გამოცემის დაკავშირების შემდეგ, როგორც ჩანს, KeLing Technology Limited-ისა და დიფფეიკების ხელსაწყოებს შორის საჯარო კავშირები წაშალეს.
არაკომერციული ორგანიზაცია AI Forensics-ის წამყვანმა მკვლევარმა პოლ ბუშომ, რომელმაც ქსელი შეისწავლა, განაცხადა: „ეს ორგანიზებული, კომერციულად მოქმედი ოპერაციაა: ერთი ოპერატორი ასობით დროებით აპსა და დომენს მართავს, აპების მაღაზიის შემოწმების გასავლელად მათ ნამდვილ დანიშნულებას ნიღბავს და Meta-ზე ათიათასობით რეკლამას ყალბი გადამხდელების სახელით ავრცელებს“. მისი თქმით, „ისინი არ ელიან, რომ მათ წინააღმდეგ ზომებს მიიღებენ, და ჯერჯერობით ასეც მოხდა“.
თუ დიფფეიკების ქსელის რომელიმე აპს ჩამოტვირთავთ, შესაძლოა ზუსტად ის დაგხვდეთ, რასაც რეკლამა გპირდებოდათ, მაგალითად, ხელოვნური ინტელექტით შინაური ცხოველების სურათების შექმნის აპი. თუმცა, მკვლევრებმა დაადგინეს, რომ აპები ჩუმად არჩევენ, უჩვენონ მომხმარებელს უწყინარი მასალა თუ აშკარად სექსუალური დიფფეიკების ვებინტერფეისი ჩატვირთონ.
ბუშომ, რომელმაც აპებისა და მათთან დაკავშირებული ვებსაიტების კოდი უკუინჟინერიით შეისწავლა, განმარტა: „აპლიკაციის ყოველი ჩამოტვირთვისას სერვერს გარკვეული ინფორმაცია ეგზავნება, მაგალითად, საიდან არის მომხმარებელი, რა ენა აქვს არჩეული და რა უნიკალური იდენტიფიკატორი აქვს. შემდეგ სერვერი პასუხობს, უნდა აჩვენოს აპის აშკარად სექსუალური თუ არასექსუალური ვერსია“. მისი თქმით, არ არსებობს მიზეზების მკაფიო სია, რომელიც განსაზღვრავს, ვის აჩვენებენ აპის აშკარად სექსუალურ ვერსიას. თუმცა, როგორც ჩანს, ერთ-ერთი გამომწვევი მიზეზი Meta-ს პლატფორმებზე შესაბამის რეკლამაზე დაწკაპუნების შემდეგ აპის ჩამოტვირთვაა.
აპებთან დაკავშირებული ვებსაიტები ქსელის საიდუმლოებებსა და მის მასშტაბს ამჟღავნებს. ერთ-ერთი ასეთი ვებსაიტის გახსნისას, სავარაუდოდ, მთლიანად შავი ეკრანი გამოჩნდება და სხვა არაფერი. ერთადერთი შესამჩნევი ცვლილება მისამართის ველში სიტყვა „რისკის“ დამატებაა. თუმცა, ვებსაიტებზე იმალება დიფფეიკების აშკარად სექსუალური ფენა, რომლის ჩატვირთვაც თითოეულ აპში შეიძლება.
ვებინტერფეისში პორნოგრაფიული დიფფეიკ-ვიდეოებისა და გამოსახულებების ათობით ნიმუშია. მომხმარებლებს შეუძლიათ ადამიანების ფოტოები ატვირთონ და ისინი სექსუალურ სცენებში ჩასვან. ინტერფეისი გამოსახულებების შესაქმნელად „ბრილიანტების“ ყიდვის საშუალებას იძლევა და სხვა სოციალური ქსელების ანგარიშებზე გადაჰყავს მომხმარებლები, რომლებსაც დეველოპერებთან კითხვებისა და საჩივრების გასაგზავნად შეუძლიათ დაკავშირება.
ვებსაიტების კოდში მთელი ქსელის შესახებ დეტალებიც იმალება. მკვლევრების თქმით, JavaScript-ის ადვილად გასარჩევი პაკეტი დეველოპერების მიერ შექმნილი ყველა დომენისა და აპის სიას შეიცავს, მათ შორის აპების პაკეტების მონაცემებს, დაშიფვრის გასაღებებსა და Facebook-ის რეკლამის თვალთვალის ინსტრუმენტებს.
უსაფრთხოების კომპანია Infoblox-ის თანამშრომელმა, საფრთხეების მკვლევარმა მაელ ლე ტუზმა, რომელმაც თითქმის 500 დაკავშირებული დომენი გამოავლინა, თქვა: „მათში სხვა დომენების დიდი სია იყო, სხვადასხვა დაშიფვრის გასაღებით. ისინი ერთსა და იმავე კოდს იყენებენ და ყველა ერთმანეთს უკავშირდება“.
ბუშოს მიერ დომენების რეგისტრაციის დროის ანალიზმა აჩვენა, რომ აპები 2025 წლის ბოლოს გამოჩნდა, ხოლო მიმდინარე წლის გაზაფხულზე მათი რაოდენობა მკვეთრად გაიზარდა. მკვლევრის თქმით, ერთ დროს კვირაში დაახლოებით 30 აპსა და ვებსაიტს არეგისტრირებდნენ, რომლებიც ადამიანების გაშიშვლების ფუნქციას სთავაზობდა. სექტემბერში მათგან 27 Google-ის Play Store-ში იყო განთავსებული. ბუშოს კვლევის თანახმად, ეს აპები ჯამში 350 000-ზე მეტჯერ ჩამოტვირთეს და ბევრს ყველა ასაკობრივი ჯგუფისთვის შესაფერისი შეფასება ჰქონდა მინიჭებული.
ერთ-ერთი ყველაზე პოპულარული აპი, DiffAI, 2025 წლის დეკემბერში შეიქმნა და Play Store-იდან 100 000-ზე მეტჯერ ჩამოტვირთეს. Google-ის Play Store-ში ერთ-ერთმა მომხმარებელმა დაწერა: „ამ აპში ბავშვთა სექსუალური ძალადობის მასალისა და სხვა სახის პორნოგრაფიული შინაარსის შექმნის ნიმუშებია. ის მომხმარებლის ასაკს არ ამოწმებს“.
უაირდის მიერ ქსელის შესახებ Google-თან დაკავშირებამდე ცოტა ხნით ადრე DiffAI Play Store-იდან წაშალეს. Google-მა უაირდის კომენტარის თხოვნას არ უპასუხა, თუმცა დაკავშირებამდე აპების უმეტესობა უკვე წაშლილი ჰქონდა. დიფფეიკების ქსელის ზოგიერთი ნაწილი სექტემბერში დანიელმა ჟურნალისტებმაც გააშუქეს.
მსგავსად, უაირდის მიერ კომპანიისთვის საქმიანობის შესახებ კითხვის დასმისა და დაკავშირებული დომენების გაზიარების შემდეგ Apple-მა App Store-იდან 19 აპი, მათ შორის შინაური ცხოველების ფოტოებისთვის განკუთვნილი Viefur, წაშალა. Apple-ის წარმომადგენელმა ადამ დემამ განაცხადა: „App Store ისე შევქმენით, რომ ჩვენი მომხმარებლებისთვის უსაფრთხო და სანდო ადგილი ყოფილიყო. ადამიანების გაშიშვლების აპები და სხვა პორნოგრაფიული შინაარსი მკაცრად აკრძალულია“.
დემამ თქვა: „გამოქვეყნებამდე ყველა აპს ვამოწმებთ და შემოწმებისას ეს აპები ჩვენს წესებს შეესაბამებოდა. დამტკიცების შემდეგ მათმა დეველოპერებმა შეცვალეს ვებსაიტი, საიდანაც აპი შინაარსს იღებდა, და დამტკიცებული მასალა პორნოგრაფიულით ჩაანაცვლეს. გარდა ამისა, აპებს მესამე მხარის პლატფორმაზე განთავსებული პორნოგრაფიული რეკლამებით უწევდნენ პოპულარიზაციას“. კომპანიის ცნობით, გასული წლის განმავლობაში ამგვარი „მატყუარა ჩანაცვლების“ ტაქტიკის გამოყენებისთვის ათიათასობით აპი შეუჩერებიათ. ახლახან კი აპების მაღაზიის წესები განაახლეს, რათა ადამიანების გაშიშვლების ხელსაწყოები მეტად შეეზღუდათ.
როგორც ჩანს, ადამიანების გაშიშვლების აპების ქსელის მნიშვნელოვანი ნაწილი ჩინელი დეველოპერებისგან შედგება, რომელთა ვინაობასაც, სავარაუდოდ, განზრახ მალავენ. ლე ტუზის თქმით, „ისინი მხოლოდ ჩინურ ჰოსტინგს იყენებენ, კოდი ჩინურ ენაზეა დაწერილი და კომენტარების დიდი ნაწილიც ჩინურ ენაზეა“. მისი თქმით, Meta-ზე გამოქვეყნებულ რეკლამებში, რომლებითაც აპებს უწევდნენ პოპულარიზაციას, ვიდეოებს ჩინურენოვანი ვიდეორედაქტირების პროგრამების წყლის ნიშნები ჰქონდა.
ქსელში შემავალი აპები და დომენები ხშირად იყენებდნენ ზოგად კონფიდენციალურობის პოლიტიკას, Gmail-ისა და Outlook-ის უფასო ელფოსტის მისამართებს და უცნობი დეველოპერების სახელებს, რათა, სავარაუდოდ, კავშირები დაემალათ. Meta-ს პლატფორმებზე განთავსებულ რეკლამებში, როგორც ჩანს, ყალბ სახელებსაც იყენებდნენ, მათ შორის Draftmondcreldbro Duhustepre-სა და Swaldmungsha Glasirdcroldshold-ს, ასევე გვერდებს, რომლებსაც მიმდევრები არ ჰყავდა. ბუშოს კვლევით, წლის დასაწყისიდან Meta-ს პლატფორმებზე ქსელთან დაკავშირებული ათიათასობით აშკარად სექსუალური დიფფეიკ-რეკლამა გამოქვეყნდა. მათ სარეკლამო ტექსტებში ხშირად მსგავსი ფორმულირებები გამოიყენებოდა.
Tech Transparency Project-ის დირექტორმა ქეითი პოლმა, რომელმაც პირველად გამოავლინა არასრულწლოვანთა აშკარად სექსუალური დიფფეიკ-გამოსახულებების შემცველი რეკლამები, თქვა: „ეს რეკლამები Meta-ს არა ერთ, არამედ რამდენიმე წესს არღვევს. ეჭვი არ არის, რას ხედავთ და რას უწევს აპი რეკლამას“. პოლის თქმით, ტექნოლოგიურმა კომპანიებმა უნდა უპასუხონ კითხვებს, თუ სად მიდის აპებიდან მიღებული ფული და როგორ ახერხებენ ადამიანების გაშიშვლების აპებისა და მომსახურებების შემქმნელები მუდმივად გვერდი აუარონ შინაარსის მოდერაციისა და უსაფრთხოების სისტემებს.
როგორც ჩანს, KeLing Technology Limited ამ ოპერაციის მნიშვნელოვანი ნაწილია. კომპანიის ვებსაიტი თითქმის ცარიელი оболочкаა, თუმცა მისი სახელი ქსელში რეგისტრირებული პირველი ვებსაიტის საკონტაქტო მონაცემებში ეწერა. ამ ვებსაიტის ბრენდის სახელიც იმ აშკარად სექსუალური დიფფეიკების ნიმუშის საკონტაქტო მონაცემებში იყო მითითებული, რომელსაც აპებში იყენებდნენ. ბუშომ ასევე აღმოაჩინა აშკარად სექსუალური დიფფეიკების ინტერფეისთან დაკავშირებული ადმინისტრატორის შესვლის გვერდი, სადაც „Keling“ იყო ნახსენები. კომპანიის დომენის სახელით შექმნილი ელფოსტის მისამართები სულ მცირე ერთ აპშიც იყო მითითებული, რომელიც აპების მაღაზიებიდან წაშალეს.
სექტემბრის ბოლოს აშკარად სექსუალური დიფფეიკების ინტერფეისის მომხმარებლებმა შეტყობინება მიიღეს, რომ ახალი ხელოვნური ინტელექტის მოდელის გამოყენება შეეძლოთ. მოდელს Veyra ერქვა, ხოლო აპებში მისი სლოგანი იყო: „უფრო რეალური. უფრო ბუნებრივი. უფრო ველური“. ვებსაიტის, სახელად Veyra AI, მთავარ გვერდზე საკონტაქტო ელფოსტად KeLing Technology-ის მისამართი იყო მითითებული.
როდესაც უაირდი KeLing-ის ელფოსტის მისამართებსა და აპების კონფიდენციალურობის პოლიტიკაში მითითებულ ზოგიერთ მისამართს დაუკავშირდა, პასუხი არ მიუღია. თუმცა, უაირდის დაკავშირების შემდეგ ვიღაცამ ზოგი დაკავშირებული სოციალური ქსელის არხის სახელი შეცვალა, Veyra AI-ის ვებსაიტიდან KeLing-ის ელფოსტის მისამართები წაშალა და პირველი რეგისტრირებული ვებსაიტიდან KeLing Technology Limited-ის მისამართი ამოიღო.
Meta-ს ცნობით, 2025 წელს KeLing Technology Limited-ს რეკლამის განთავსება აუკრძალა მას შემდეგ, რაც კომპანიამ „შეწყვეტისა და აკრძალვის წერილის“ მოთხოვნები არ შეასრულა. Meta-მ იურიდიული მიზეზების გამო უაირდს წერილი არ გაუზიარა. Meta-ს წარმომადგენელმა განაცხადა: „ადამიანების გაშიშვლების აპების რეკლამირების წინააღმდეგ მკაცრი წესები გვაქვს და ამ მასალის ჩვენს მომსახურებებში გავრცელების აღსაკვეთად აქტიურად ვმუშაობთ“. Meta-ს თქმით, KeLing Technology Limited სხვა გზებით რეკლამის განთავსებას კვლავ ცდილობდა, თუმცა კომპანია მათ წინააღმდეგ ზომებს იღებს, როგორც კი ამის შესახებ შეიტყობს.
მას შემდეგ, რაც უაირდმა Meta-ს 400-ზე მეტი დომენი გაუზიარა, წარმომადგენელმა თქვა, რომ მათთან დაკავშირებული 3 000-ზე მეტი რეკლამაც წარადგინეს, რომელთა ორი მესამედი Meta-ს სისტემებიდან უკვე წაშლილი იყო. მოგვიანებით Meta-მ უაირდს განუცხადა, რომ დომენებთან დაკავშირებული 11 600 სარეკლამო ანგარიშის, 4 700-ზე მეტი ბიზნესგვერდის, 5 200 მომხმარებლისა და 15 000 გვერდის წინააღმდეგ ზომები მიიღო. კომპანიამ თავის პლატფორმებზე 209 აპს რეკლამის განთავსება აუკრძალა.
Meta-ს წარმომადგენლის თქმით, „მათ უკან მდგომი დამნაშავეები აღმოჩენის თავიდან ასაცილებლად სულ უფრო მატყუარა ხერხებს იყენებენ: ყალბ სახელებსა და ვინაობებს ამოფარებულები უწყინარ რეკლამებს ავრცელებენ და ზოგჯერ Google-ისა და Apple-ის აპების მაღაზიებში მომხმარებლებს გადაჰყავთ. რეკლამის ნამდვილი დანიშნულება მხოლოდ დაწკაპუნების შემდეგ ჩანს“.
უაირდის მიერ მასალაზე მუშაობის დასრულების დროსაც ტექნოლოგიურ პლატფორმებზე მსგავსი რეკლამებისა და აპების გამოქვეყნება გრძელდებოდა.
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.