ჩინეთი და ირანი AI-ს დისიდენტებზე თვალთვალისთვის იყენებენ

ანთროპიკმა ხუთშაბათს განაცხადა, რომ მან რამდენიმე სახელმწიფო მხარდაჭერილი თვალთვალის ოპერაცია შეაჩერა, რომლებიც მის ხელოვნური ინტელექტის მოდელებს იყენებდა, და გააფრთხილა ხელოვნური ინტელექტის მზარდი გამოყენების შესახებ დისიდენტებისა და უმცირესობების სამიზნედ.

ოპერაციები, რომლებიც იანვარსა და ივლისს შორის აღმოაჩინეს, წარმოიშვა ჩინეთში, ირანში და დასავლეთ აფრიკაში და მიზნად ისახავდა დიასპორის თემებს, მათ შორის ჰონგკონგის პროდემოკრატიულ აქტივისტებს.

ანთროპიკმა განაცხადა, რომ მან შეაჩერა მრავალი სახელმწიფო მხარდაჭერილი თვალთვალის ოპერაცია, რომლებიც მის ხელოვნური ინტელექტის მოდელებს იყენებდა, და გააფრთხილა, რომ მთავრობები და სახელმწიფოსთან დაკავშირებული მოქმედი პირები სულ უფრო ხშირად იყენებენ ხელოვნურ ინტელექტს ეთნიკურ უმცირესობებზე და დისიდენტებზე თვალთვალისთვის.

ინციდენტები აღმოაჩინეს და შეაჩერეს იანვარსა და ივლისს შორის, და ისინი წარმოიშვა ჩინეთში, ირანში და დასავლეთ აფრიკაში, განაცხადა ანთროპიკმა მოდელების ბოროტად გამოყენების შესახებ ანგარიშში.

ეს თვალთვალის კამპანიები „მიზნად ისახავდა იმავე დიასპორისა და დისიდენტურ თემებს, რომლებსაც ეს რეჟიმები ისტორიულად სამიზნედ ირჩევდნენ. ეს მოიცავს ჰონგკონგის პროდემოკრატიულ მოღვაწეებს, ტიბეტისა და ფალუნ გონგის თემებს აზიაში და ირანის უმცირესობების თემებსა და ირანის რეჟიმის მოწინააღმდეგეებს საზღვარგარეთ“, ნათქვამია ანგარიშში.

ერთ შემთხვევაში ირანელმა მოქმედმა პირებმა შეიმუშავეს გზა ადამიანების იდენტიფიცირებისთვის მათი სოციალური მედიის ანგარიშების მეშვეობით; მეორე შემთხვევაში მალის ეროვნული უსაფრთხოების ორგანოებისთვის მომუშავე კონტრაქტორმა გამოიყენა კლოდი „დაზვერვის შეგროვების უზრუნველმყოფი ძირითადი პროგრამული უზრუნველყოფის შესაქმნელად“.

„ხელოვნური ინტელექტი ახლა ინჟინერიის სამუშაო ძალის ნაცვლად გამოიყენება“, ნათქვამია ანგარიშში.

ანთროპიკმა ასევე შეაჩერა მომხმარებლების მცდელობები იარაღის დაპროექტების, საეჭვო ბიოლოგიური კვლევის ჩატარებისა და გაცნობის თაღლითობების შექმნის მიმართულებით.

სან-ფრანცისკოში დაფუძნებულმა ხელოვნური ინტელექტის ლაბორატორიამ ასევე დაადანაშაულა ჩინელი დეველოპერები კლოდის მოტყუებით გამოყენებაში მომხმარებელთა მოთხოვნებზე პასუხების წარმოებისთვის და ამავდროულად „დისტილაციის“ გზით ამ მონაცემების გამოყენებაში საკუთარი მოდელების გასაუმჯობესებლად.

დისტილაცია ინდუსტრიის ტერმინია, რომელიც აღნიშნავს პროცესს, როდესაც ერთი ხელოვნური ინტელექტის მოდელი გამოიყენება მეორის მოსამზადებლად.

ჩინელ დეველოპერებს ადრეც ბრალდებოდათ ამ ტექნიკის ნებართვის გარეშე გამოყენება, რაც არსებითად რესურსების მოპარვას ნიშნავს ამერიკული ლაბორატორიებისგან, როგორიცაა ანთროპიკი და OpenAI.