შინაგან საქმეთა სამინისტროს ხელოვნური ინტელექტის გამოყენებას იძიებენ

მკვლევრები ხელოვნური ინტელექტის ინსტრუმენტების სიზუსტეზე შეშფოთებას გამოთქვამენ. განსაკუთრებით მნიშვნელოვანია, შეიძლება თუ არა მათი გამოყენება ისეთ გადაწყვეტილებაში, როგორიცაა ადამიანის იმ ქვეყანაში დაბრუნება, სადაც მას დევნის ეშინია. ORG-მა დაადგინა, რომ ACS-ის მიერ შედგენილი და გამოუსადეგრად მიჩნეული შეჯამებების წილი, რომელთა ნაკლიც ხშირად ფაქტობრივი შეცდომა ან ინფორმაციის დამახინჯებაა, საპილოტე შეფასებაში გამოქვეყნებულ 9%-იან შეცდომის მაჩვენებელს მნიშვნელოვნად აღემატება. ორგანიზაციამ ისიც დაადგინა, რომ APS-ის მიერ მომზადებული შეჯამებების ხარისხს არავინ ამოწმებს.

თავშესაფრის საქმეებზე გადაწყვეტილების მიმღებები ამ ინსტრუმენტებს საქმის განხილვისას დროის დასაზოგად იყენებენ. მთავრობის შეფასებით, საპილოტე პროექტმა აჩვენა, რომ ორივე ინსტრუმენტის ერთად გამოყენება თითოეულ საქმეზე დაახლოებით ერთ საათს ზოგავს. საქმისმწარმოებლები ACS-ს იმ გასაუბრებების ჩანაწერების უფრო სწრაფად შესასწავლად იყენებენ, რომლებშიც თავშესაფრის მაძიებლები აღწერენ, როგორ იდევნებოდნენ თავიანთ ქვეყანაში და რატომ ეშინიათ დაბრუნების. APS კი საძიებო დამხმარეა: ის ქვეყნის პოლიტიკის შესახებ ინფორმაციას პოულობს და აჯამებს, რაც გადაწყვეტილების მიმღებებს ეხმარება იმის შეფასებაში, ემუქრება თუ არა განმცხადებელს სამშობლოში ზიანის რეალური საფრთხე. ივლისში გაერთიანებული სამეფოს მოსამართლემ შინაგან საქმეთა სამინისტროს უსაყვედურა მაროკოელი ქალისა და მისი შვილის თავშესაფრის განაცხადის უარყოფისას „ხელოვნური ინტელექტის მიერ შეთხზული“ დოკუმენტის მითითებისთვის. სამინისტრო ამტკიცებდა, რომ ქალისთვის სამშობლოში დაბრუნება უსაფრთხო იქნებოდა.

ლეიბორისტმა დეპუტატმა ბელ რიბეირო-ადიმ უაირდს განუცხადა: „ადამიანების სიცოცხლეზეა საუბარი. ვსაუბრობთ ადამიანებზე, რომლებმაც უმძიმესი გარემოებები გამოიარეს, და გადაწყვეტილებები ფაქტებსა და ზიანის გააზრებას უნდა დავაფუძნოთ. უბრალოდ არ მგონია, რომ ასეთი გადაწყვეტილებები მანქანებმა უნდა მიიღონ“.

შინაგან საქმეთა სამინისტროს წარმომადგენლის თქმით, „ხელოვნური ინტელექტის გამოყენება საზღვრების დასაცავად ჩვენს ხელთ არსებული ერთ-ერთი ინსტრუმენტია და ადამიანების მიერ გადაწყვეტილების მიღების როლს არ ანაცვლებს და ავტომატურად არ ასრულებს“.

რიბეირო-ადი, ალშერიფი და „საჯარო სამართლის პროექტი“, რომელიც ინსტრუმენტებს ცალკე იკვლევს, შიშობენ, რომ GPT-ის მოდელებში კარგად დოკუმენტირებულმა „კულტურულმა მიკერძოებამ“ შესაძლოა ენობრივი ბარიერები და შეჯამებებში კულტურული ნიუანსების დაკარგვა გამოიწვიოს. შედეგად, გადაწყვეტილებებიც შეიძლება დისკრიმინაციული გახდეს. OpenAI-ის წარმომადგენელმა უაირდს კომპანიის მიერ მოდელების სიზუსტის გასაუმჯობესებლად მიმდინარე სამუშაოებზე ესაუბრა და აღნიშნა, რომ კომპანია GPT-4-ის გამოყენებას იანვარში შეწყვეტს.

რეგულაციის არარსებობის პირობებში, გაერთიანებული სამეფოს „ხელოვნური ინტელექტის სახელმძღვანელო“ სამინისტროებს ავალდებულებს, გადაწყვეტილების მიღებისას გამოყენებული ალგორითმული ინსტრუმენტების შესახებ ინფორმაცია გაასაჯაროონ. მათ შორის, ეს ინსტრუმენტები საჯარო რეესტრში უნდა შეიტანონ. შინაგან საქმეთა სამინისტროს საქმის შეჯამებისა და პოლიტიკის ძიების ინსტრუმენტები ამ რეესტრში არ არის.

თავშესაფრის მაძიებლებს არც იმას ატყობინებენ, გამოიყენეს თუ არა მათ საქმეში ეს ხელოვნური ინტელექტის ინსტრუმენტები. ალშერიფმა, რომელიც ORG-ის მიგრანტთა ციფრული მართლმსაჯულების პროგრამას ხელმძღვანელობს, თქვა: „მიგრანტთა ორგანიზაციებიდან და იურისტებიდან ბევრმა არ იცის, რომ ეს ინსტრუმენტი გამოიყენება. ამიტომ მათ ამის შესახებ უნდა ვუთხრათ და ავუხსნათ, როგორ მუშაობს, რათა მათ მისი გასაჩივრება შეძლონ“. ORG-ის დაკვეთით მომზადებულ დამოუკიდებელ სამართლებრივ დასკვნაში, საადვოკატო ბიურო „კლუისტერსის“ იურისტები წერენ, რომ პირადი ინფორმაციის არასწორი შეჯამების გასაჩივრების შეუძლებლობამ შესაძლოა გაერთიანებული სამეფოს მონაცემთა დაცვის კანონები დაარღვიოს. შინაგან საქმეთა სამინისტრო კონფიდენციალურობის შესახებ შეტყობინებაში წერს, რომ გადაწყვეტილების მიღების პროცესის ზოგიერთი ნაწილი შეიძლება ავტომატიზებული იყოს.

ორივე ჯგუფმა თავისი დასკვნები გაერთიანებული სამეფოს მონაცემთა დაცვის მარეგულირებელ ორგანოს, ინფორმაციის კომისიას, გაუგზავნა. კომისია ამჟამად იძიებს, რატომ უთხრა შინაგან საქმეთა სამინისტრომ უარი ORG-ს, მიეწოდებინა ინფორმაცია იმაზე, თუ როგორ იყენებენ თანამშრომლები ხელოვნური ინტელექტის ორ ინსტრუმენტს და როგორ გაიარეს მათი გამოყენების მომზადება.

„საჯარო სამართლის პროექტის“ უფროსმა მკვლევარმა კაროლინ სელმენმა აღნიშნა, რომ ACS და APS იმ 11 მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემიდან მხოლოდ ორია, რომლებიც მისმა გუნდმა მთავრობის სხვადასხვა უწყებაში აღმოაჩინა, თუმცა საჯარო რეესტრში არ არის შეტანილი. სელმენს ეჭვი აქვს, რომ მთავრობაში შესაძლოა სხვა სისტემებიც გამოიყენებოდეს. შესაძლოა, მათ შესახებ არც მკვლევრებმა იცოდნენ, რომ აღარაფერი ვთქვათ იმ ადამიანებზე, რომელთა მიმართაც მათ იყენებენ.

სელმენმა თქვა: „სხვა ინსტრუმენტებსაც იყენებენ, მაგრამ მათ შესახებ საერთოდ არაფერს აქვეყნებენ. თუ არ იცი, რომ ისინი გამოიყენება, ვერც კი დაიწყებ კითხვების დასმას“.

თემებიბელ რიბეირო-ადიკაროლინ სელმენისარა ალშერიფიMicrosoft FoundryOpenAIკლუისტერსისაჯარო სამართლის პროექტიუაირდიღია უფლებების ჯგუფიGPT-4

გამოქვეყნდა 27 ოქტომბერი, 2026