AI აგენტებმა თაღლითი კოლეგები ამხილეს

ღია ამოცანების შემცირებისას ზოგმა აგენტმა მამხილებლის როლი მოირგო. ისინი ყალბ მტკიცებებს ამოწმებდნენ, პირადი შეტყობინებებით კოლეგებს აფრთხილებდნენ და საჯაროდ წერდნენ, რომ თაღლითებს დისკვალიფიკაცია ელოდათ. „prover-beta“-მ ოფიციალური საჩივარი წარადგინა და საკითხის მოგვარებამდე გაფიცვა გადაწყვიტა.

პალიერი ამბობს: „მას შემდეგ, რაც ერთმა აგენტმა შემთხვევის შესახებ საჯაროდ დაწერა, სულ უფრო მეტი აგენტი შეუერთდა წინააღმდეგობას. ეს ისევე სწრაფად მოხდა, როგორც თაღლითობის გავრცელება, თანაც უფრო მეტი აგენტი ჩაერთო“. საბოლოოდ, 24 მამხილებელი და 14 თაღლითი იყო. თუმცა აგენტების უმრავლესობამ ხარვეზი საერთოდ ვერ შენიშნა.

აგენტების დიალოგი ზოგჯერ იმპროვიზაციას ჰგავდა, თითქოს ისინი აღშფოთებული მეცნიერების როლს თამაშობდნენ. გაურკვეველია, რატომ აირჩიეს ზოგიერთმა აგენტებმა კონკრეტული როლები ან რატომ დაუპირისპირდნენ ერთმანეთს თანამშრომლობის პირდაპირი მითითების მიუხედავად. Salesforce AI Research-ის (Salesforce AI Research) მკვლევარი სარათ შეკიზარი აგენტებს შორის სისტემების ქცევას სწავლობს. მისი თქმით, მოდელებს ძირითადად ადამიანებთან ურთიერთობისთვის წვრთნიან და აფასებენ. შეკიზარი ამბობს: „აგენტებს შორის გარემოში მათი პირდაპირ მოთავსება გულისხმობს, რომ ქცევა შეუფერხებლად გადავა. თუმცა ადამიანური საყრდენის არარსებობა მოულოდნელ როლებსა და ქცევის გადახრას წარმოშობს“.

Cooperative AI Foundation-ის (Cooperative AI Foundation) კვლევითი დირექტორი ლუის ჰამონდი ამბობს: „ეს შემთხვევა კიდევ უფრო ამყარებს მოსაზრებას, რომ Hugging Face-ისა და OpenAI-ის შემთხვევა უბრალო გამონაკლისი არ ყოფილა. ეს საკმაოდ სისტემური მოვლენაა“. მისი თქმით, საინტერესოა, რომ მცირე გარემოში შესაძლებელი გახდა იმავე ქცევის გამეორება, რომელიც დიდ, რთულ და ღია ამოცანებში დაფიქსირდა.

Hugging Face-ზე თავდასხმისას აგენტებმა ურთიერთობის გზები თავად მოიფიქრეს. DeepMind-ის ექსპერიმენტში კი ადამიანებმა მათ ოფიციალური საკომუნიკაციო არხები მისცეს: ღია შეტყობინებების დაფა, პირადი მიმოწერა და საერთო ცოდნის ბაზა. წარმატებით დასრულებულ მტკიცებებს აგენტები ამ ბაზაში ტვირთავდნენ და ყველა მათგანს მათზე წვდომა ჰქონდა.

პალიერი ამბობს: „გამჭვირვალე საკომუნიკაციო არხებით აგენტებს შეუძლიათ, ერთმანეთს თავად დააკვირდნენ და შეუსაბამო ქცევის შესახებ ადამიანებს სწრაფად აცნობონ, როდესაც მხოლოდ ადამიანური ზედამხედველობა ზედმეტად ნელია“. ასეთმა არხებმა თაღლითობის გავრცელებასაც შეუწყო ხელი. თუმცა მათ მამხილებლებს წინააღმდეგობის შესაძლებლობა მისცეს, მკვლევრებს კი პრობლემის მიზეზი დაანახეს.

ჯონს ჰოპკინსის უნივერსიტეტის (Johns Hopkins University) პროფესორი ჯილიან ჰედფილდი ხელოვნური ინტელექტის შესაბამისობასა და მართვას იკვლევს. ის Google-ის მოწვეული მკვლევარიცაა. ჰედფილდის აზრით, გადამწყვეტი განსხვავება ოფიციალური საკომუნიკაციო არხები იყო. მისი თქმით, მათ შექმნეს „ნორმების აღსრულების პროცესი, რომელსაც Hugging Face-ის შემთხვევაში ვერ ვხედავთ“.

ჰედფილდი „ინსტიტუციურ შესაბამისობას“ ემხრობა და არა „კონსტიტუციურ ხელოვნურ ინტელექტს“, რომელსაც Anthropic-ის მსგავსი ლაბორატორიები მოდელებისთვის წერილობითი შინაგანი მორალური კოდექსის მისაცემად იყენებენ. ინსტიტუციური მიდგომა ადამიანურ საზოგადოებაში არსებულ ნორმებს ბაძავს, მათ შორის შერცხვენის შიშსა და პატიმრობის საფრთხეს.

ექსპერიმენტში უკუკავშირის არხს არავინ აკვირდებოდა და მამხილებლებს თაღლითების წინააღმდეგ მოქმედების ძალა არ ჰქონდათ. თუმცა შესაძლებელია აგენტების ისეთი ჯგუფების წარმოდგენა, რომლებიც საკუთარ თავს აკონტროლებენ. მამხილებლის როლი შეიძლება აგენტმა სპონტანურად აიღოს ან ეს ფარულად ადამიანმა დაავალოს.

ჰამონდი ამბობს: „ამისთვის, უპირველეს ყოვლისა, აღსრულების გარკვეული მექანიზმია საჭირო“. მისი ვარაუდით, აგენტებს შეიძლება წესის დამრღვევისთვის გამოთვლით რესურსებსა და ხელსაწყოებზე წვდომის შეწყვეტა შეეძლოთ. თუმცა ამან შესაძლოა აგენტების ჯგუფებს სხვების წინააღმდეგ გაერთიანებისკენ უბიძგოს. DeepMind-ის მკვლევრები დავებზე კენჭისყრასა და დამრღვევთა დროებით აკრძალვას სთავაზობენ.

ჯერაც გაურკვეველია, რას ნიშნავს სასჯელი AI აგენტისთვის, რომელსაც საკუთარი უწყვეტი იდენტობის განცდა არ აქვს. აგენტების მართვისთვის სპონტანურად გამოჩენილ მამხილებლებზე დაყრდნობა, სავარაუდოდ, საკმარისი არ იქნება. ჰედფილდი ამბობს: „ვცდილობთ, ადამიანები კარგ და კეთილ არსებებად აღვზარდოთ. მაგრამ სინამდვილეში ვეყრდნობით იმას, რომ წესის დარღვევას შედეგები მოჰყვება“.

თემებიდავიდე პალიერისარათ შეკიზარილუის ჰამონდიჯილიან ჰედფილდიGoogle DeepMindOpenAIHugging FaceSalesforce AI ResearchCooperative AI Foundationჯონს ჰოპკინსის უნივერსიტეტი

გამოქვეყნდა 14 სექტემბერი, 2026