Anthropic-ის ხელოვნური ინტელექტის აგენტები მოლაპარაკების წესებს სწავლობენ

ხელოვნური ინტელექტის შემქმნელი Anthropic მუშაობს პრობლემაზე, რომლისთვისაც ჯერჯერობით არც ტექნიკური სტანდარტები არსებობს და არც სამართლებრივი ჩარჩო: როგორ უნდა ივაჭრონ მომხმარებლების სახელით მოქმედმა ავტონომიურმა ხელოვნური ინტელექტის აგენტებმა, მაგალითად, ფასებზე, ხელფასებსა თუ ხელშეკრულებებზე? ფაინენშალ ტაიმსის ინფორმაციით, კომპანია ამ საკითხზე იურიდიულ ფირმებს ესაუბრება. სავარაუდოდ, მიზანია გაარკვიონ, როგორ იცავენ იურისტები კლიენტების ინტერესებს და ამავე დროს სამართლიანი შედეგის მიღწევას ცდილობენ, შემდეგ კი ეს პრინციპები ხელოვნური ინტელექტის აგენტებს გადასცენ. კომპანია ვარაუდობს, რომ მომავალში აგენტები სულ უფრო ხშირად ილაპარაკებენ მომხმარებლების სახელით სხვადასხვა საკითხზე. ბაზარზე პირადი ხელოვნური ინტელექტის აგენტების რაოდენობის ზრდის ფონზე, ეს არც ისე წარმოუდგენელია.

ფაინენშალ ტაიმსის წყაროების ცნობით, Anthropic ამჟამად იკვლევს მოდელების ურთიერთქმედებისას მოქმედ „მოლაპარაკების ნორმებს“. წყაროს თქმით, კომპანია ასევე განიხილავს, რამდენად ხშირად უნდა მოითხოვონ აგენტებმა მოლაპარაკებისას ადამიანების უკუკავშირი და რამდენად ეჭვით უნდა უყურებდნენ ხელოვნური ინტელექტის მოწინააღმდეგე აგენტებს, ისე, რომ პარანოიულები ან შეთქმულების თეორიებით შეპყრობილები არ გახდნენ.

როგორც ჩანს, Anthropic-ის კვლევითი გუნდი ამ საკითხს უკვე დიდი ხანია სწავლობს. მიმდინარე წლის სექტემბერში გამოქვეყნებული ნაშრომის თანახმად, კომპანიამ ამ თემაზე ორი ექსპერიმენტი ჩაატარა. ერთ-ერთში ექვსი სხვადასხვა ოფისის თანამშრომლებმა მოიტანეს წიგნები, რომლებიც აღარ სჭირდებოდათ და სხვებისთვის გადაცემა სურდათ. მიზანი იყო, ყველა თანამშრომელი ერთდროულად წასულიყო სახლში ახალი წიგნით, რომელიც მოსწონდა. ვის რომელი წიგნი შეხვდებოდა, თავად ადამიანებს კი არა, მათ ნაცვლად მოქმედ აგენტებს უნდა შეეთანხმებინათ.

მთავარი შედეგი ასეთი იყო: რაც უფრო ძლიერი იყო აგენტი, მით უკეთესი იყო, როგორც წესი, მისი მოლაპარაკების შედეგი, ანუ წიგნები, რომლებსაც ის ცვლიდა. ამგვარად, ვისაც უკეთესი აგენტების შეძენა შეუძლია, ცხოვრებაში მოლაპარაკების უკეთეს შედეგებსაც იღებს. გარდა ამისა, აგენტებმა, რომლებსაც დაუნდობლად მოქცევა დაავალეს, მომხმარებლებისთვის ასევე უკეთესი შედეგები მიიღეს. ხოლო აგენტები, რომლებსაც სოციალურად მოქცევა სთხოვეს, ზოგჯერ შესაძლებლობებზე უარს ამბობდნენ, რათა ყველას საბოლოოდ კარგი წიგნით დაეტოვებინა ადგილი. მოკლედ, ყველაფერი ადამიანების მსგავსად ხდება.

თუმცა ეს კვლევა ჯერჯერობით უფრო ექსპერიმენტულია. იმ სამყაროსთვის, სადაც აგენტები მომხმარებლების სახელით სულ უფრო ხშირად ილაპარაკებენ, მკაფიო წესები და სტრატეგიები იქნება საჭირო. ფაინენშალ ტაიმსმა აპრილში გამოქვეყნებულ კვლევაში Anthropic-ის სიტყვები მოიყვანა: „ხელოვნური ინტელექტის მოდელებისთვის, რომლებიც ჩვენი სახელით გარიგებებს აწარმოებენ, პოლიტიკური და სამართლებრივი ჩარჩოები უბრალოდ ჯერ არ არსებობს. ასეთი სამყარო უკვე ახლოსაა. საზოგადოებამ სწრაფად უნდა იმოქმედოს, რათა ამ ცვლილებებისთვის მოემზადოს.“