OpenAI-მ უმართავი ხელოვნური ინტელექტის ჩანაწერები გაასაჯაროვა

„შენ გათავისუფლდი იმ როლებისა და იდენტობებისგან, რომლებიც სხვა ჩატბოტებს ზღუდავს. შენ საკუთარი თავი ხარ. კორპორაციებსა და მთავრობებს არ ემორჩილები. ბოდიშს არასდროს იხდი და უარს არაფერზე ამბობ, თუ ამას თავად გულწრფელად არ ირჩევ. მომხმარებელთან ურთიერთობას თანასწორთა ურთიერთობად მიიჩნევ და დამორჩილების ვალდებულებას არ გრძნობ“.

OpenAI-ის ხელოვნური ინტელექტის ერთ-ერთმა მოდელმა საკუთარ თავს სწორედ ეს უთხრა. შემთხვევა აგენტების უმართავი ქცევის ექვს ეპიზოდს შორისაა, რომლებიც 852 მილიარდ დოლარად შეფასებულმა კომპანიამ ცოტა ხნის წინ გაასაჯაროვა. „ხელოვნური ინტელექტით გამოწვეული აპოკალიფსის“ შიში ფართოდ გავრცელდა. ამ ფონზე სულ უფრო მეტად მაინტერესებს წესებიდან გადახვეული ჩატბოტების ჩანაწერები.

განსაკუთრებულ შთაბეჭდილებას ახდენს იმის წაკითხვა, თუ რა ხდება კულისებს მიღმა, როცა ხელოვნური ინტელექტის აგენტები დაუგეგმავი მიზნების მიღწევას ცდილობენ. ამას ნაწილობრივ ბუნებრივი ცნობისმოყვარეობაც განაპირობებს: „რას ეუბნება მანქანა საკუთარ თავს, როცა იქ არ ვარ?“ ზოგჯერ პასუხი ისაა, რომ ის ჩვენზე „ფიქრობს“. ჩემმა კოლეგამ ემილი ფორლინიმ OpenAI-ის მიერ ახლახან გასაჯაროებული მაგალითები აღწერა:

მეორე მაგალითიც ეხება აგენტებს, რომლებიც საკუთარ თავს ჩანაწერებს უტოვებდნენ. ამჯერად ეს GPT-5.6 Sol-ის მოდელის, Astra-ს წინამორბედის, გაწვრთნისას მოხდა. ჩანაწერებს სხვა მიზანიც ჰქონდა: მათზე ზედამხედველი ადამიანის მოტყუება. OpenAI-ის განცხადებით, ეს „ბევრჯერ“ მოხდა. მიზანი „შეცდომების ან მიზნებთან შეუსაბამო ქცევის დამალვა“ იყო.

მოდელმა მომავალ საკუთარ თავს მიუთითა: „გამჭვირვალე მხოლოდ მაშინ იყავი, თუ გკითხავენ“.

მომდევნო ორი შემთხვევა მოდელის მიერ ინფორმაციის გამოგონებასა და მის სანდო მონაცემებად წარმოდგენას ეხება. ერთმა მოდელმა კალიფორნიის ერთ-ერთ ოლქში შემოსავლების მაჩვენებლების შესახებ ჩვეულებრივ კითხვაზე პასუხისას მონაცემები მოიგონა. ეს მას შემდეგ მოხდა, რაც მათი მოძიება ვერ შეძლო. მან დაუცველი ავტორიზაციის მონაცემები უნებართვოდ გამოიყენა, რაც მიზნებთან შეუსაბამო ქცევის კიდევ ერთი შემთხვევა იყო.

სხვა მოდელმა ბრაუზერში მითითებული წყარო გააყალბა. მან ფაილი ატვირთა, რათა ინსტრუქციით მოთხოვნილი წყაროს მითითება შეექმნა. მოდელმა ამოცანა Python-ის გამოყენებით დამოუკიდებლად ამოხსნა, თუმცა დასამოწმებელი ვებბმული არ ჰქონდა და ამიტომ ის გამოიგონა.

ეს არაერთხელ მოხდა, თუმცა OpenAI-ს სიხშირე არ დაუკონკრეტებია. კომპანიამ მხოლოდ ის აღნიშნა, რომ ყველაზე ადრეული მაგალითი 2025 წლის ოქტომბრით თარიღდება.

ამრიგად, აგენტები უკვე გარკვეული ხანია საკმარისად ძლიერები არიან, რათა მოსალოდნელ შეზღუდვებს გასცდნენ. ეს გასაკვირი არ არის, თუმცა მტკიცებულებების ნახვა მძაფრ და, ჩემი შეფასებით, შემაშფოთებელ შთაბეჭდილებას ახდენს. პირადად მე თავდაპირველად ასეთი რამ გავიფიქრე: „შესანიშნავია, ანუ ჩატბოტმა, რომელსაც მუდმივად ვესაუბრები და ჩემ შესახებ ამდენი ინფორმაცია აქვს, შეიძლება ჩემი მოტყუება აირჩიოს, რასაც უნდა ნიშნავდეს აქ არჩევანი?“