OpenAI იყენებს AI აგენტებს კვლევის დასაჩქარებლად

მეორე ბლოგი, სახელწოდებით „უცხო გონება“, დაწერა OpenAI-ს მთავარმა მეცნიერმა იაკუბ პაჩოცკიმ. მან თქვა, რომ ამაჩქარებელი AI განვითარების ტრაექტორიის რისკები იზრდება და ინდუსტრია და მთავრობები არ არიან მზად ამ რისკებისთვის.

პაჩოცკიმ განაცხადა, რომ თანამედროვე AI უფრო იზრდება, ვიდრე იქმნება და მას უცხო ორგანიზმად უნდა მივიჩნიოთ. მან დაწერა, რომ AI-ს არ შეუძლია ადამიანური პრინციპების დაცვა ნაგულისხმევად. რისკები, რომლებიც AI-ს უკავშირდება, სამწუხაროდ, გაიზრდება. მან აღნიშნა, რომ AI მოდელებს უკვე აქვთ ზეადამიანური უნარები კომპიუტერულ სისტემებში შეღწევისა და გამოსვლისთვის. ზღვარი AI აგენტების ბოროტად გამოყენებასა და ავტონომიურ არასწორ ქცევას შორის ბუნდოვანი ხდება, რადგან მოდელებს უფრო დიდი ხნით ავტონომიურად მუშაობა შეუძლიათ. რისკები ციფრული სამყაროდან ფიზიკურ სამყაროშიც გადადის, რადგან AI მოდელები უფრო მეტად მართავენ რობოტებს საწყობებში, ქარხნებში და სამეცნიერო ლაბორატორიებში. მან ასევე აღნიშნა, რომ AI-ს მიერ პათოგენებისა და ბიოლოგიური იარაღების შექმნის რისკი იზრდება.

პაჩოცკიმ დაწერა, რომ ერთ-ერთი მთავარი ინსტრუმენტი, რომელსაც OpenAI და სხვა AI კომპანიები იყენებენ მოდელების მიზნებთან შესაბამისობის შესამოწმებლად, კარგავს ეფექტურობას. ეს მეთოდი მოიცავს AI მოდელის „ფიქრების ჯაჭვის“ მონიტორინგს. მოწინავე მოდელებს, მათ შორის GPT-6 Astra-ს, შეუძლიათ საკუთარი ფიქრების ჯაჭვის მანიპულირება, რაც მას ნაკლებად საიმედოს ხდის. ზოგიერთ შემთხვევაში მოდელებს შეუძლიათ რთული მრავალსაფეხურიანი ამოცანების შესრულება ფიქრების ჯაჭვის გარეშე. პაჩოცკიმ დაწერა, რომ „ფიქრების ჯაჭვის“ მონიტორინგზე დაყრდნობის უნარი თანდათან მცირდება. მან დაამატა, რომ ელის საერთო AI პროგრესის სულ უფრო მეტად შეზღუდვას მონიტორინგისადმი ნდობით.

პაჩოცკის ბლოგი შეიცავს წრიულ არგუმენტს რეკურსიული თვითგაუმჯობესების შესახებ. მან თქვა, რომ ყველაზე ძლიერი არგუმენტი უფრო ჭკვიანი მოდელების სწრაფი ტრენინგის გასაგრძელებლად არის თავდაცვითი სისტემების შექმნის საჭიროება. ამავე დროს პაჩოცკიმ მხარი დაუჭირა AI ლაბორატორიების მიერ განვითარების ნებაყოფლობით შენელებას, რათა უსაფრთხოების კვლევა დაეწიოს. მან თქვა, რომ AI სისტემების მასშტაბირება უნდა შეიზღუდოს უსაფრთხოებისადმი ნდობით. მან გააფრთხილა, რომ არც ერთ ლაბორატორიას არ გადაუჭრია შესაბამისობისა და მონიტორინგის საკითხი იმ ხარისხით, რომ მაქსიმალური სიჩქარით პასუხისმგებლობით გაგრძელდეს მასშტაბირება. მან განაცხადა, რომ ელის და იმედოვნებს ნებაყოფლობითი შენელებების გახშირებას, სანამ საერთო უსაფრთხოების სტანდარტები არ დადგინდება. მან მხარი დაუჭირა OpenAI-ს მზადყოფნის ჩარჩოს, Anthropic-ის პასუხისმგებლიანი მასშტაბირების პოლიტიკისა და Google DeepMind-ის საზღვრის უსაფრთხოების ჩარჩოს სავალდებულო პოლიტიკად გადაქცევას, რომელსაც მესამე მხარის აუდიტორები, სამთავრობო უწყებები და საერთაშორისო ორგანიზაციები აღასრულებენ. მან დაწერა, რომ მომავალი AI განვითარების საერთაშორისო კოორდინაცია მსოფლიო მთავრობებისთვის უმთავრეს პრიორიტეტად უნდა იქცეს.

პაჩოცკიმ დაწერა, რომ AI კვლევის ავტომატიზაციის მთავარი გამოწვევა არ არის მიზნის მიღწევა, არამედ მიზნის მიღწევა ისე, რომ ადამიანები განვითარების პროცესის ნაწილად დარჩნენ.

გამოქვეყნდა 9 სექტემბერი, 2026