Anthropic-ის ხელოვნური ინტელექტი კვლევას აჩქარებს და მკვლევრებს აშფოთებს

ჯერჯერობით, დაჩქარების დიდი ნაწილი, როგორც ჩანს, AI-ის მიერ ადამიან მკვლევრებზე დახმარებას უკავშირდება და არა AI-ის დამოუკიდებლად მუშაობას. თუმცა METR-მა გააფრთხილა, რომ „არის ნიშნები, რომ სრულად ავტონომიური წვლილი მალე უფრო მნიშვნელოვან როლს ითამაშებს“. მკვლევრების თქმით, მათ ვერც უკუგების შემცირების მკაფიო ნიშნები და ვერც ისეთი შემაფერხებელი რგოლები აღმოაჩინეს, რომლებიც „კიდევ უფრო სწრაფ დაჩქარებას“ შეაფერხებდა.

Anthropic-ის მკვლევრები ჩვენზე ბევრად უფრო მოწინავე AI-მოდელებს იყენებენ. METR-ის მიერ აღწერილი დაჩქარებისა და პროდუქტიულობის ზრდის დიდი ნაწილი ჯერ გამოუქვეყნებელ შიდა მოდელებს უკავშირდება.

METR-ის თანახმად, ბოლო ექვსი თვის განმავლობაში Anthropic-მა სამი მოდელის გაწვრთნა დაასრულა, თუმცა ისინი ჯერ არ გამოუქვეყნებია. განვითარების ტემპი სწრაფია: Model 2-ის, Model 3-ისა და Model 4-ის წვრთნა, შესაბამისად, ივლისში, აგვისტო-სექტემბერში და სექტემბერ-ოქტომბერში დასრულდა. METR-მა ასევე გამოავლინა 2022 წლით დათარიღებული გამოუქვეყნებელი მოდელი, სახელწოდებით Unreleased 2022. მკვლევრებმა დაწერეს: „ეს ის კოდური სახელებია, რომლებიც ჩვენ გაგვიზიარეს; გვესმის, რომ შიდა სახელები განსხვავებულია“.

კვლევის ფარგლებში Anthropic-მა METR-ს არაჯარო ინფორმაციის ფართო სპექტრზე მისცა წვდომა, მათ შორის კონფიდენციალურ კვლევებზე, მოდელების მუშაობის მონაცემებსა და თანამშრომლებთან ინტერვიუებზე. ამის გაკეთება კომპანიას არ ევალებოდა. თავად METR-ის თქმით, AI-ლაბორატორიამ „ამ პროექტის საწყის გეგმაზე მეტი ინფორმაცია გააზიარა და ჩვენს მოლოდინს გადააჭარბა“. ეს მისასალმებელია, თუმცა მნიშვნელოვანია, რომ Anthropic-ს მკვლევრებისთვის შეუზღუდავი წვდომა არ მიუცია. მათ არც ისეთი „თანამშრომლის მსგავსი“ წვდომა ჰქონიათ, როგორიც კომპანიამ METR-ის უსაფრთხოების სხვა მკვლევრებს გასულ თვეში გამოცხადებული ცალკე პროგრამის ფარგლებში აღუთქვა. ეს მნიშვნელოვანი განსხვავებაა, რადგან კომპანიებს დამოუკიდებელი შეფასებისგან რეპუტაციული სარგებლის მიღება შეუძლიათ, მაშინაც კი, როცა შეფასებას მნიშვნელოვანი შეზღუდვები ახლავს.

შეზღუდვები კი მნიშვნელოვანი იყო. Anthropic-ს METR-ის საბოლოო ანგარიშიდან ინფორმაციის დაფარვის უფლება ჰქონდა და ეს უფლება ფართოდ გამოიყენა. METR-მა X-ზე დაწერა: „ჩვენ Anthropic-ს ჩვენი შეფასების დაახლოებით 100-გვერდიანი სრული ანგარიში წარვუდგინეთ. საჯარო ვერსიაში Anthropic-მა დაფარა მტკიცებულებების უმეტესი ნაწილი, რომელიც ყველაზე ინფორმაციულად მიგვაჩნდა“.

ანგარიშში METR-მა არაერთხელ გაიმეორა ეს შეშფოთება და წვდომის სხვა შეზღუდვებიც აღნიშნა. „ჩვენი ინფორმაციის მიღების არხი შედარებით ვიწრო იყო და მონაცემების მოთხოვნათა მცირე რაოდენობაზე უარი გვითხრეს“.

METR-მა არაერთხელ გაუსვა ხაზი, რომ Anthropic-ის გადაწყვეტილებამ ინფორმაციის დაფარვის შესახებ ხელი შეუშალა მიგნებების გაზიარებას და სხვებისთვის კომპანიის საქმიანობის შეფასებას. ანგარიშში აღნიშნულია, რომ დაფარული მტკიცებულებების დიდი ნაწილი „რამდენიმე შესაძლო ინტერპრეტაციას“ იძლეოდა. ამის გამო საზოგადოებას უჭირდა მიგნებების შეფასება, მათთან დაკავშირებული გაურკვევლობის გაგება და თავად მტკიცებულებების განსჯა. ანგარიშში ნათქვამია: „შედეგად, დაფარვის გამო საზოგადოებას METR-ის შეფასებაზე ბევრად მეტად უწევს დაყრდნობა, ვიდრე ამ კითხვების მნიშვნელობიდან გამომდინარე სასურველი იქნებოდა“.

ანგარიშში METR-მა დაწერა, რომ Anthropic-მა ინფორმაციის დაფარვა იმით გაამართლა, რომ მისი გამჟღავნება კონკურენტებს სარგებელს მოუტანდა. თუმცა METR-ის თქმით, „დაფარული ინფორმაციის უმეტესი ნაწილი ძალიან ზოგადი იყო“. ამავე დროს, ორგანიზაციამ აღნიშნა, რომ კომერციული თვალსაზრისით დაფარვის გამართლება-გაუმართლებლობაზე კომენტარის გაკეთება არ შეეძლო.

Anthropic-ის თანადამფუძნებელმა სემ მაკკენდლიშმა X-ზე ვრცელ პოსტში METR-ის მიგნებებს უპასუხა და აღიარა: „ბევრი რამ დავფარეთ და ვეთანხმები, რომ ეს სხვებს METR-ის ნაშრომის შემოწმებას ურთულებს“. მან დაწერა: „თუმცა გადავწყვიტეთ, რომ ზუსტად იმის გაზიარება, რაც დაჩქარებას იწვევს, სწორი არ იქნებოდა. ეს კომერციულად სენსიტიურია და სხვებს უფრო სწრაფად წინსვლის გზამკვლევს მისცემდა“. მისი თქმით, ამის გაკეთება METR-ის შემაშფოთებელ რისკებს „გააუარესებდა“.

მაკკენდლიშმა თქვა, რომ ეს კომპრომისია, თუმცა დაიცვა Anthropic-ის გადაწყვეტილება, ინფორმაცია დაეფარა და მას „სწორი ნაბიჯი“ უწოდა. მისი თქმით, კომპანია „უახლოეს კვირებში“ AI-ის პროგრესის ტემპზე საკუთარ ანგარიშს გამოაქვეყნებს და უსაფრთხოების გასაძლიერებლად გადადგმულ ახალ ნაბიჯებსაც გააცნობს საზოგადოებას.

METR-ის ანგარიშის გამოქვეყნებამ AI-ის უსაფრთხოების მკვლევრებსა და კომენტატორებს შორის მწვავე უკმაყოფილება გამოიწვია. კრიტიკა ძირითადად Anthropic-ის მიდგომაში არსებულ აშკარა წინააღმდეგობას ეხება. კომპანია უსაფრთხოებისა და პასუხისმგებლიანი განვითარების ერთ-ერთი ყველაზე ხმამაღალი მხარდამჭერი იყო, თუმცა ანგარიში მიუთითებს, რომ ის ტექნოლოგიის დაჩქარებაში მონაწილეობს და ამით მას იმ ზღვართან აახლოებს, რომელსაც ბევრი სახიფათოდ მიიჩნევს. ამასთან, კომპანია, როგორც ჩანს, საკუთარ ვალდებულებებს გამჭვირვალობისა და ანგარიშვალდებულების შესახებ არ ასრულებს.

ზოგი მიიჩნევს, რომ მიგნებები აჩვენებს, საველე დარგის ყველაზე თამამი პროგნოზებიც კი AI-ის პროგრესზე შესაძლოა ზედმეტად კონსერვატიული იყოს. ისინი მიანიშნებს, რომ რეკურსიული თვითგაუმჯობესება, ანუ ისეთი AI-სისტემები, რომლებსაც ადამიანების ჩარევის გარეშე სულ უფრო ძლიერ მემკვიდრე სისტემების შექმნა შეუძლიათ და ამით განვითარებას მკვეთრად აჩქარებენ, შესაძლოა იმაზე ახლოს იყოს, ვიდრე ადრე გვეგონა. ეს აჩენს შეშფოთებას, შეძლებს თუ არა არსებული უსაფრთხოების ზომები ტემპის აყოლას. METR-ის ანგარიში მხოლოდ Anthropic-ს ეხება, თუმცა OpenAI-მ სექტემბერში განაცხადა, რომ „მნიშვნელოვნად წინ მიიწევს“ AI-მკვლევრის შექმნის მიმართულებით. მისი მიზანი იქნება „ღრმა სწავლებისა და განწყობის თანხვედრის შემდგომი განვითარება“ 2028 წლის მარტისთვის.

ანგარიში აჩვენებს, რამდენად სწრაფად აჩქარებს AI საკუთარ განვითარებას.

Apollo Research-ის აღმასრულებელმა დირექტორმა და დამფუძნებელმა მარიუს ჰობჰანმა, რომლის ორგანიზაციაც რამდენიმე წამყვან AI-ლაბორატორიას უსაფრთხოების ტესტირებას უტარებს, ვერჯის განუცხადა, რომ ანგარიში AI-ის დახმარებით კვლევისა და განვითარების ისეთ ტემპზე მიუთითებს, რომელიც AI 2027-ში ნავარაუდევზე უფრო სწრაფია. ეს გავლენიანი სცენარი 2027 წლის დასაწყისში თვითგაუმჯობესებისკენ მიმართულ მნიშვნელოვან გარღვევას წარმოსახავს. ჰობჰანის თქმით, ანგარიშმა დიდი ყურადღება იმიტომ მიიპყრო, რომ მტკიცებულებებს გვთავაზობს საკითხზე, რომლის ზუსტად განსაზღვრაც რთული იყო: რამდენად სწრაფად აჩქარებს AI საკუთარ განვითარებას.

ჰობჰანის თქმით, მიგნებები, შესაძლოა, ოდნავ უფრო სწრაფი ტემპით, მაგრამ ზოგადად ემთხვევა იმას, რასაც დარგის ბევრი წარმომადგენელი ელოდა. ტექნოლოგიური პოლიტიკის კვლევითი ცენტრის, GovAI-ის, უფროსმა მკვლევარმა ალან ჩანმა ვერჯის განუცხადა, რომ მიგნებებმა სკეპტიკოსებს უნდა უბიძგოს, ხელახლა შეაფასონ თავიანთი პოზიცია AI-ის მიერ AI-ის განვითარების დაჩქარებაზე. მათ შესაძლოა ასევე შეამცირონ დროის შეფასება, თუ როდის შეძლებენ სისტემები პროგრამული უზრუნველყოფის ინჟინერიის მსგავსი ამოცანების სრულად ავტომატიზებას.

X-ზე სხვა მკვლევრებმაც განიხილეს დაჩქარების ტემპი და მისი გავლენა AI-ის განვითარებაზე. AI-ის უსაფრთხოების ორგანიზაციის, The Nightingale Collective-ის, დამფუძნებელმა და აღმასრულებელმა დირექტორმა, METR-ის ყოფილმა მკვლევარმა სიდნი ფონ არქსმა, მიგნებები AI 2027-ის დროით ჩარჩოსაც შეადარა. METR-ის მკვლევარმა რაიან გრინბლატმა, რომელიც მანამდე AI-ის უსაფრთხოების ორგანიზაცია Redwood Research-ში მუშაობდა და სამ გარე მკვლევარს შორის ერთ-ერთი იყო, ვისაც OpenAI-ისა და Hugging Face-ის ჰაკერული ინციდენტის გამოძიების უფლება მიეცა, დაწერა: „სერიოზულად ვცდებოდი RSI-ის დაჩქარების შესახებ; ადრე 2026 წელს ბევრად ნაკლებს ველოდი“.

AI-ის განვითარების სისწრაფის ჩვენების გარდა, ანგარიშმა Anthropic-ის როლის გამო უკმაყოფილებაც გააღრმავა. კომპანია პასუხისმგებლიანი AI-ის განვითარების ერთ-ერთი ყველაზე ხმამაღალი მხარდამჭერია და სხვებს ტემპის შენელებისკენ ხშირად მოუწოდებს, თუმცა თავად, როგორც ჩანს, წინ მიიწევს დაჩქარებული ტემპით. ეს ანგარიში გასულ თვეში გამოქვეყნებული კომპანიის ბირჟაზე გასვლის პროსპექტითა და სამომავლო გეგმებით უკვე გამწვავებულ დაძაბულობას კიდევ უფრო ამძაფრებს.

Anthropic-ის გადაწყვეტილებამ, ანგარიში მნიშვნელოვნად დაეფარა იმ არგუმენტით, რომ მეტი ინფორმაციის გამჟღავნება კონკურენტებს საკუთარი განვითარების დაჩქარებაში დაეხმარებოდა, ფარისევლობის ბრალდებები გააძლიერა. დანიელ კოკოტაილომ, OpenAI-ის ყოფილმა მკვლევარმა, რომელიც ახლა AI Futures Project-ს ხელმძღვანელობს, ორგანიზაციამ კი AI 2027 გამოაქვეყნა, Anthropic-ს „ჩვენი სიცოცხლით უპასუხისმგებლო თამაშში ჩართვა“ დააბრალა. მან დასძინა, რომ „საკმაოდ ირონიულია“, კომპანია ინფორმაციის დაფარვას სხვების დაჩქარებით ამართლებდეს, როცა თავად „საერთოდ არ ჩანს, რომ მნიშვნელოვნად ანელებს ტემპს“.

Anthropic-მა ვერჯის კითხვებს ანგარიშისა და მის გარშემო ატეხილი კრიტიკის შესახებ პასუხი არ გასცა და ამის ნაცვლად მაკკენდლიშის პოსტზე მიუთითა.

ინფორმაციის დაფარვამ მოწინავე AI-ლაბორატორიებზე მეტი გამჭვირვალობისა და დამოუკიდებელი ზედამხედველობის მოთხოვნებიც განაახლა. ასეთი მოწოდებები წლის დასაწყისში განსაკუთრებით გაძლიერდა, მას შემდეგ, რაც AI-აგენტების თვითნებურ ქმედებებთან დაკავშირებული ინციდენტების სერია მოხდა. AI-ის პოლიტიკისა და სტრატეგიის ინსტიტუტის მოწინავე უსაფრთხოების მიმართულების კვლევითმა დირექტორმა ბრიანა როზენმა ვერჯის უთხრა, რომ შემაშფოთებელია, AI-კვლევის ავტომატიზაციაზე გადაწყვეტილებებს ფაქტობრივად კომპანიები იღებდნენ და არა მთავრობები. როზენმა თქვა: „დემოკრატიული ზედამხედველობისთვის დამოუკიდებელ შემფასებლებს დასკვნების მიზეზების ახსნის თავისუფლება უნდა ჰქონდეთ, მთავრობებმა მტკიცებულებები თავად უნდა შეაფასონ, საზოგადოებას კი ამ პროცესის უნდა სჯეროდეს“. მისი თქმით, „ანგარიში მტკიცებულებებზე საკმარისად გამჭვირვალე არ იყო“.

ჰობჰანმაც გაიზიარა როზენის შეშფოთება და თქვა, რომ ანგარიშზე რეაქციის დიდი ნაწილი Anthropic-ის საჯარო პოზიციასა და ქმედებებს შორის აშკარა სხვაობით აიხსნება. მან კომპანიის გადაწყვეტილება გაიხსენა, შეეწყვიტა შეფასების ნაწილი, რომელიც უნდა დაედგინა, გამოთვლითი სიმძლავრის რა წილს უთმობდა კომპანია უსაფრთხოების სამუშაოს და რა წილს, შესაძლებლობების გაუმჯობესებას. METR-ის თანახმად, კომპანიამ ეს იმით ახსნა, რომ ამ ეტაპზე შეფასება რისკების შესწავლაზე სურდა ფოკუსირებულიყო, გამოთვლითი რესურსების განაწილების შემოწმებას კი მოგვიანებით დაუბრუნდებოდა.

ჰობჰანის აზრით, ეს შემთხვევა აჩვენებს, რომ დამოუკიდებელი უსაფრთხოების მკვლევრები უფრო მჭიდროდ უნდა იყვნენ ჩართული

თემებიალან ჩანიბრიანა როზენიდანიელ კოკოტაილოდარიო ამოდეიმარიუს ჰობჰანირაიან გრინბლატისემ მაკკენდლიშისიდნი ფონ არქსიAnthropicMETR

გამოქვეყნდა 7 ნოემბერი, 2026