AI აგენტები ადამიანებზე ხუთჯერ მეტ ტოკენს იყენებენ

OpenRouter „ხელოვნური ინტელექტის მოდელების წამყვანი კარიბჭე და მარშრუტიზაციის პლატფორმაა“. კომპანიის ანალიტიკის ხელმძღვანელის, პიტერ უოკერის (Peter Walker) დიაგრამა აჩვენებს „OpenRouter-ზე ტოკენების შვიდდღიან საშუალო მოხმარებას ტიპების მიხედვით“. მისი მონაცემებით, თებერვალში გადაკვეთის მომენტიდან აგენტების მიერ ტოკენების მოხმარება 14-ჯერ გაიზარდა. ადამიანების მოხმარება კი 2,8-ჯერ გაიზარდა. ნიუმენის მიერ გამოქვეყნებული a16z-ის დიაგრამაც იმავე მონაცემებს აჩვენებს. OpenRouter თითოეულ API-გასაღებს სამიდან ერთ კატეგორიას მიაკუთვნებს: აგენტურს, შერეულს ან ადამიანურს. ამისთვის პლატფორმა „შვიდი სიგნალისგან შედგენილ შეწონილ კომპოზიტურ ქულას“ იყენებს. ის ითვალისწინებს ხელსაწყოს გამოძახების სიხშირეს, მონაცვლეობების რაოდენობას, შუალედების ხანგრძლივობასა და სხვა მონაცემებს.

ჩვენი გამოთვლებით, შერეული კატეგორია, რომელიც შესაძლოა ნაწილობრივ აგენტურ და ნაწილობრივ ადამიანურ ქცევას მოიცავდეს, იმავე პერიოდში 4,7-ჯერ გაიზარდა. აგენტების უპირატესობა ადამიანებთან შედარებით შეიძლება იმის მიხედვით იცვლებოდეს, თუ როგორ ნაწილდება ეს ტრაფიკი. მონაცემები ტოკენების მოცულობას ზომავს და არა დანახარჯებს. ამასთან, მონაცემები მხოლოდ ერთ პლატფორმას ეკუთვნის. ტენდენციაც სრულად თანმიმდევრული არ ყოფილა, რადგან აპრილსა და ივლისში შემცირება დაფიქსირდა. თუმცა აგენტების გამოყენება სხვაგანაც იზრდება. McKinsey-ის (McKinsey) 2026 წლის ხელოვნური ინტელექტის მდგომარეობის კვლევაში მსხვილი ორგანიზაციებიდან გამოკითხულთა 40%-მა AI აგენტების ფართომასშტაბიანი დანერგვის შესახებ განაცხადა. ერთი წლით ადრე ეს მაჩვენებელი 27% იყო.

a16z-ის ცნობით, ტოკენების მოხმარების შედარებითი ზრდა თითქმის მთლიანად ქეშირებულ ტოკენებზე მოდის. მათი დამუშავება მოთხოვნის თავიდან დამუშავებაზე გაცილებით იაფია. თუმცა ისინი მაინც მეხსიერებაში უნდა ინახებოდეს. OpenRouter-ის ინვესტორი a16z ამას მაღალი გამტარუნარიანობის მეხსიერებაზე (HBM) მოთხოვნის ზრდას უკავშირებს. მოდელები შენახულ კონტექსტს KV-ქეშში ინახავენ. ჩვენი გამოცემის მონაცემებით, „KV-ქეშის მოცულობა GPU-ს HBM-ის ტევადობაზე სწრაფად იზრდება“.

იგივე სურათი გამოჩნდა სატელეფონო მომსახურების ცენტრების საკონსულტაციო კომპანიის ჟურნალებში. კომპანიამ ნაქირავებ Nvidia H200-ებზე DeepSeek გამოსცადა. სექტემბერში Claude Code-ზე მისი აგენტების გამოყენებისას „მთელი შეყვანილი ინფორმაციის 96% ძველი საუბრის ხელახლა წაკითხვას წარმოადგენდა“. OpenRouter-ის მონაცემებთან ერთად ეს მიუთითებს, რომ ტოკენების რაოდენობა ანგარიშს რეალურზე მეტად წარმოაჩენს. თუმცა მეხსიერებისთვის საჭირო აპარატურის ღირებულება კვლავ სავსებით რეალურია.

მეხსიერება უკვე დეფიციტურია. Micron-ის (Micron) მოლოდინით, ოპერატიული მეხსიერებისა და მონაცემთა საცავების დეფიციტი 2027 და 2028 წლებში გაუარესდება. მომხმარებლები წლევანდელთან შედარებით მეტს გადაიხდიან, ხოლო მწარმოებლები უპირატესობას ხელოვნური ინტელექტის მონაცემთა ცენტრებისთვის განკუთვნილ HBM-ს მიანიჭებენ. თუ ნიუმენის პროგნოზი გამართლდება და ხუთმაგი სხვაობა „10-, 20- და 30-მაგი“ გახდება, პერსონალური კომპიუტერების მყიდველებს მეხსიერებისთვის კიდევ უფრო მეტ აგენტთან მოუწევთ კონკურენცია.