აგენტების ტოკენების 85%-ზე მეტი ქეშირებული მოთხოვნებიდან მოდის
წყარო: Toms Hardware. ქართული თარგმანი: შიკრიკი.
AI agents use 5x more tokens than humans as cached prompts explode, headed for 10x

ტექსტი ავტომატურად ითარგმნა. წყარო: Toms Hardware.
Futurum Group-ის აღმასრულებელმა დირექტორმა დენიელ ნიუმენმა (Daniel Newman) X-ზე დაწერა: „ამჟამად ხელოვნურ ინტელექტს ხელოვნური ინტელექტი ადამიანებზე ხუთჯერ მეტად იყენებს. ეს მაჩვენებელი ათჯერ გაიზრდება, შემდეგ კი სულ უფრო მოიმატებს“. მის მიერ გამოქვეყნებული მონაცემები Andreessen Horowitz-ის (a16z) დიაგრამიდანაა, რომელიც OpenRouter-ის მაჩვენებლებს ასახავს. აგვისტოს მონაცემებით, აგენტებმა 7,3 ტრილიონი ტოკენი გამოიყენეს, ადამიანებმა კი 1,4 ტრილიონი. ეს ექვსი თვის შემდეგ მოხდა, რაც აგენტების მოხმარებამ ადამიანებისას პირველად გადააჭარბა. თუმცა აგენტები ძირითადად უკვე ნანახ ინფორმაციას ხელახლა კითხულობენ. a16z-ის ცნობით, რომელიც OpenRouter-ს ეყრდნობა, აგენტების ტოკენების 85%-ზე მეტი ქეშირებული მოთხოვნებიდან მოდის.
OpenRouter „ხელოვნური ინტელექტის მოდელების წამყვანი კარიბჭე და მარშრუტიზაციის პლატფორმაა“. კომპანიის ანალიტიკის ხელმძღვანელის, პიტერ უოკერის (Peter Walker) დიაგრამა აჩვენებს „OpenRouter-ზე ტოკენების შვიდდღიან საშუალო მოხმარებას ტიპების მიხედვით“. მისი მონაცემებით, თებერვალში გადაკვეთის მომენტიდან აგენტების მიერ ტოკენების მოხმარება 14-ჯერ გაიზარდა. ადამიანების მოხმარება კი 2,8-ჯერ გაიზარდა. ნიუმენის მიერ გამოქვეყნებული a16z-ის დიაგრამაც იმავე მონაცემებს აჩვენებს. OpenRouter თითოეულ API-გასაღებს სამიდან ერთ კატეგორიას მიაკუთვნებს: აგენტურს, შერეულს ან ადამიანურს. ამისთვის პლატფორმა „შვიდი სიგნალისგან შედგენილ შეწონილ კომპოზიტურ ქულას“ იყენებს. ის ითვალისწინებს ხელსაწყოს გამოძახების სიხშირეს, მონაცვლეობების რაოდენობას, შუალედების ხანგრძლივობასა და სხვა მონაცემებს.
ჩვენი გამოთვლებით, შერეული კატეგორია, რომელიც შესაძლოა ნაწილობრივ აგენტურ და ნაწილობრივ ადამიანურ ქცევას მოიცავდეს, იმავე პერიოდში 4,7-ჯერ გაიზარდა. აგენტების უპირატესობა ადამიანებთან შედარებით შეიძლება იმის მიხედვით იცვლებოდეს, თუ როგორ ნაწილდება ეს ტრაფიკი. მონაცემები ტოკენების მოცულობას ზომავს და არა დანახარჯებს. ამასთან, მონაცემები მხოლოდ ერთ პლატფორმას ეკუთვნის. ტენდენციაც სრულად თანმიმდევრული არ ყოფილა, რადგან აპრილსა და ივლისში შემცირება დაფიქსირდა. თუმცა აგენტების გამოყენება სხვაგანაც იზრდება. McKinsey-ის (McKinsey) 2026 წლის ხელოვნური ინტელექტის მდგომარეობის კვლევაში მსხვილი ორგანიზაციებიდან გამოკითხულთა 40%-მა AI აგენტების ფართომასშტაბიანი დანერგვის შესახებ განაცხადა. ერთი წლით ადრე ეს მაჩვენებელი 27% იყო.
a16z-ის ცნობით, ტოკენების მოხმარების შედარებითი ზრდა თითქმის მთლიანად ქეშირებულ ტოკენებზე მოდის. მათი დამუშავება მოთხოვნის თავიდან დამუშავებაზე გაცილებით იაფია. თუმცა ისინი მაინც მეხსიერებაში უნდა ინახებოდეს. OpenRouter-ის ინვესტორი a16z ამას მაღალი გამტარუნარიანობის მეხსიერებაზე (HBM) მოთხოვნის ზრდას უკავშირებს. მოდელები შენახულ კონტექსტს KV-ქეშში ინახავენ. ჩვენი გამოცემის მონაცემებით, „KV-ქეშის მოცულობა GPU-ს HBM-ის ტევადობაზე სწრაფად იზრდება“.
ამავე გამოცემის სხვა ამბები.

China retains fastest supercomputer in the world crown as AI data centers soak up new hardware
იგივე სურათი გამოჩნდა სატელეფონო მომსახურების ცენტრების საკონსულტაციო კომპანიის ჟურნალებში. კომპანიამ ნაქირავებ Nvidia H200-ებზე DeepSeek გამოსცადა. სექტემბერში Claude Code-ზე მისი აგენტების გამოყენებისას „მთელი შეყვანილი ინფორმაციის 96% ძველი საუბრის ხელახლა წაკითხვას წარმოადგენდა“. OpenRouter-ის მონაცემებთან ერთად ეს მიუთითებს, რომ ტოკენების რაოდენობა ანგარიშს რეალურზე მეტად წარმოაჩენს. თუმცა მეხსიერებისთვის საჭირო აპარატურის ღირებულება კვლავ სავსებით რეალურია.
მეხსიერება უკვე დეფიციტურია. Micron-ის (Micron) მოლოდინით, ოპერატიული მეხსიერებისა და მონაცემთა საცავების დეფიციტი 2027 და 2028 წლებში გაუარესდება. მომხმარებლები წლევანდელთან შედარებით მეტს გადაიხდიან, ხოლო მწარმოებლები უპირატესობას ხელოვნური ინტელექტის მონაცემთა ცენტრებისთვის განკუთვნილ HBM-ს მიანიჭებენ. თუ ნიუმენის პროგნოზი გამართლდება და ხუთმაგი სხვაობა „10-, 20- და 30-მაგი“ გახდება, პერსონალური კომპიუტერების მყიდველებს მეხსიერებისთვის კიდევ უფრო მეტ აგენტთან მოუწევთ კონკურენცია.
თემებიდენიელ ნიუმენიპიტერ უოკერიAndreessen HorowitzDeepSeekFuturum GroupMcKinseyMicronNvidiaOpenRouterხელოვნური ინტელექტის აგენტები
შეადარე თარგმანი გამოცემის ორიგინალურ ტექსტს.
გამოქვეყნდა 4 ოქტომბერი, 2026

Anthropic says Claude Mythos Preview cut AMD MI355X onboarding from up to 12 months to around three days

Amazon’s Starlink rival sees major setback after 40 satellites destroyed in rocket failure
სხვა ამბები ამ განყოფილებიდან.
Italy fines Meta €805m over accessing users' photos

Under pressure, Lutnick joins Trump in China

Microsoft 365 outage leads to chlorine gas poisoning of 15 hotel guests
კომენტარი (0)
გაგვიზიარე შენი აზრი.
კომენტარები ავტომატურად მოწმდება.
აზრის გასაზიარებლად შექმენი ანგარიში ან შედი.
კომენტარები ჯერ არ არის. დაწერე პირველი.