Google TPU-ებს აგენტებისა და უსაფრთხოებისთვის სპეციალიზებულ სისტემებად გარდაქმნის

Google აგენტებისთვის პროგრამულ უზრუნველყოფასაც სთავაზობს, რომელიც აპარატურის შესაძლებლობების სრულად გამოყენებას ემსახურება. TPU Sync ღია კოდის „მოდელის მდგომარეობის ფენაა TPU-ების კლასტერებისთვის“. ის KV ქეშებს ჩიპის HBM-იდან გადააქვს და „მოცულობით KV ქეშებს მილიწამებში ავტომატურად გადააქვს ჩიპიდან“ ჰოსტის DRAM-ში, ექსპერიმენტულ რეჟიმში კი საერთო საცავში. Google-ის განცხადებით, ამან KV-ის გადატანის დაყოვნება შეიძლება „90%-ზე მეტით“ შეამციროს. პირველ ტოკენამდე დროის შემცირების მაჩვენებელი სამუშაოს ტიპზეა დამოკიდებული. კომპანიამ ასევე გამოაცხადა Agent Compute Engine, Google Cloud-ის სერვისი, რომელიც უმოქმედო აგენტურ სესიებს აჩერებს და მათ სამუშაო მეხსიერებას გვერდზე ინახავს, ვიდრე ისევ საჭირო გახდება. ესეც მეხსიერების დაზოგვას ემსახურება.

Google თავისი vLLM-TorchTPU პროგრამული კომპლექსის დამსახურებად მიიჩნევს „ფასისა და წარმადობის მოწინავე მაჩვენებლებს“ InferenceX-სა და AgentX-ში. ეს ტესტები აგენტურ პროგრამირებასა და გრძელ კონტექსტთან მუშაობას რეალისტურ პირობებში ამოწმებს. თუმცა, ჯერჯერობით გამოქვეყნებული მესამე მხარის მონაცემები მხოლოდ წინა თაობის Ironwood TPU-ს ეხება. SemiAnalysis-ის სექტემბრის InferenceX ტესტებში, სადაც Qwen3.5 397B FP8 ფორმატში მუშაობდა, Ironwood-მა თითო მომხმარებელზე წამში 20 ტოკენის სიჩქარით Nvidia-ს B200-ზე დოლარზე 50,4%-ით, B300-ზე კი 96,0%-ით მეტი ტოკენი დაამუშავა. ერთი პრობლემა ისაა, რომ Ironwood-ს FP4-ის მშობლიური მხარდაჭერა არ აქვს. მიუხედავად ამისა, ნოემბრის უფრო ახალი შედეგებით, იმავე მოდელზე მისმა FP8 ვერსიამ Nvidia-ს FP4 GB300 NVL72-ს დოლარზე წარმადობით 1,67-ჯერ აჯობა. ახალი თაობის განსხვავების შესაფასებლად მერვე თაობის შედეგები ჯერ გამოქვეყნებული არ არის.

გრძელი კონტექსტისთვის შექმნილი 8i Max-ისგან განსხვავებით, ახალი TPU 8tx, რომელიც „TPU 8t-ის იმავე სილიკონზეა აგებული“, „უსაფრთხო და კონფიდენციალური დასკვნებისთვის“, ასევე მცირე მასშტაბის სწავლებისთვისაა ოპტიმიზებული. უსაფრთხოება უშუალოდ აპარატურაშია ჩაშენებული. იზოლაციამ მგრძნობიარე მონაცემებზე, მათ შორის მოდელის წონებზე, არასანქცირებული წვდომა უნდა აღკვეთოს. ჩვეულებრივ, დამუშავების დროს მონაცემები მეხსიერებაში ხელმისაწვდომი უნდა იყოს. სწორედ ამ ეტაპზე ვრცელდება იზოლაციის დაცვა.

ჩიპი იმ სფეროებისთვისაა განკუთვნილი, სადაც უსაფრთხოება და კონფიდენციალურობა განსაკუთრებით მნიშვნელოვანია, მათ შორის რეგულირებული კომპანიებისა და სახელმწიფო უწყებებისთვის, განსაკუთრებით მათთვის, ვინც მოწინავე ან საკუთრებაში არსებულ მოდელებს იყენებს. ასეთ მომხმარებლებს შესაძლოა სურდეთ, „კერძო მონაცემებით მოდელები მოარგონ, დიდი მოდელები პატარებად გარდაქმნან და თავიანთი აგენტები გაწვრთნან“ ისე, რომ მგრძნობიარე მონაცემები კლასტერებს შორის არ გადაიტანონ. აქ ერთმანეთს აგენტები და უსაფრთხოება ხვდება, რათა „აგენტების უსაფრთხო შესრულება“ უზრუნველყოს. აპრილში პენტაგონსა და Google-ს, სავარაუდოდ, საიდუმლო სამუშაოებისთვის TPU-ების გამოყენება განუხილავთ, თუმცა 8tx ჩიპი კონკრეტულად დასახელებული არ ყოფილა.

Google-ის Private AI Compute, მისი „გამაგრებული TPU პლატფორმა“, რომელსაც სექტემბრის ტექნიკური დოკუმენტის თანახმად „ტიპური TEE-ის მსგავსი“ დაცვა აქვს, უკვე უზრუნველყოფს TPU-ებზე კონფიდენციალურ მომსახურებას. როგორც ჩანს, 8tx მომხმარებლებისთვის ამ შესაძლებლობის პროდუქტად ქცევაა. ალტერნატივებს შორისაა Nvidia-ს NVL72, სადაც უსაფრთხოების ერთი დომენი 72 Rubin გრაფიკულ პროცესორს, 36 Vera პროცესორსა და ურთიერთდამაკავშირებელ ქსელს მოიცავს. Intel-ის TDX კი სანდო შეყვანა-გამოყვანის მხარდაჭერას ამატებს, რათა ამაჩქარებლებზე გადატანილი მონაცემებიც დაიცვას.

8tx-ის ჰოსტები მე-5 თაობის AMD EPYC დაფებზეა აგებული და 8t-ის Axion ჰოსტებისგან განსხვავდება. აპრილში 8t-მა x86 არქიტექტურა ჩაანაცვლა. 8i-ზე ყოველ ორ TPU-ზე ერთი Axion მოდის, Ironwood-ზე კი ყოველ ოთხ TPU-ზე ერთი Xeon. Google ცვლილების მიზეზს არ ასახელებს. თუმცა Confidential VM-ის კონფიგურაციების ჩამონათვალში AMD-ისა და Intel-ის ჩიპებია, Arm-ზე დაფუძნებული ჩიპები კი მითითებული არ არის. Private AI Compute CPU-ს ამოცანებისთვის „AMD-ზე დაფუძნებულ სანდო აპარატურულ გარემოს“ იყენებს. ეს მიანიშნებს, რომ Google-მა კონფიდენციალურ სისტემაში უკვე გამოყენებული კომპონენტი აირჩია.

8tx ასევე 8i-ის Boardfly ქსელს იყენებს, 8t-ის ტორუსული ქსელის ნაცვლად. Google-ის მტკიცებით, Boardfly-ს შეუძლია „TPU 8t-თან შედარებით დაყოვნება 2-ჯერ შეამციროს“ და წარმადობაზე თითქმის არ იმოქმედოს. თუმცა გაურკვეველია, Google რა საზომს იყენებს. ტორუსული ქსელი სწავლებას შეეფერება, რადგან ჩიპები მონაცემებს უმეტესად მეზობელ ჩიპებს პროგნოზირებადი გზით უცვლიან. დიდი შერეული ექსპერტების მოდელებისა და მსჯელობის მოდელების დასკვნების მიღებისას კი მცირე შეტყობინებები შეიძლება დაშორებულ ჩიპებს შორის გაიგზავნოს, ხოლო ყოველი გადაცემის ეტაპი დაყოვნებას ზრდის. Boardfly-ის გამოყენებისას გადაცემას მაქსიმუმ შვიდი ეტაპი სჭირდება, 1 024 ჩიპის შემთხვევაში კი ტორუსულ ქსელში ეს რიცხვი 16-ია.

ჯერ არ გამოქვეყნებულა სრული სპეციფიკაციების ცხრილი, HBM-ის მოცულობა, პოდების ზომა, ხელმისაწვდომობის თარიღი, ფასი და რომელიმე სისტემის მომხმარებელთა სია. 8tx-ის ატესტაციის, ანუ კონფიდენციალურობის მომხმარებლის მიერ გადამოწმების შესაძლებლობის შესახებაც ინფორმაცია არ არის. Google-ის Cloud TPU-ის გვერდზე 8tx და 8i Max, ისევე როგორც 8i და 8t, ამჟამად „მალე გამოვა“ სტატუსითაა მითითებული.

აპრილის ორი სისტემის წარდგენიდან თითქმის შვიდი თვის შემდეგ კიდევ ორი ახალი TPU სისტემის გამოშვება აჩვენებს, რომ Google სპეციალიზებული სისტემების წარმოების ტემპის დაჩქარებას აპირებს. ახლა კომპანიამ მათი შესაძლებლობები ტესტებით უნდა დაადასტუროს და ხელმისაწვდომობის თარიღი გამოაცხადოს, როცა აპარატურა მომხმარებლებს რეალურად ჩაუვარდებათ ხელში.

თემებიAMDGoogleIntelMetaNvidiaპენტაგონისემიენალიზისი

გამოქვეყნდა 12 ნოემბერი, 2026