Google-ის TPU-ები Meta-ს მონაცემთა ცენტრებში ხელოვნურ ინტელექტს ამუშავებს

Google-ის Tensor Processing Unit-ები (TPU), ხელოვნური ინტელექტისთვის შექმნილი ჩიპები, ახლა Meta-ში (Meta) ხელოვნური ინტელექტის ამოცანებს რეალურ გარემოში ამუშავებს. ამის შესაძლებლობა SGLang-ის დასკვნის ძრავის PyTorch-ზე მორგებულმა ახალმა ვერსიამ შექმნა, რომლის შესახებაც Google-მა დეველოპერების ბლოგზე დაწერა. ღია კოდის სახით ასევე გამოქვეყნდა vLLM-ის შესაბამისი ვერსია. ესეც ფართოდ გამოყენებული დასკვნის ძრავაა.

მანამდე ორივე ძრავა TPU-ებზე სამუშაოდ Google-ის JAX-ის ხელოვნური ინტელექტის ჩარჩოს იყენებდა. ახალი ვერსიები ამ ჩიპებს PyTorch-ის პირდაპირ არჩევანად აქცევს და, უმეტეს შემთხვევაში, პროგრამული უზრუნველყოფის თავიდან გადაწერა საჭირო არ არის.

Meta-ს PyTorch-TPU მიმართულების ხელმძღვანელმა ზონგვეი ჟოუმ თქვა: „SGLang-TorchTPU დღეს უკვე Meta-ში რეალურ გარემოში მუშაობს“. მისი თქმით, ეს Meta-ს, Google-ისა და SGLang-ის გუნდის მჭიდრო თანამშრომლობის შედეგია. გუნდი RadixArk-ში მუშაობს. ეს სტარტაპი SGLang-ის შემქმნელებმა დააარსეს და ძრავა Google-თან და Meta-სთან ერთად შექმნა. ჟოუს თქმით, ძრავა Meta-ს „გამორჩეულად სრულყოფილ, PyTorch-ზე მორგებულ მომსახურების პლატფორმას“ სთავაზობს.

Meta-ს PyTorch-ის ინჟინერიის დირექტორმა ჯანა ვან გრუნენმა Google-ის TorchTPU-ის პოსტში დასძინა, რომ Meta „ერთი აპარატურული არქიტექტურით ვერ შეიზღუდება“ და TorchTPU „საშუალებას გვაძლევს, ჩვენი PyTorch-ის ამოცანები Google-ის TPU-ებზე გავუშვათ“. Google-ის ცნობით, TorchTPU მან Meta-ს PyTorch-ის გუნდთან ერთად შექმნა.

Meta-ს TPU-ების გამოყენება პირველად არ უცდია. Google PyTorch-სა და TPU-ებს შორის ძველ დამაკავშირებელ პროგრამას, PyTorch/XLA-ს, ახალ TorchTPU-ის „წინამორბედს“ უწოდებს. SemiAnalysis-მა კი გასულ წელს დაწერა, რომ Meta-ს კვლევითი გუნდები ამ დამაკავშირებელ პროგრამას TPU-ებზე სამუშაოდ 2020-იდან 2023 წლამდე იყენებდნენ, სანამ Meta-მ ეს კონტრაქტები გააუქმა. Google-ის მცდელობა, PyTorch TPU-ებზე გაეშვა, ძირითადად Meta-ზე იყო გათვლილი, რადგან კომპანიას JAX-ზე გადასვლა არ სურდა.

გაურკვეველია, სად დგას Meta-ს მიერ რეალურ სამუშაოში გამოყენებული TPU-ები. გავრცელებული ინფორმაციით, გასულ წელს მხარეები 2026 წელს Google Cloud-ის TPU-ების დაქირავებასა და 2027 წელს მათ შეძენაზე საუბრობდნენ. მოგვიანებით, გავრცელებული ცნობით, Meta-მ მრავალწლიანი გაქირავების ხელშეკრულება გააფორმა.

განცხადება Amazon-ის განცხადებიდან ერთი დღის შემდეგ გავრცელდა. იმავე PyTorch-ის კონფერენციაზე Amazon-მა თქვა, რომ ღია კოდის სახით გამოაქვეყნებდა TorchNeuron-ს, Trainium2-ისა და Trainium3-ის ჩიპებისთვის შექმნილ საკუთარ PyTorch-ის პროგრამულ ნაწილს. ორივე ნაბიჯი, როგორც ჩანს, Nvidia-ს პროგრამულ უზრუნველყოფაზე დამოკიდებულების შესუსტებას ისახავს მიზნად.