DeepSeek-მა და Huawei-მ Ascend-ის ღია პროგრამული ხელსაწყოები გამოუშვეს

DeepSeek-ის განცხადებით, ხელსაწყოებმა პროგრამირება უნდა გაამარტივოს და დეველოპერებს აპარატურის შესაძლებლობების სრულად გამოყენების საშუალება მისცეს. Huawei ხელსაწყოების შექმნისას კომპანიას სრულ მხარდაჭერას უწევდა. კომპანიებმა 128 Ascend 950 ჩიპზე აგებულ სუპერკვანძოვან სისტემაში გამოთვლებისა და კომუნიკაციის ოპტიმიზაციაზეც ერთად იმუშავეს. ეს სამუშაო მრავალ ამაჩქარებელზე ხელოვნური ინტელექტის დიდი დატვირთვების გასაშვებად ორ აუცილებელ ამოცანას პასუხობს. თითოეულმა ჩიპმა გამოთვლები ეფექტიანად უნდა შეასრულოს, ხოლო მონაცემები მათ შორის იმდენად სწრაფად უნდა გადაიცეს, რომ პროცესორები მუდმივად დატვირთული დარჩეს.

გამოშვებულ ბიბლიოთეკებს შორისაა DeepGEMM-Ascend, რომელიც მატრიცების გამრავლებასა და DeepSeek-ის მოდელებში გამოყენებულ სხვა გამოთვლებს ასრულებს. ის BF16, FP8 და FP4 ოპერაციებს უჭერს მხარს. ბიბლიოთეკა DeepSeek-ის არსებული DeepGEMM-ის იმავე პროგრამირების ინტერფეისებს იყენებს. შესაბამისად, Ascend-ზე გადასვლისას დეველოპერებს ნაცნობი API-ების შენარჩუნება შეუძლიათ. DeepEP-Ascend სწავლებისა და დასკვნის გამოტანის დროს კომუნიკაციას მართავს. ეს მოიცავს მონაცემების განაწილებას სხვადასხვა ექსპერტთან ექსპერტთა ნარევის მოდელებში და მათი შედეგების გაერთიანებას. ორივე ბიბლიოთეკა Ascend 950-ის აპარატურაზე შეიქმნა და გამოიცადა.

TileLang ოპტიმიზებული ბირთვების დასაწერად მაღალი დონის პროგრამულ შრეს უზრუნველყოფს. DeepSeek-მა აღნიშნა, რომ ის Nvidia-ს CUDA-სთან შედარებით „პროგრამირების უფრო მარტივ მოდელს“ სთავაზობს. მისი მიზანი კოდის გამარტივება და შექმნის ეფექტიანობის გაუმჯობესებაა. ენა უკვე უჭერდა მხარს Nvidia-სა და სხვა აპარატურას. Huawei-ს Ascend პროცესორებისთვის ადაპტერები მანამდეც ხელმისაწვდომი იყო. 30 სექტემბრის განახლებამ Ascend 950-ის პირდაპირი მხარდაჭერა დაამატა, მათ შორის კოდის გენერაცია, ავტომატური დაგეგმვა და სინქრონიზაცია.

ხელსაწყოები Huawei-ს არსებულ პროგრამულ პლატფორმა CANN-ს ეფუძნება. ის Ascend-ზე ხელოვნური ინტელექტის დატვირთვების გასაშვებად საბაზისო ინფრასტრუქტურას უზრუნველყოფს. Nvidia-ს CUDA პლატფორმა დეველოპერებს დიდი ხანია სთავაზობს დახვეწილ პროგრამულ გარემოსა და კომპანიის გრაფიკული პროცესორებისთვის ოპტიმიზებულ ბიბლიოთეკებს. ამიტომ პროგრამული ეკოსისტემა ხელოვნური ინტელექტის გამოთვლებში Nvidia-ს უპირატესობის მნიშვნელოვანი ნაწილია. DeepSeek-ის მიერ გამოშვებული ხელსაწყოები დეველოპერებს Huawei-ს აპარატურაზე დატვირთვების ოპტიმიზაციის დამატებით შესაძლებლობებს აძლევს. ამასთან, TileLang-ის მრავალპლატფორმიანი მხარდაჭერა ენას Nvidia-ს გრაფიკული პროცესორებისთვისაც გამოსადეგს ტოვებს.

განცხადებამდე ორი კვირით ადრე Huawei-მ ხელოვნური ინტელექტის პროცესორებისა და სუპერკვანძოვანი სისტემების ახალი თაობა წარადგინა. Huawei-მ განაცხადა, რომ 2027 წელს მისი ხელოვნური ინტელექტის სისტემები მოდელების სწავლებისთვის ფართოდ იქნება გამოყენებული. კომპანიები მანამდე DeepSeek-ის V4 მოდელზეც თანამშრომლობდნენ. მოდელის წინასწარი ვერსია აპრილში Huawei-ს Ascend ჩიპების მხარდაჭერით გამოვიდა. Huawei-მ აღნიშნა, რომ მისი Ascend 950 სუპერკვანძები V4 მოდელებს სრულად უჭერდა მხარს. კომპანიის ჩიპები უფრო მსუბუქი V4-Flash მოდელის სწავლების ნაწილისთვისაც გამოიყენეს.