დეველოპერმა Windows-ში AMD-ზე CUDA-ს გაშვება შეძლო

ROCm-ის უახლესი განახლებებით AMD-მ სამომხმარებლო გრაფიკული პროცესორებისთვის Windows-ში PyTorch-ისა და HIP SDK-ის სრულფასოვანი ოფიციალური მხარდაჭერა დანერგა. მხარდაჭერა მთლიანად მოიცავს Radeon RX 7000 და RX 9000 სერიებს. ამგვარად, Windows-ში AMD-ის მოწყობილობებზე ოფიციალურად მხარდაჭერილი პროგრამული გარემოების გამოყენება პრაქტიკული გახდა. თუმცა, კვლავ პრობლემაა საკუთრების პროგრამების, ძველი საცავებისა და სპეციალიზებული ხელოვნური ინტელექტის ხელსაწყოების გაშვება, რომლებიც მხოლოდ Nvidia-ს CUDA-ს უჭერენ მხარს. Speedstu-ს ახალმა პროექტმა CUDA-for-AMD-Windows შესაძლოა ეს პრობლემა გადაჭრას. პროექტი ადასტურებს, რომ Windows-ში AMD-ის მოწყობილობებზე მხოლოდ CUDA-სთვის განკუთვნილი დატვირთვების გაშვება ვირტუალიზაციისა და ორმაგი ჩატვირთვის გარეშე შესაძლებელია.

პროექტი სრულიად ახალი სამუშაო გარემო არ არის. ეს მაღალ დონეზე ავტომატიზებული და განმეორებადი PowerShell-ის კონფიგურაციაა. იგი ერთმანეთთან აკავშირებს ZLUDA-სა და Windows-ისთვის განკუთვნილ AMD-ის მშობლიურ HIP/ROCm SDK-ს. ZLUDA ცნობილი მთარგმნელი ფენაა, რომელსაც ადრე AMD აფინანსებდა. რამდენიმე სკრიპტის საშუალებით ხელსაწყოების ნაკრები მომხმარებლის გრაფიკული პროცესორის არქიტექტურას ავტომატურად ადგენს. შემდეგ ის ZLUDA-ს კონკრეტულ ვერსიას, v6-preview.69-ს, ჩამოტვირთავს და, თეორიულად მაინც, Windows-ში უკვე არსებულ ROCm-ის მათემატიკურ ბიბლიოთეკებს შეუფერხებლად უკავშირებს.

შედეგად, დეველოპერმა CUDA-ს დრაივერის პროგრამული ინტერფეისი, ასევე cuBLAS, cuSPARSE და cuFFT ბიბლიოთეკები უშუალოდ AMD-ის შესაბამის საშუალებებზე გადაამისამართა. კონცეფციის დასადასტურებლად ავტორმა 2,2 მილიონი პარამეტრის მქონე PPO განმტკიცებითი სწავლების ქსელი სრულად გაწვრთნა. მან AMD Radeon RX 9060 XT-ზე შეუცვლელი CUDA ბიბლიოთეკები გამოიყენა. ამჟამად ეს ერთადერთი ოფიციალურად მხარდაჭერილი გრაფიკული პროცესორია.

Windows-ში ROCm-ის ოფიციალური მხარდაჭერის მიუხედავად, ადგილობრივი დეველოპერების საზოგადოება ექსპერიმენტული GitHub საცავებისა და სპეციალიზებული ხელოვნური ინტელექტის ხელსაწყოების გამოცდისას ხშირად დამოკიდებულებებთან დაკავშირებულ რთულ პრობლემებს აწყდება. ასეთი ხელსაწყოები CUDA-ს აუცილებელ მოთხოვნად პირდაპირ კოდში უთითებენ. პროექტი სასურველ მთარგმნელობით საშუალებას სთავაზობს დეველოპერებს, რომლებსაც მხოლოდ CUDA-ზე მომუშავე ხელსაწყოების უშუალოდ Windows-ის ძირითად კომპიუტერებზე გამოცდა სურთ. მათ აღარ მოუწევთ WSL2-ის გადამისამართების პრობლემებთან გამკლავება ან თავდაპირველი ავტორისგან HIP-ზე გადატანილი ვერსიის ლოდინი. პროექტი ერთგვარი არაოფიციალური გადამყვანია პროგრამებისთვის, რომლებიც დაჟინებით მოითხოვენ Nvidia-ს ბარათს.

პროექტის დოკუმენტაციაში შეტანილმა წარმადობის ტესტებმა რამდენიმე საინტერესო შედეგი აჩვენა. კონტროლირებულ A/B ტესტში Radeon RX 9060 XT-ზე 2,2 მილიონი პარამეტრის მქონე განმტკიცებითი სწავლების დატვირთვა გაეშვა. „საჯარო ძირითადი გზა“, რომელიც მხოლოდ ZLUDA-ს ოფიციალურ გამოშვებებსა და AMD-ის სტანდარტულ HIP SDK 6.4-ს ეყრდნობა, წამში საშუალოდ 13 278 ნაბიჯს ასრულებდა. ამის საპირისპიროდ, ძველი ZLUDA-ს შემორჩენილი ორობითი ფაილებით შექმნილმა არასავალდებულო „აღდგენილმა მორგებულმა ზედნადებმა“ წამში 12 876 ნაბიჯი შეასრულა. შესაბამისად, ის დაახლოებით 3%-ით ნელი აღმოჩნდა. ოფიციალური კონფიგურაცია უფრო სწრაფია. თუმცა, ავტორმა აღნიშნა: „მოგვიანებით გადაწერილ ვერსიაში PPO-დან LibTorch/ZLUDA ამოვიღე და გაცილებით მაღალი გამტარუნარიანობა მივიღე“. ეს მიუთითებს, რომ მთარგმნელი ფენების ამ ნაკრებს კვლავ ახლავს წარმადობის დანაკარგი.