დეველოპერმა Windows-ში AMD-ზე CUDA-ს გაშვება შეძლო

პროექტი სრულიად ახალი სამუშაო გარემო არ არის. ეს მაღალ დონეზე ავტომატიზებული და განმეორებადი PowerShell-ის კონფიგურაციაა. იგი ერთმანეთთან აკავშირებს ZLUDA-სა და Windows-ისთვის განკუთვნილ AMD-ის მშობლიურ HIP/ROCm SDK-ს. ZLUDA ცნობილი მთარგმნელი ფენაა, რომელსაც ადრე AMD აფინანსებდა. რამდენიმე სკრიპტის საშუალებით ხელსაწყოების ნაკრები მომხმარებლის გრაფიკული პროცესორის არქიტექტურას ავტომატურად ადგენს. შემდეგ ის ZLUDA-ს კონკრეტულ ვერსიას, v6-preview.69-ს, ჩამოტვირთავს და, თეორიულად მაინც, Windows-ში უკვე არსებულ ROCm-ის მათემატიკურ ბიბლიოთეკებს შეუფერხებლად უკავშირებს.

შედეგად, დეველოპერმა CUDA-ს დრაივერის პროგრამული ინტერფეისი, ასევე cuBLAS, cuSPARSE და cuFFT ბიბლიოთეკები უშუალოდ AMD-ის შესაბამის საშუალებებზე გადაამისამართა. კონცეფციის დასადასტურებლად ავტორმა 2,2 მილიონი პარამეტრის მქონე PPO განმტკიცებითი სწავლების ქსელი სრულად გაწვრთნა. მან AMD Radeon RX 9060 XT-ზე შეუცვლელი CUDA ბიბლიოთეკები გამოიყენა. ამჟამად ეს ერთადერთი ოფიციალურად მხარდაჭერილი გრაფიკული პროცესორია.

Windows-ში ROCm-ის ოფიციალური მხარდაჭერის მიუხედავად, ადგილობრივი დეველოპერების საზოგადოება ექსპერიმენტული GitHub საცავებისა და სპეციალიზებული ხელოვნური ინტელექტის ხელსაწყოების გამოცდისას ხშირად დამოკიდებულებებთან დაკავშირებულ რთულ პრობლემებს აწყდება. ასეთი ხელსაწყოები CUDA-ს აუცილებელ მოთხოვნად პირდაპირ კოდში უთითებენ. პროექტი სასურველ მთარგმნელობით საშუალებას სთავაზობს დეველოპერებს, რომლებსაც მხოლოდ CUDA-ზე მომუშავე ხელსაწყოების უშუალოდ Windows-ის ძირითად კომპიუტერებზე გამოცდა სურთ. მათ აღარ მოუწევთ WSL2-ის გადამისამართების პრობლემებთან გამკლავება ან თავდაპირველი ავტორისგან HIP-ზე გადატანილი ვერსიის ლოდინი. პროექტი ერთგვარი არაოფიციალური გადამყვანია პროგრამებისთვის, რომლებიც დაჟინებით მოითხოვენ Nvidia-ს ბარათს.

პროექტის დოკუმენტაციაში შეტანილმა წარმადობის ტესტებმა რამდენიმე საინტერესო შედეგი აჩვენა. კონტროლირებულ A/B ტესტში Radeon RX 9060 XT-ზე 2,2 მილიონი პარამეტრის მქონე განმტკიცებითი სწავლების დატვირთვა გაეშვა. „საჯარო ძირითადი გზა“, რომელიც მხოლოდ ZLUDA-ს ოფიციალურ გამოშვებებსა და AMD-ის სტანდარტულ HIP SDK 6.4-ს ეყრდნობა, წამში საშუალოდ 13 278 ნაბიჯს ასრულებდა. ამის საპირისპიროდ, ძველი ZLUDA-ს შემორჩენილი ორობითი ფაილებით შექმნილმა არასავალდებულო „აღდგენილმა მორგებულმა ზედნადებმა“ წამში 12 876 ნაბიჯი შეასრულა. შესაბამისად, ის დაახლოებით 3%-ით ნელი აღმოჩნდა. ოფიციალური კონფიგურაცია უფრო სწრაფია. თუმცა, ავტორმა აღნიშნა: „მოგვიანებით გადაწერილ ვერსიაში PPO-დან LibTorch/ZLUDA ამოვიღე და გაცილებით მაღალი გამტარუნარიანობა მივიღე“. ეს მიუთითებს, რომ მთარგმნელი ფენების ამ ნაკრებს კვლავ ახლავს წარმადობის დანაკარგი.

თუმცა, CUDA-ს უპირატესობის დასრულებულად გამოცხადებამდე რეალისტური მოლოდინების ჩამოყალიბება აუცილებელია. პირველ რიგში, ეს ერთი ადამიანის ღია კოდის პროექტია და არა საწარმოო დონის გადაწყვეტა. ავტორი პროექტის ვიწრო შესაძლებლობებს მკაფიოდ აღწერს. მანქანური სწავლების ისეთი მნიშვნელოვანი ბიბლიოთეკები, როგორებიცაა cuDNN, TensorRT და NCCL, ჯერ არ მუშაობს. შესაბამისად, თავსებადობა მთლიანად კონკრეტულ დატვირთვაზეა დამოკიდებული. თუ ხელოვნური ინტელექტის კონკრეტული ხელსაწყო cuDNN-ს ინტენსიურად იყენებს, ეს კონფიგურაცია ვერ იმუშავებს. გარდა ამისა, კომერციული მხარდაჭერის მეორედ დაკარგვის შემდეგ ZLUDA თავადაც „შაბათ-კვირის სამოყვარულო პროექტის“ სახით ვითარდება. საწარმოო სამუშაოებისთვის ამ ჯაჭვზე დაყრდნობა კვლავ უზარმაზარ რისკთანაა დაკავშირებული. ეს საცავი ტექნიკური ექსპერიმენტების მოყვარულთა ხელსაწყოა და არა კომპანიაში საინფორმაციო ტექნოლოგიების დანერგვის სტრატეგია.