Bądźmy w kontakcie

Plan Szkolenia

Przegląd chińskiego ekosystemu GPU do sztucznej inteligencji

  • Porównanie Huawei Ascend, Biren i Cambricon MLU
  • Modele CUDA a CANN, Biren SDK i BANGPy
  • Trendy branżowe i ekosystemy dostawców

Przygotowanie do migracji

  • Ocena bazy kodu CUDA
  • Identyfikacja platform docelowych i wersji SDK
  • Instalacja łańcucha narzędzi i konfiguracja środowiska

Techniki tłumaczenia kodu

  • Przenoszenie dostępu do pamięci CUDA i logiki jąder
  • Mapowanie modeli siatki obliczeniowej/wątków
  • Opcje tłumaczenia automatycznego i ręcznego

Implementacje specyficzne dla platform

  • Korzystanie z operatorów Huawei CANN i niestandardowych jąder
  • Potok konwersji Biren SDK
  • Przebudowa modeli za pomocą BANGPy (Cambricon)

Testowanie i optymalizacja międzyplatformowa

  • Profilowanie wykonania na każdej platformie docelowej
  • Strojenie pamięci i porównania wykonania równoległego
  • Śledzenie wydajności i iteracje

Zarządzanie mieszanymi środowiskami GPU

  • Wdrożenia hybrydowe z wieloma architekturami
  • Strategie awaryjne i wykrywanie urządzeń
  • Warstwy abstrakcji dla łatwiejszego utrzymania kodu

Studia przypadków i najlepsze praktyki

  • Przenoszenie modeli wizyjnych/NLP na Ascend lub Cambricon
  • Dostosowywanie potoków wnioskowania na klastrach Biren
  • Radzenie sobie z niezgodnościami wersji i brakami w API

Podsumowanie i dalsze kroki

Wymagania

  • Doświadczenie w programowaniu z wykorzystaniem CUDA lub aplikacji opartych na GPU
  • Zrozumienie modeli pamięci GPU i jąder obliczeniowych
  • Znajomość procesów wdrażania modeli AI lub przepływów pracy związanych z akceleracją

Grupa docelowa

  • Programiści GPU
  • Architekci systemów
  • Specjaliści ds. przenoszenia aplikacji
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie