Plan Szkolenia

Wprowadzenie do tworzenia niestandardowych operatorów

  • Dlaczego warto tworzyć niestandardowe operatory? Przypadki użycia i ograniczenia
  • Struktura środowiska wykonawczego CANN i punkty integracji operatorów
  • Przegląd TBE, TIK i TVM w ekosystemie AI Huawei

Korzystanie z TIK do programowania operatorów na niskim poziomie

  • Zrozumienie modelu programowania TIK i obsługiwanych interfejsów API
  • Zarządzanie pamięcią i strategia podziału w TIK
  • Tworzenie, kompilowanie i rejestrowanie niestandardowego operatora w CANN

Testowanie i walidacja niestandardowych operatorów

  • Testy jednostkowe i integracyjne operatorów w grafie
  • Debugowanie problemów z wydajnością na poziomie jądra
  • Wizualizacja wykonania operatora i zachowania buforów

Planowanie i optymalizacja z wykorzystaniem TVM

  • Przegląd TVM jako kompilatora dla operatorów tensorowych
  • Tworzenie planu dla niestandardowego operatora w TVM
  • Dostrajanie, benchmarkowanie i generowanie kodu w TVM dla Ascend

Integracja z frameworkami i modelami

  • Rejestrowanie niestandardowych operatorów dla MindSpore i ONNX
  • Weryfikacja integralności modelu i zachowania awaryjnego
  • Obsługa grafów wielooperatorowych z mieszaną precyzją

Studia przypadków i specjalistyczne optymalizacje

  • Studium przypadku: wysoko wydajna konwolucja dla małych kształtów wejściowych
  • Studium przypadku: optymalizacja operatora uwagi z uwzględnieniem pamięci
  • Najlepsze praktyki wdrażania niestandardowych operatorów na różnych urządzeniach

Podsumowanie i kolejne kroki

Wymagania

  • Zaawansowana wiedza na temat wewnętrznych mechanizmów modeli AI i obliczeń na poziomie operatorów
  • Doświadczenie w pracy z Pythonem i środowiskami deweloperskimi Linux
  • Znajomość kompilatorów sieci neuronowych lub optymalizatorów na poziomie grafu

Grupa docelowa

  • Inżynierowie kompilatorów pracujący nad łańcuchami narzędzi AI
  • Programiści systemowi zajmujący się optymalizacją AI na niskim poziomie
  • Deweloperzy tworzący niestandardowe operatory lub zajmujący się nowatorskimi obciążeniami AI
 14 godzin

Liczba uczestników


Cena za uczestnika

Propozycje terminów

Powiązane Kategorie