Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Czas trwania 14 godzin
Plan Szkolenia
Wprowadzenie do tworzenia niestandardowych operatorów
- Dlaczego warto tworzyć niestandardowe operatory? Przypadki użycia i ograniczenia
- Struktura środowiska uruchomieniowego CANN i punkty integracji operatorów
- Przegląd TBE, TIK i TVM w ekosystemie AI Huawei
Wykorzystanie TIK do niskopoziomowego programowania operatorów
- Zrozumienie modelu programowania TIK i obsługiwanych interfejsów API
- Zarządzanie pamięcią i strategia dzielenia na kafelki w TIK
- Tworzenie, kompilowanie i rejestrowanie niestandardowego operatora w CANN
Testowanie i walidacja niestandardowych operatorów
- Testy jednostkowe i integracyjne operatorów w grafie
- Debugowanie problemów z wydajnością na poziomie jądra
- Wizualizacja wykonywania operatorów i zachowania buforów
Planowanie i optymalizacja w oparciu o TVM
- Przegląd TVM jako kompilatora operatorów tensorowych
- Tworzenie harmonogramu dla niestandardowego operatora w TVM
- Dostrajanie TVM, testy porównawcze i generowanie kodu dla Ascend
Integracja ze frameworkami i modelami
- Rejestrowanie niestandardowych operatorów dla MindSpore i ONNX
- Weryfikacja integralności modelu i zachowania awaryjnego
- Obsługa grafów wielooperatorowych z mieszaną precyzją
Studia przypadków i specjalistyczne optymalizacje
- Studium przypadku: wysokowydajna konwolucja dla małych kształtów wejściowych
- Studium przypadku: optymalizacja operatora uwagi z uwzględnieniem pamięci
- Najlepsze praktyki wdrażania niestandardowych operatorów na różnych urządzeniach
Podsumowanie i dalsze kroki
Wymagania
- Dogłębna znajomość wewnętrznej budowy modeli AI i obliczeń na poziomie operatorów
- Doświadczenie w pracy z Pythonem i środowiskami programistycznymi Linux
- Znajomość kompilatorów sieci neuronowych lub optymalizatorów na poziomie grafu
Grupa docelowa
- Inżynierowie kompilatorów pracujący nad łańcuchami narzędzi AI
- Programiści systemowi zajmujący się niskopoziomową optymalizacją AI
- Deweloperzy tworzący niestandardowe operatory lub pracujący nad nowatorskimi obciążeniami AI
