Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Plan Szkolenia
Wprowadzenie do tworzenia niestandardowych operatorów
- Dlaczego warto tworzyć niestandardowe operatory? Przypadki użycia i ograniczenia
- Struktura środowiska wykonawczego CANN i punkty integracji operatorów
- Przegląd TBE, TIK i TVM w ekosystemie AI Huawei
Korzystanie z TIK do programowania operatorów na niskim poziomie
- Zrozumienie modelu programowania TIK i obsługiwanych interfejsów API
- Zarządzanie pamięcią i strategia podziału w TIK
- Tworzenie, kompilowanie i rejestrowanie niestandardowego operatora w CANN
Testowanie i walidacja niestandardowych operatorów
- Testy jednostkowe i integracyjne operatorów w grafie
- Debugowanie problemów z wydajnością na poziomie jądra
- Wizualizacja wykonania operatora i zachowania buforów
Planowanie i optymalizacja z wykorzystaniem TVM
- Przegląd TVM jako kompilatora dla operatorów tensorowych
- Tworzenie planu dla niestandardowego operatora w TVM
- Dostrajanie, benchmarkowanie i generowanie kodu w TVM dla Ascend
Integracja z frameworkami i modelami
- Rejestrowanie niestandardowych operatorów dla MindSpore i ONNX
- Weryfikacja integralności modelu i zachowania awaryjnego
- Obsługa grafów wielooperatorowych z mieszaną precyzją
Studia przypadków i specjalistyczne optymalizacje
- Studium przypadku: wysoko wydajna konwolucja dla małych kształtów wejściowych
- Studium przypadku: optymalizacja operatora uwagi z uwzględnieniem pamięci
- Najlepsze praktyki wdrażania niestandardowych operatorów na różnych urządzeniach
Podsumowanie i kolejne kroki
Wymagania
- Zaawansowana wiedza na temat wewnętrznych mechanizmów modeli AI i obliczeń na poziomie operatorów
- Doświadczenie w pracy z Pythonem i środowiskami deweloperskimi Linux
- Znajomość kompilatorów sieci neuronowych lub optymalizatorów na poziomie grafu
Grupa docelowa
- Inżynierowie kompilatorów pracujący nad łańcuchami narzędzi AI
- Programiści systemowi zajmujący się optymalizacją AI na niskim poziomie
- Deweloperzy tworzący niestandardowe operatory lub zajmujący się nowatorskimi obciążeniami AI
14 godzin