Plan Szkolenia

Wprowadzenie do Cambricon i architektury MLU

  • Przegląd portfolio układów AI Cambricon
  • Architektura MLU i potok instrukcji
  • Obsługiwane typy modeli i przypadki użycia

Instalacja łańcucha narzędzi deweloperskich

  • Instalacja BANGPy i SDK Neuware
  • Konfiguracja środowiska dla Pythona i C++
  • Kompatybilność modeli i przetwarzanie wstępne

Rozwój modeli z BANGPy

  • Struktura tensorów i zarządzanie kształtami
  • Konstrukcja grafu obliczeniowego
  • Obsługa operacji niestandardowych w BANGPy

Wdrażanie z użyciem środowiska uruchomieniowego Neuware

  • Konwersja i ładowanie modeli
  • Kontrola wykonania i wnioskowania
  • Praktyki wdrażania na urządzeniach brzegowych i w centrach danych

Optymalizacja wydajności

  • Mapowanie pamięci i strojenie warstw
  • Śledzenie i profilowanie wykonania
  • Typowe wąskie gardła i rozwiązania

Integracja MLU z aplikacjami

  • Użycie API Neuware do integracji aplikacji
  • Obsługa strumieni i wielu modeli
  • Scenariusze wnioskowania hybrydowego CPU-MLU

Projekt end-to-end i przypadek użycia

  • Laboratorium: Wdrażanie modelu wizyjnego lub NLP
  • Wnioskowanie brzegowe z integracją BANGPy
  • Testowanie dokładności i przepustowości

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie struktur modeli uczenia maszynowego
  • Doświadczenie w Pythonie i/lub C++
  • Znajomość koncepcji wdrażania modeli i przyspieszania

Odbiorcy

  • Programiści embedded AI
  • Inżynierowie ML wdrażający na urządzeniach brzegowych lub w centrach danych
  • Programiści pracujący z chińską infrastrukturą AI
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie