Bądźmy w kontakcie

Plan Szkolenia

Wprowadzenie do firmy Cambricon i architektury MLU

  • Przegląd portfolio układów AI firmy Cambricon
  • Architektura MLU i potok instrukcji
  • Obsługiwane typy modeli i przypadki użycia

Instalacja łańcucha narzędzi programistycznych

  • Instalacja BANGPy i pakietu SDK Neuware
  • Konfiguracja środowiska dla Pythona i C++
  • Kompatybilność modeli i przetwarzanie wstępne

Tworzenie modeli z użyciem BANGPy

  • Struktura tensorów i zarządzanie kształtami
  • Budowanie grafu obliczeniowego
  • Obsługa operacji niestandardowych w BANGPy

Wdrażanie z użyciem środowiska wykonawczego Neuware

  • Konwersja i ładowanie modeli
  • Wykonywanie i sterowanie wnioskowaniem
  • Praktyki wdrażania na urządzeniach brzegowych i w centrach danych

Optymalizacja wydajności

  • Mapowanie pamięci i strojenie warstw
  • Śledzenie wykonania i profilowanie
  • Typowe wąskie gardła i sposoby ich usuwania

Integracja MLU z aplikacjami

  • Wykorzystanie interfejsów API Neuware do integracji z aplikacjami
  • Obsługa strumieniowania i wielu modeli
  • Scenariusze hybrydowego wnioskowania CPU-MLU

Kompleksowy projekt i przypadek użycia

  • Laboratorium: wdrażanie modelu wizyjnego lub NLP
  • Wnioskowanie brzegowe z integracją BANGPy
  • Testowanie dokładności i przepustowości

Podsumowanie i kolejne kroki

Wymagania

  • Znajomość struktur modeli uczenia maszynowego
  • Doświadczenie w pracy z Pythonem i/lub C++
  • Znajomość zagadnień związanych z wdrażaniem modeli i akceleracją

Grupa docelowa

  • Programiści wbudowanych systemów AI
  • Inżynierowie ML wdrażający rozwiązania na urządzeniach brzegowych lub w centrach danych
  • Programiści pracujący z chińską infrastrukturą AI
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (1)

Propozycje terminów

Powiązane Kategorie