Plan Szkolenia

Wprowadzenie do AI na krawędzi i Nano Banana

  • Kluczowe cechy obciążeń pracy AI na krawędzi
  • Architektura i możliwości Nano Banana
  • Porównanie strategii wdrażania na krawędzi i w chmurze

Przygotowywanie modeli do wdrożenia na krawędzi

  • Wybór modelu i ocena bazowa
  • Rozważania dotyczące zależności i zgodności
  • Eksportowanie modeli do dalszej optymalizacji

Techniki kompresji modelu

  • Strategie przycinania i strukturalnej rzadkości
  • Udostępnianie wag i redukcja parametrów
  • Ocena wpływu kompresji

Kwantyzacja dla lepszej wydajności na krawędzi

  • Metody kwantyzacji po treningu
  • Przepływy pracy z uwzględnieniem kwantyzacji podczas treningu
  • Metody INT8, FP16 i mieszanej precyzji

Przyspieszenie za pomocą Nano Banana

  • Korzystanie z przyspieszaczy Nano Banana
  • Integracja ONNX i backendów sprzętowych
  • Testowanie przyspieszonego wnioskowania

Wdrażanie na urządzenia krawędziowe

  • Integracja modeli do aplikacji wbudowanych lub mobilnych
  • Konfiguracja i monitorowanie środowiska uruchomieniowego
  • Rozwiązywanie problemów wdrożenia

Profilowanie wydajności i analiza kompromisów

  • Opóźnienie, przepustowość i ograniczenia termiczne
  • Kompromisy między dokładnością a wydajnością
  • Strategie optymalizacji iteracyjnej

Najlepsze praktyki w obszarze utrzymania systemów AI na krawędzi

  • Wersjonowanie i ciągłe aktualizacje
  • Zwrot modelu i zarządzanie zgodnością
  • Rozważania dotyczące bezpieczeństwa i integralności

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie procesów pracy z uczeniem maszynowym
  • Doświadczenie w tworzeniu modeli przy użyciu Pythona
  • Znajomość architektur sieci neuronowych

Grupa docelowa

  • Inżynierowie uczenia maszynowego (ML)
  • Naukowcy danych
  • Praktycy MLOps
 14 godzin

Liczba uczestników


Cena za uczestnika

Opinie uczestników (1)

Propozycje terminów

Powiązane Kategorie