Plan Szkolenia

Wprowadzenie do AI na krawędzi i Nano Banana

  • Kluczowe cechy obciążeń AI na krawędzi
  • Architektura i możliwości Nano Banana
  • Porównanie strategii wdrażania na krawędzi i w chmurze

Przygotowywanie modeli do wdrożenia na krawędzi

  • Wybór modelu i ewaluacja bazowa
  • Rozważania dotyczące zależności i kompatybilności
  • Eksportowanie modeli do dalszej optymalizacji

Techniki kompresji modeli

  • Strategie przycinania i strukturalnej rzadkości
  • Współdzielone wagi i redukcja parametrów
  • Ocena wpływu kompresji

Kwantyzacja dla wydajności na krawędzi

  • Metody kwantyzacji po treningu
  • Przepływy pracy kwantyzacji w trakcie treningu
  • Metody INT8, FP16 i mieszanej precyzji

Przyspieszenie za pomocą Nano Banana

  • Używanie przyspieszaczy Nano Banana
  • Integracja ONNX i back-endów sprzętowych
  • Testowanie przyspieszonego wnioskowania

Wdrażanie na urządzeniach krawędziowych

  • Integracja modeli z aplikacjami wbudowanymi lub mobilnymi
  • Konfiguracja i monitorowanie środowiska uruchomieniowego
  • Rozwiązywanie problemów związanych z wdrożeniem

Profilowanie wydajności i analiza kompromisów

  • Opóźnienie, przepustowość i ograniczenia termiczne
  • Kompromisy między dokładnością a wydajnością
  • Iteracyjne strategie optymalizacji

Najlepsze praktyki w utrzymaniu systemów AI na krawędzi

  • Wersjonowanie i ciągłe aktualizacje
  • Wspomaganie cofania modeli i zarządzanie kompatybilnością
  • Rozważania dotyczące bezpieczeństwa i integralności

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie przepływów pracy uczenia maszynowego
  • Doświadczenie w tworzeniu modeli opartych na Pythonie
  • Znajomość architektur sieci neuronowych

Odbiorcy

  • Inżynierowie ML (Machine Learning)
  • Analitycy danych
  • Praktykujący MLOps
 14 godzin

Liczba uczestników


cena netto za uczestnika

Opinie uczestników (1)

Propozycje terminów

Powiązane Kategorie