Bądźmy w kontakcie
 Czas trwania 14 godzin

Plan Szkolenia

Przygotowywanie modeli uczenia maszynowego do wdrożenia

  • Pakowanie modeli w Docker
  • Eksportowanie modeli z TensorFlow i PyTorch
  • Rozważania dotyczące wersjonowania i przechowywania

Obsługa modeli w Kubernetes

  • Przegląd serwerów inferencyjnych
  • Wdrażanie TensorFlow Serving i TorchServe
  • Konfiguracja punktów końcowych modeli

Techniki optymalizacji inferencji

  • Strategie batchowania
  • Obsługa równoległych żądań
  • Dostosowywanie opóźnienia i przepustowości

Autoskalowanie obciążeń ML

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

Przydzielanie GPU i zarządzanie zasobami

  • Konfiguracja węzłów GPU
  • Przegląd wtyczki urządzenia NVIDIA
  • Żądania i limity zasobów dla obciążeń ML

Strategie wdrażania i wydawania modeli

  • Wdrożenia blue/green
  • Wzorce wdrażania canary
  • Testy A/B do ewaluacji modeli

Monitorowanie i obserwowalność ML w produkcji

  • Metryki dla obciążeń inferencyjnych
  • Praktyki logowania i śledzenia
  • Pulpity sterujące i alerty

Rozważania dotyczące bezpieczeństwa i niezawodności

  • Bezpieczeństwo punktów końcowych modeli
  • Polityki sieciowe i kontrola dostępu
  • Zapewnianie wysokiej dostępności

Podsumowanie i kolejne kroki

Wymagania

  • Znajomość pracy z aplikacjami konteneryzowanymi
  • Doświadczenie w pracy z modelami uczenia maszynowego opartymi na Pythonie
  • Znajomość podstaw Kubernetes

Grupa docelowa

  • Inżynierowie ML
  • Inżynierowie DevOps
  • Zespoły inżynierii platform

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (4)

Propozycje terminów

Powiązane Kategorie