Bądźmy w kontakcie

Plan Szkolenia

Przygotowanie modeli uczenia maszynowego do wdrożenia

  • Pakowanie modeli za pomocą Dockera
  • Eksportowanie modeli z TensorFlow i PyTorch
  • Kwestie związane z wersjonowaniem i przechowywaniem

Udostępnianie modeli w Kubernetes

  • Przegląd serwerów inferencji
  • Wdrażanie TensorFlow Serving i TorchServe
  • Konfiguracja punktów końcowych modelu

Techniki optymalizacji inferencji

  • Strategie grupowania
  • Obsługa równoczesnych żądań
  • Dostrajanie opóźnień i przepustowości

Automatyczne skalowanie obciążeń ML

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

Provisioning GPU i zarządzanie zasobami

  • Konfiguracja węzłów GPU
  • Przegląd wtyczki urządzeń NVIDIA
  • Żądania i limity zasobów dla obciążeń ML

Strategie wdrażania i wydawania modeli

  • Wdrożenia blue/green
  • Wzorce wdrażania canary
  • Testy A/B do oceny modelu

Monitorowanie i obserwowalność ML w produkcji

  • Metryki dla obciążeń inferencyjnych
  • Praktyki logowania i śledzenia
  • Pulpity nawigacyjne i alerty

Kwestie bezpieczeństwa i niezawodności

  • Zabezpieczanie punktów końcowych modelu
  • Polityki sieciowe i kontrola dostępu
  • Zapewnienie wysokiej dostępności

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie przepływów pracy aplikacji kontenerowych
  • Doświadczenie w pracy z modelami uczenia maszynowego opartymi na Pythonie
  • Znajomość podstaw Kubernetes

Odbiorcy

  • Inżynierowie ML
  • Inżynierowie DevOps
  • Zespoły inżynierów platformowych
 14 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (3)

Propozycje terminów

Powiązane Kategorie