Plan Szkolenia
Przygotowanie modeli uczenia maszynowego do wdrożenia
- Pakowanie modeli za pomocą Dockera
- Eksportowanie modeli z TensorFlow i PyTorch
- Kwestie związane z wersjonowaniem i przechowywaniem
Udostępnianie modeli w Kubernetes
- Przegląd serwerów inferencji
- Wdrażanie TensorFlow Serving i TorchServe
- Konfiguracja punktów końcowych modelu
Techniki optymalizacji inferencji
- Strategie grupowania
- Obsługa równoczesnych żądań
- Dostrajanie opóźnień i przepustowości
Automatyczne skalowanie obciążeń ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Provisioning GPU i zarządzanie zasobami
- Konfiguracja węzłów GPU
- Przegląd wtyczki urządzeń NVIDIA
- Żądania i limity zasobów dla obciążeń ML
Strategie wdrażania i wydawania modeli
- Wdrożenia blue/green
- Wzorce wdrażania canary
- Testy A/B do oceny modelu
Monitorowanie i obserwowalność ML w produkcji
- Metryki dla obciążeń inferencyjnych
- Praktyki logowania i śledzenia
- Pulpity nawigacyjne i alerty
Kwestie bezpieczeństwa i niezawodności
- Zabezpieczanie punktów końcowych modelu
- Polityki sieciowe i kontrola dostępu
- Zapewnienie wysokiej dostępności
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie przepływów pracy aplikacji kontenerowych
- Doświadczenie w pracy z modelami uczenia maszynowego opartymi na Pythonie
- Znajomość podstaw Kubernetes
Odbiorcy
- Inżynierowie ML
- Inżynierowie DevOps
- Zespoły inżynierów platformowych
Opinie uczestników (3)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
O mikroserwisach i sposobie ich utrzymania w Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Szkolenie - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Przetłumaczone przez sztuczną inteligencję
Jak trener skutecznie przekazuje wiedzę
Vu Thoai Le - Reply Polska sp. z o. o.
Szkolenie - Certified Kubernetes Administrator (CKA) - exam preparation
Przetłumaczone przez sztuczną inteligencję