Plan Szkolenia
Przygotowywanie modeli uczenia maszynowego do wdrożenia
- Pakowanie modeli w Docker
- Eksportowanie modeli z TensorFlow i PyTorch
- Rozważania dotyczące wersjonowania i przechowywania
Obsługa modeli w Kubernetes
- Przegląd serwerów inferencyjnych
- Wdrażanie TensorFlow Serving i TorchServe
- Konfiguracja punktów końcowych modeli
Techniki optymalizacji inferencji
- Strategie batchowania
- Obsługa równoległych żądań
- Dostosowywanie opóźnienia i przepustowości
Autoskalowanie obciążeń ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Przydzielanie GPU i zarządzanie zasobami
- Konfiguracja węzłów GPU
- Przegląd wtyczki urządzenia NVIDIA
- Żądania i limity zasobów dla obciążeń ML
Strategie wdrażania i wydawania modeli
- Wdrożenia blue/green
- Wzorce wdrażania canary
- Testy A/B do ewaluacji modeli
Monitorowanie i obserwowalność ML w produkcji
- Metryki dla obciążeń inferencyjnych
- Praktyki logowania i śledzenia
- Pulpity sterujące i alerty
Rozważania dotyczące bezpieczeństwa i niezawodności
- Bezpieczeństwo punktów końcowych modeli
- Polityki sieciowe i kontrola dostępu
- Zapewnianie wysokiej dostępności
Podsumowanie i kolejne kroki
Wymagania
- Znajomość pracy z aplikacjami konteneryzowanymi
- Doświadczenie w pracy z modelami uczenia maszynowego opartymi na Pythonie
- Znajomość podstaw Kubernetes
Grupa docelowa
- Inżynierowie ML
- Inżynierowie DevOps
- Zespoły inżynierii platform
Opinie uczestników (4)
podstawowa wiedza na temat kontenerów/Kubernetes oraz ich wzajemnej interakcji funkcje platformy OpenShift
Eric Scholze - NOW IT GmbH
Szkolenie - Introduction to Containers, Kubernetes & OpenShift
Przetłumaczone przez sztuczną inteligencję
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
O mikroserwisach i sposobie ich utrzymania w Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Szkolenie - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Przetłumaczone przez sztuczną inteligencję
Szkolenie spełniło oczekiwania dzięki wyraźnym wyjaśnieniom, przykładom z prawdziwego życia i praktycznym laboratoriom, które sprawiły, że skomplikowane tematy stały się łatwe do zrozumienia. Dostarczyło cennych wskazówek na temat orkiestrowania kontenerów, bezpieczeństwa, skalowania oraz wielu innych zaawansowanych tematów.
Anna Wyszomirska-Szmyd - Akamai
Szkolenie - Docker and Kubernetes advanced
Przetłumaczone przez sztuczną inteligencję