Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Czas trwania 14 godzin
Plan Szkolenia
Przygotowywanie modeli uczenia maszynowego do wdrożenia
- Pakowanie modeli w Docker
- Eksportowanie modeli z TensorFlow i PyTorch
- Rozważania dotyczące wersjonowania i przechowywania
Obsługa modeli w Kubernetes
- Przegląd serwerów inferencyjnych
- Wdrażanie TensorFlow Serving i TorchServe
- Konfiguracja punktów końcowych modeli
Techniki optymalizacji inferencji
- Strategie batchowania
- Obsługa równoległych żądań
- Dostosowywanie opóźnienia i przepustowości
Autoskalowanie obciążeń ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Przydzielanie GPU i zarządzanie zasobami
- Konfiguracja węzłów GPU
- Przegląd wtyczki urządzenia NVIDIA
- Żądania i limity zasobów dla obciążeń ML
Strategie wdrażania i wydawania modeli
- Wdrożenia blue/green
- Wzorce wdrażania canary
- Testy A/B do ewaluacji modeli
Monitorowanie i obserwowalność ML w produkcji
- Metryki dla obciążeń inferencyjnych
- Praktyki logowania i śledzenia
- Pulpity sterujące i alerty
Rozważania dotyczące bezpieczeństwa i niezawodności
- Bezpieczeństwo punktów końcowych modeli
- Polityki sieciowe i kontrola dostępu
- Zapewnianie wysokiej dostępności
Podsumowanie i kolejne kroki
Wymagania
- Znajomość pracy z aplikacjami konteneryzowanymi
- Doświadczenie w pracy z modelami uczenia maszynowego opartymi na Pythonie
- Znajomość podstaw Kubernetes
Grupa docelowa
- Inżynierowie ML
- Inżynierowie DevOps
- Zespoły inżynierii platform
Opinie uczestników (1)
Podoba mi się część szkolenia dotycząca Kubernetes, ponieważ miałem pewne zadania z podami i portami K8s i dobrze było teraz lepiej to zrozumieć. Dziękuję!
Laura Miron - Betfair
Szkolenie - Docker and Kubernetes
Przetłumaczone przez sztuczną inteligencję