Plan Szkolenia
Preparing Machine Learning Models for Deployment
- Packaging models with Docker
- Exporting models from TensorFlow and PyTorch
- Versioning and storage considerations
Model Serving on Kubernetes
- Overview of inference servers
- Deploying TensorFlow Serving and TorchServe
- Setting up model endpoints
Inference Optimization Techniques
- Batching strategies
- Concurrent request handling
- Latency and throughput tuning
Autoscaling ML Workloads
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPU Provisioning and Resource Management
- Configuring GPU nodes
- NVIDIA device plugin overview
- Resource requests and limits for ML workloads
Model Rollout and Release Strategies
- Blue/green deployments
- Canary rollout patterns
- A/B testing for model evaluation
Monitoring and Observability for ML in Production
- Metrics for inference workloads
- Logging and tracing practices
- Dashboards and alerting
Security and Reliability Considerations
- Securing model endpoints
- Network policies and access control
- Ensuring high availability
Summary and Next Steps
Wymagania
- An understanding of containerized application workflows
- Experience with Python-based machine learning models
- Familiarity with Kubernetes fundamentals
Audience
- ML engineers
- DevOps engineers
- Platform engineering teams
Opinie uczestników (5)
był cierpliwy i rozumiał, że zostajemy w tyle
Albertina - REGNOLOGY ROMANIA S.R.L.
Szkolenie - Deploying Kubernetes Applications with Helm
Przetłumaczone przez sztuczną inteligencję
Jak Interaktywny Reda wyjaśniałby informacje i zachęcał nas do uczestnictwa. Przekazywałby też ciekawe fakty drogąą i dzielił się wszystką swoją wiedzą. Reda ma znakomite umiejętności komunikacyjne, co sprawia, że szkolenie online jest naprawdę skuteczne.
Janine - BMW SA
Szkolenie - Kubernetes Advanced
Przetłumaczone przez sztuczną inteligencję
Interaktywny sposób prowadzenia szkolenia.
Krzysztof Kupisz - Kredyt Inkaso S.A. Centrum Operacyjne w Lublinie
Szkolenie - Managing Kubernetes with Rancher
Szkolenie było bardziej praktyczne
Siphokazi Biyana - Vodacom SA
Szkolenie - Kubernetes on AWS
Przetłumaczone przez sztuczną inteligencję
Uczysz się o Kubernetes.
Felix Bautista - SGS GULF LIMITED ROHQ
Szkolenie - Kubernetes on Azure (AKS)
Przetłumaczone przez sztuczną inteligencję