Plan Szkolenia
Wprowadzenie do wnioskowania AI za pomocą Docker
- Zrozumienie obciążeń pracy wnioskowania AI
- Korzyści z konteneryzowanego wnioskowania
- Scenariusze i ograniczenia wdrażania
Tworzenie kontenerów wnioskowania AI
- Wybieranie obrazów podstawowych i frameworków
- Pakowanie wytrenowanych modeli
- Struktura kodu wnioskowania dla wykonania w kontenerze
Bezpieczne usługi AI w kontenerach
- Minimalizacja powierzchni ataku kontenera
- Zarządzanie sekretami i plikami poufnymi
- Bezpieczne strategie sieciowe i expose API
Techniki przenośnego wdrażania
- Optymalizacja obrazów dla przenośności
- Zapewnienie przewidywalnych środowisk uruchomieniowych
- Zarządzanie zależnościami między platformami
Lokalne wdrażanie i testowanie
- Uruchamianie usług lokalnych za pomocą Docker
- Debugowanie kontenerów wnioskowania
- Testowanie wydajności i niezawodności
Wdrażanie na serwerach i wirtualnych maszynach w chmurze
- Adaptacja kontenerów do zdalnych środowisk
- Konfigurowanie bezpiecznego dostępu do serwera
- Wdrażanie API wnioskowania na wirtualnych maszynach w chmurze
Używanie Docker Compose do wielo-serwisowych systemów AI
- Orchestracja wnioskowania z komponentami wsparcia
- Zarządzanie zmiennymi środowiskowymi i konfiguracjami
- Skalowanie mikroserwisów za pomocą Compose
Monitorowanie i utrzymanie usług wnioskowania AI
- Metody logowania i monitorowania
- Wykrywanie awarii w potokach wnioskowania
- Aktualizowanie i wersjonowanie modeli w produkcyjnym środowisku
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie podstawowych pojęć machine learningu
- Doświadczenie z Pythonem lub programowaniem backend
- Familiarity with foundational container concepts (Znajomość podstawowych koncepcji kontenerów)
Grupa docelowa
- Deweloperzy
- Inżynierowie backend
- Zespoły wdrażające usługi AI
Opinie uczestników (5)
Interaktywny sposób prowadzenia szkolenia.
Krzysztof Kupisz - Kredyt Inkaso S.A. Centrum Operacyjne w Lublinie
Szkolenie - Managing Kubernetes with Rancher
Cała specyfika szkolenia, tj. praktyczne (poprzez pisanie kodu, konfiguracji) zaznajamianie się z tematyką szkolenia
Adam Dereszewski - ATOS PGS sp. z o.o.
Szkolenie - Building Microservices with Spring Cloud and Docker
Bardzo informacyjny i trafiony w sedno. Praktyka w działaniu.
Gil Matias - FINEOS
Szkolenie - Introduction to Docker
Przetłumaczone przez sztuczną inteligencję
Najbardziej podobały mi się przykłady, które uzupełniały teorię na prezentacji.
Milosz Galazka - LPP S.A.
Szkolenie - OpenShift for Administrators
Laboratorium i dyskusje techniczne.
Dinesh Panchal - AXA XL
Szkolenie - Advanced Docker
Przetłumaczone przez sztuczną inteligencję