Plan Szkolenia
Wprowadzenie do wnioskowania AI z Dockerem
- Rozumienie obciążeń związanych z wnioskowaniem AI
- Korzyści płynące z konteneryzacji wnioskowania
- Scenariusze i ograniczenia wdrożenia
Budowanie kontenerów dla wnioskowania AI
- Wybieranie obrazów bazowych i frameworków
- Pakowanie modeli wcześniejszego wytrenowania (pretrained)
- Strukturyzowanie kodu wnioskowania do wykonania w kontenerze
Zabezpieczanie konteneryzowanych usług AI
- Ograniczanie powierzchni ataku kontenerów
- Zarządzanie tajnymi danymi (secrets) i plikami poufnymi
- Bezpieczne strategie eksponowania sieci i interfejsów API
Techniki przenośnego wdrożenia
- Optymalizacja obrazów pod kątem przenośności
- Zapewnienie przewidywalnych środowisk wykonawczych
- Zarządzanie zależnościami na różnych platformach
Wdrożenie lokalne i testowanie
- Uruchamianie usług lokalnie za pomocą Docker
- Rozwiązywanie problemów (debugging) kontenerów wnioskowania
- Testowanie wydajności i niezawodności
Wdrażanie na serwerach i wirtualnych maszynach w chmurze (VM)
- Dostosowywanie kontenerów do środowń zdalnych
- Konfiguracja bezpiecznego dostępu do serwera
- Wdrażanie interfejsów API wnioskowania na wirtualnych maszynach w chmurze
Używanie Docker Compose dla wielousługowych systemów AI
- Koordynacja wnioskowania z innymi wspierającymi komponentami
- Zarządzanie zmiennymi środowiskowymi i konfiguracjami
- Skalowanie mikroserwisów za pomocą Compose
Nadzór i konserwacja usług wnioskowania AI
- Podejścia do logowania i obserwacji (observability)
- Wykrywanie awarii w potokach wnioskowania
- Aktualizowanie i wersjonowanie modeli w produkcji
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie podstawowych pojęć uczenia maszynowego
- Doświadczenie w pracy z Pythonem lub programowaniem backendowym
- Wiedza na temat podstawowych koncepcji konteneryzacji
Grupa docelowa
- Programiści
- Inżynierowie backendu
- Zespoły wdrażające usługi AI
Opinie uczestników (2)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
Szkolenie spełniło oczekiwania dzięki wyraźnym wyjaśnieniom, przykładom z prawdziwego życia i praktycznym laboratoriom, które sprawiły, że skomplikowane tematy stały się łatwe do zrozumienia. Dostarczyło cennych wskazówek na temat orkiestrowania kontenerów, bezpieczeństwa, skalowania oraz wielu innych zaawansowanych tematów.
Anna Wyszomirska-Szmyd - Akamai
Szkolenie - Docker and Kubernetes advanced
Przetłumaczone przez sztuczną inteligencję