Plan Szkolenia
Wprowadzenie do wnioskowania AI z Dockerem
- Zrozumienie obciążeń związanych z wnioskowaniem AI
- Korzyści płynące z konteneryzowanego wnioskowania
- Scenariusze wdrażania i ograniczenia
Budowanie kontenerów wnioskowania AI
- Wybór obrazów bazowych i frameworków
- Pakowanie wstępnie wytrenowanych modeli
- Strukturyzowanie kodu wnioskowania pod kątem wykonania w kontenerze
Zabezpieczanie skonteneryzowanych usług AI
- Minimalizowanie powierzchni ataku kontenera
- Zarządzanie sekretami i wrażliwymi plikami
- Bezpieczne strategie udostępniania sieci i API
Techniki przenośnego wdrażania
- Optymalizowanie obrazów pod kątem przenośności
- Zapewnianie przewidywalnych środowisk uruchomieniowych
- Zarządzanie zależnościami między platformami
Lokalne wdrażanie i testowanie
- Uruchamianie usług lokalnie z Dockerem
- Debugowanie kontenerów wnioskowania
- Testowanie wydajności i niezawodności
Wdrażanie na serwerach i wirtualnych maszynach w chmurze
- Dostosowywanie kontenerów do środowisk zdalnych
- Konfigurowanie bezpiecznego dostępu do serwera
- Wdrażanie interfejsów API wnioskowania na wirtualnych maszynach w chmurze
Używanie Docker Compose do wielousługowych systemów AI
- Orchestracja wnioskowania z komponentami wspierającymi
- Zarządzanie zmiennymi środowiskowymi i konfiguracjami
- Skalowanie mikrousług za pomocą Compose
Monitorowanie i utrzymanie usług wnioskowania AI
- Podejścia do logowania i obserwowalności
- Wykrywanie awarii w potokach wnioskowania
- Aktualizowanie i wersjonowanie modeli w produkcji
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie podstawowych pojęć dotyczących uczenia maszynowego
- Doświadczenie w programowaniu w Pythonie lub rozwoju backendowym
- Znajomość podstawowych pojęć dotyczących kontenerów
Grupa docelowa
- Programiści
- Inżynierowie backendowi
- Zespoły wdrażające usługi AI
Opinie uczestników (3)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
Jak trener skutecznie przekazuje wiedzę
Vu Thoai Le - Reply Polska sp. z o. o.
Szkolenie - Certified Kubernetes Administrator (CKA) - exam preparation
Przetłumaczone przez sztuczną inteligencję
trener miał dużo wiedzy i cierpliwości, które chciał z nami podzielić
Bogdan Olaru
Szkolenie - Introduction to Docker
Przetłumaczone przez sztuczną inteligencję