Plan Szkolenia
Wprowadzenie do konteneryzacji przyspieszanej GPU
- Zrozumienie użycia GPU w procesach uczenia głębokiego
- Jak Docker wspiera obciążenia oparte na GPU
- Podstawowe aspekty wydajności
Instalacja i konfiguracja NVIDIA Container Toolkit
- Ustawianie sterowników i kompatybilności CUDA
- Walidacja dostępu do GPU wewnątrz kontenerów
- Konfigurowanie środowiska runtime
Tworzenie obrazów Docker obsługujących GPU
- Wykorzystywanie obrazów bazowych CUDA
- Pakowanie frameworków AI w kontenery gotowe do pracy z GPU
- Zarządzanie zależnościami dla trenowania i wnioskowania
Uruchamianie obciążeń AI przyspieszanych GPU
- Wykonywanie zadań trenujących za pomocą GPU
- Zarządzanie obciążeniami z wieloma GPU
- Monitorowanie wykorzystania GPU
Optymalizacja wydajności i alokacji zasobów
- Ograniczanie i izolacja zasobów GPU
- Optymalizacja pamięci, rozmiaru partii i rozmieszczenia urządzeń
- Dostrojenie wydajności i diagnostyka
Zkonteneryzowane wnioskowanie i serwowanie modeli
- Tworzenie kontenerów gotowych do wnioskowania
- Obsługa obciążeń o wysokim natężeniu na GPU
- Integracja uruchomiaczy modeli i API
Skalowanie obciążeń GPU z Dockerem
- Strategie dystrybuowanego trenowania GPU
- Skalowanie usług mikroserwisów do wnioskowania
- Koordynacja systemów AI z wieloma kontenerami
Bezpieczeństwo i niezawodność kontenerów obsługujących GPU
- Zapewnienie bezpiecznego dostępu do GPU w środowiskach współdzielonych
- Wzmocnienie obrazów kontenerów
- Zarządzanie aktualizacjami, wersjami i kompatybilnością
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie podstaw uczenia głębokiego
- Doświadczenie z Pythonem i popularnymi frameworkami AI
- Znajomość podstawowych pojęć z zakresu konteneryzacji
Grupa docelowa
- Inżynierowie uczenia głębokiego
- Zespoły badawczo-rozwojowe
- Specjaliści od trenowania modeli AI
Opinie uczestników (2)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
Szkolenie spełniło oczekiwania dzięki wyraźnym wyjaśnieniom, przykładom z prawdziwego życia i praktycznym laboratoriom, które sprawiły, że skomplikowane tematy stały się łatwe do zrozumienia. Dostarczyło cennych wskazówek na temat orkiestrowania kontenerów, bezpieczeństwa, skalowania oraz wielu innych zaawansowanych tematów.
Anna Wyszomirska-Szmyd - Akamai
Szkolenie - Docker and Kubernetes advanced
Przetłumaczone przez sztuczną inteligencję