Plan Szkolenia
Wprowadzenie do konteneryzacji z akceleracją GPU
- Zrozumienie wykorzystania GPU w przepływach pracy uczenia głębokiego
- Jak Docker wspiera obciążenia oparte na GPU
- Kluczowe kwestie wydajnościowe
Instalacja i konfiguracja NVIDIA Container Toolkit
- Konfigurowanie sterowników i zgodności z CUDA
- Weryfikacja dostępu do GPU wewnątrz kontenerów
- Konfigurowanie środowiska wykonawczego
Tworzenie obrazów Docker z obsługą GPU
- Korzystanie z obrazów bazowych CUDA
- Pakowanie frameworków AI w kontenerach gotowych na GPU
- Zarządzanie zależnościami do trenowania i wnioskowania
Uruchamianie obciążeń AI z akceleracją GPU
- Wykonywanie zadań treningowych z użyciem GPU
- Zarządzanie obciążeniami na wielu GPU
- Monitorowanie wykorzystania GPU
Optymalizacja wydajności i alokacji zasobów
- Ograniczanie i izolowanie zasobów GPU
- Optymalizacja pamięci, rozmiarów partii i rozmieszczenia urządzeń
- Strojenie wydajności i diagnostyka
Wnioskowanie w kontenerach i udostępnianie modeli
- Tworzenie kontenerów gotowych do wnioskowania
- Obsługa obciążeń o wysokim natężeniu na GPU
- Integracja mechanizmów uruchamiania modeli i interfejsów API
Skalowanie obciążeń GPU za pomocą Dockera
- Strategie rozproszonego trenowania na GPU
- Skalowanie mikrousług wnioskowania
- Koordynowanie wielokontenerowych systemów AI
Bezpieczeństwo i niezawodność kontenerów z obsługą GPU
- Zapewnianie bezpiecznego dostępu do GPU w środowiskach współdzielonych
- Wzmacnianie obrazów kontenerów
- Zarządzanie aktualizacjami, wersjami i zgodnością
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie podstaw uczenia głębokiego
- Doświadczenie w pracy z Pythonem i popularnymi frameworkami AI
- Znajomość podstawowych pojęć związanych z konteneryzacją
Grupa docelowa
- Inżynierowie uczenia głębokiego
- Zespoły badawczo-rozwojowe
- Osoby trenujące modele AI
Opinie uczestników (2)
Jak już mówiłem wcześniej, dla osoby takiej jak ja (bez doświadczenia) był to punkt wyjścia do zrozumienia funkcji i możliwości tych programów/narzędzi itd.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Szkolenie - Docker and Kubernetes
Przetłumaczone przez sztuczną inteligencję
wielopoziomowy, ustrukturyzowany program kursu.
Bert Paelinckx - Cube SoftwareSolutions
Szkolenie - Introduction to Docker
Przetłumaczone przez sztuczną inteligencję