Plan Szkolenia
Podstawy hybrydowego wdrażania AI
- Zrozumienie hybrydowych, chmurowych i brzegowych modeli wdrażania
- Charakterystyka obciążeń AI i ograniczenia infrastruktury
- Wybór właściwej topologii wdrożenia
Konteneryzacja obciążeń AI za pomocą Dockera
- Tworzenie kontenerów inferencyjnych wykorzystujących GPU i CPU
- Zarządzanie bezpiecznymi obrazami i rejestrami
- Wdrażanie powtarzalnych środowisk dla AI
Wdrażanie usług AI w środowiskach chmurowych
- Uruchamianie inferencji na AWS, Azure i GCP za pomocą Dockera
- Udostępnianie zasobów obliczeniowych w chmurze do serwowania modeli
- Zabezpieczanie chmurowych punktów końcowych AI
Techniki wdrażania brzegowego i lokalnego
- Uruchamianie AI na urządzeniach IoT, bramach i mikroserwerach
- Lekkie środowiska uruchomieniowe dla środowisk brzegowych
- Zarządzanie przerywaną łącznością i lokalną trwałością danych
Sieci hybrydowe i bezpieczna łączność
- Bezpieczne tunelowanie między środowiskiem brzegowym a chmurą
- Certyfikaty, sekrety i dostęp oparty na tokenach
- Strojenie wydajności pod kątem inferencji o niskich opóźnieniach
Orkiestracja rozproszonych wdrożeń AI
- Wykorzystanie K3s, K8s lub lekkiej orkiestracji w konfiguracjach hybrydowych
- Odnajdywanie usług i planowanie obciążeń
- Automatyzacja strategii wdrażania w wielu lokalizacjach
Monitorowanie i obserwowalność w różnych środowiskach
- Śledzenie wydajności inferencji w różnych lokalizacjach
- Scentralizowane logowanie dla hybrydowych systemów AI
- Wykrywanie awarii i automatyczne odzyskiwanie
Skalowanie i optymalizacja hybrydowych systemów AI
- Skalowanie klastrów brzegowych i węzłów chmurowych
- Optymalizacja wykorzystania przepustowości i buforowania
- Równoważenie obciążeń obliczeniowych między chmurą a środowiskiem brzegowym
Podsumowanie i dalsze kroki
Wymagania
- Zrozumienie koncepcji konteneryzacji
- Doświadczenie w obsłudze wiersza poleceń systemu Linux
- Znajomość przepływów pracy związanych z wdrażaniem modeli AI
Grupa docelowa
- Architekci infrastruktury
- Inżynierowie ds. niezawodności systemów (SRE)
- Deweloperzy rozwiązań brzegowych i IoT
Opinie uczestników (2)
Jak już mówiłem wcześniej, dla osoby takiej jak ja (bez doświadczenia) był to punkt wyjścia do zrozumienia funkcji i możliwości tych programów/narzędzi itd.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Szkolenie - Docker and Kubernetes
Przetłumaczone przez sztuczną inteligencję
wielopoziomowy, ustrukturyzowany program kursu.
Bert Paelinckx - Cube SoftwareSolutions
Szkolenie - Introduction to Docker
Przetłumaczone przez sztuczną inteligencję