Plan Szkolenia
Podstawy wdrażania hybrydowego AI
- Zrozumienie modeli wdrażania hybrydowych, chmurowych i na brzegu sieci
- Cechy obciążeń AI i ograniczenia infrastruktury
- Wybieranie odpowiedniej topologii wdrożenia
Konteneryzacja obciążeń AI z Dockerem
- Budowanie kontenerów wnioskowania GPU i CPU
- Zarządzanie bezpiecznymi obrazami i rejestrami
- Implementacja reprodukowalnych środowisk dla AI
Wdrażanie usług AI w środowiskach chmurowych
- Prowadzenie wnioskowania na AWS, Azure i GCP poprzez Docker
- Zapewnianie zasobów obliczeniowych w chmurze dla serwowania modeli
- Zabezpieczanie punktów końcowych AI w chmurze
Techniki wdrażania na brzegu sieci i lokalnie
- Prowadzenie AI na urządzeniach IoT, bramach i mikroserwerach
- Lekkie środowiska uruchomieniowe dla brzegu sieci
- Zarządzanie przerywaną łącznością i lokalną persistencją
Hybrydowa sieć i bezpieczne połączenia
- Bezpieczne tunelowanie między brzegiem a chmurą
- Certyfikaty, tajne dane (secrets) i dostęp oparty na tokenach
- Optymalizacja wydajności dla wnioskowania o niskich opóźnieniach
Orkiestracja rozproszonych wdrożeń AI
- Używanie K3s, K8s lub lekkiej orkiestracji dla konfiguracji hybrydowych
- Wykrywanie usług i planowanie obciążeń
- Automatyzacja strategii rozproszenia w wielu lokalizacjach
Nadzór i widoczność (observability) w różnych środowiskach
- Śledzenie wydajności wnioskowania między lokalizacjami
- Centralizowane logowanie dla hybrydowych systemów AI
- Wykrywanie awarii i automatyczne odzyskiwanie
Skalowanie i optymalizacja hybrydowych systemów AI
- Skalowanie klastrów na brzegu sieci i węzłów chmurowych
- Optymalizacja użycia pasma i pamięci podręcznej (caching)
- Bilansowanie obciążeń obliczeniowych między chmurą a brzegiem sieci
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie pojęcia konteneryzacji
- Doświadczenie z działaniami w wierszu poleceń systemu Linux
- Znajomość przepływów pracy dotyczących wdrażania modeli AI
Grupa docelowa
- Architekci infrastruktury
- Inżynierowie niezawodności witryn (SRE)
- Deweloperzy brzegu sieci i IoT
Opinie uczestników (2)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
Szkolenie spełniło oczekiwania dzięki wyraźnym wyjaśnieniom, przykładom z prawdziwego życia i praktycznym laboratoriom, które sprawiły, że skomplikowane tematy stały się łatwe do zrozumienia. Dostarczyło cennych wskazówek na temat orkiestrowania kontenerów, bezpieczeństwa, skalowania oraz wielu innych zaawansowanych tematów.
Anna Wyszomirska-Szmyd - Akamai
Szkolenie - Docker and Kubernetes advanced
Przetłumaczone przez sztuczną inteligencję