Plan Szkolenia
Podstawy hybrydowego wdrażania AI
- Zrozumienie modeli wdrażania hybrydowego, chmurowego i edge
- Charakterystyka obciążeń AI i ograniczenia infrastruktury
- Wybór odpowiedniej topologii wdrażania
Konteneryzacja obciążeń AI z Dockerem
- Tworzenie kontenerów wnioskowania GPU i CPU
- Zarządzanie bezpiecznymi obrazami i rejestrami
- Implementacja powtarzalnych środowisk dla AI
Wdrażanie usług AI w środowiskach chmurowych
- Uruchamianie wnioskowania na AWS, Azure i GCP za pomocą Dockera
- Przygotowywanie zasobów chmurowych do obsługi modeli
- Zabezpieczanie punktów końcowych AI w chmurze
Techniki wdrażania na urządzeniach edge i lokalnie
- Uruchamianie AI na urządzeniach IoT, bramach i mikrosystemach
- Lekkie środowiska uruchomieniowe dla edge
- Zarządzanie przerywaną łącznością i lokalną trwałością
Hybrydowe sieci i bezpieczna łączność
- Bezpieczne tunelowanie między edge a chmurą
- Certyfikaty, sekrety i dostęp oparty na tokenach
- Optymalizacja wydajności dla wnioskowania o niskich opóźnieniach
Orkiestracja rozproszonych wdrożeń AI
- Używanie K3s, K8s lub lekkich narzędzi orkiestracji do konfiguracji hybrydowych
- Odkrywanie usług i planowanie obciążeń
- Automatyzacja strategii wdrażania w wielu lokalizacjach
Monitorowanie i obserwowalność w różnych środowiskach
- Śledzenie wydajności wnioskowania w różnych lokalizacjach
- Centralizowane logowanie dla hybrydowych systemów AI
- Wykrywanie awarii i automatyczne odzyskiwanie
Skalowanie i optymalizacja hybrydowych systemów AI
- Skalowanie klastrów edge i węzłów chmurowych
- Optymalizacja wykorzystania pasma i buforowania
- Równoważenie obciążeń obliczeniowych między chmurą a edge
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie koncepcji konteneryzacji
- Doświadczenie w pracy z linią poleceń Linux
- Znajomość przepływów pracy wdrażania modeli AI
Grupa docelowa
- Architekci infrastruktury
- Inżynierowie Site Reliability (SRE)
- Programiści Edge i IoT
Opinie uczestników (3)
Zaangażowanie i otwartość na rozszerzanie dyskusji o tematy związane z zakresem szkolenia ale ze specyfiką naszej firmy
Michal Koscinski - Volkswagen Poznan Sp. z o.o.
Szkolenie - Docker, Kubernetes and OpenShift 3 for Administrators
Jak trener skutecznie przekazuje wiedzę
Vu Thoai Le - Reply Polska sp. z o. o.
Szkolenie - Certified Kubernetes Administrator (CKA) - exam preparation
Przetłumaczone przez sztuczną inteligencję
trener miał dużo wiedzy i cierpliwości, które chciał z nami podzielić
Bogdan Olaru
Szkolenie - Introduction to Docker
Przetłumaczone przez sztuczną inteligencję