Bądźmy w kontakcie

Plan Szkolenia

Podstawy wdrażania hybrydowego AI

  • Zrozumienie modeli wdrażania hybrydowych, chmurowych i na brzegu sieci
  • Cechy obciążeń AI i ograniczenia infrastruktury
  • Wybieranie odpowiedniej topologii wdrożenia

Konteneryzacja obciążeń AI z Dockerem

  • Budowanie kontenerów wnioskowania GPU i CPU
  • Zarządzanie bezpiecznymi obrazami i rejestrami
  • Implementacja reprodukowalnych środowisk dla AI

Wdrażanie usług AI w środowiskach chmurowych

  • Prowadzenie wnioskowania na AWS, Azure i GCP poprzez Docker
  • Zapewnianie zasobów obliczeniowych w chmurze dla serwowania modeli
  • Zabezpieczanie punktów końcowych AI w chmurze

Techniki wdrażania na brzegu sieci i lokalnie

  • Prowadzenie AI na urządzeniach IoT, bramach i mikroserwerach
  • Lekkie środowiska uruchomieniowe dla brzegu sieci
  • Zarządzanie przerywaną łącznością i lokalną persistencją

Hybrydowa sieć i bezpieczne połączenia

  • Bezpieczne tunelowanie między brzegiem a chmurą
  • Certyfikaty, tajne dane (secrets) i dostęp oparty na tokenach
  • Optymalizacja wydajności dla wnioskowania o niskich opóźnieniach

Orkiestracja rozproszonych wdrożeń AI

  • Używanie K3s, K8s lub lekkiej orkiestracji dla konfiguracji hybrydowych
  • Wykrywanie usług i planowanie obciążeń
  • Automatyzacja strategii rozproszenia w wielu lokalizacjach

Nadzór i widoczność (observability) w różnych środowiskach

  • Śledzenie wydajności wnioskowania między lokalizacjami
  • Centralizowane logowanie dla hybrydowych systemów AI
  • Wykrywanie awarii i automatyczne odzyskiwanie

Skalowanie i optymalizacja hybrydowych systemów AI

  • Skalowanie klastrów na brzegu sieci i węzłów chmurowych
  • Optymalizacja użycia pasma i pamięci podręcznej (caching)
  • Bilansowanie obciążeń obliczeniowych między chmurą a brzegiem sieci

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie pojęcia konteneryzacji
  • Doświadczenie z działaniami w wierszu poleceń systemu Linux
  • Znajomość przepływów pracy dotyczących wdrażania modeli AI

Grupa docelowa

  • Architekci infrastruktury
  • Inżynierowie niezawodności witryn (SRE)
  • Deweloperzy brzegu sieci i IoT
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (2)

Propozycje terminów

Powiązane Kategorie