Plan Szkolenia

Wprowadzenie do wnioskowania AI z Dockerem

  • Zrozumienie obciążeń związanych z wnioskowaniem AI
  • Korzyści płynące z konteneryzowanego wnioskowania
  • Scenariusze wdrażania i ograniczenia

Budowanie kontenerów wnioskowania AI

  • Wybór obrazów bazowych i frameworków
  • Pakowanie wstępnie wytrenowanych modeli
  • Strukturyzowanie kodu wnioskowania pod kątem wykonania w kontenerze

Zabezpieczanie skonteneryzowanych usług AI

  • Minimalizowanie powierzchni ataku kontenera
  • Zarządzanie sekretami i wrażliwymi plikami
  • Bezpieczne strategie udostępniania sieci i API

Techniki przenośnego wdrażania

  • Optymalizowanie obrazów pod kątem przenośności
  • Zapewnianie przewidywalnych środowisk uruchomieniowych
  • Zarządzanie zależnościami między platformami

Lokalne wdrażanie i testowanie

  • Uruchamianie usług lokalnie z Dockerem
  • Debugowanie kontenerów wnioskowania
  • Testowanie wydajności i niezawodności

Wdrażanie na serwerach i wirtualnych maszynach w chmurze

  • Dostosowywanie kontenerów do środowisk zdalnych
  • Konfigurowanie bezpiecznego dostępu do serwera
  • Wdrażanie interfejsów API wnioskowania na wirtualnych maszynach w chmurze

Używanie Docker Compose do wielousługowych systemów AI

  • Orchestracja wnioskowania z komponentami wspierającymi
  • Zarządzanie zmiennymi środowiskowymi i konfiguracjami
  • Skalowanie mikrousług za pomocą Compose

Monitorowanie i utrzymanie usług wnioskowania AI

  • Podejścia do logowania i obserwowalności
  • Wykrywanie awarii w potokach wnioskowania
  • Aktualizowanie i wersjonowanie modeli w produkcji

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie podstawowych pojęć dotyczących uczenia maszynowego
  • Doświadczenie w programowaniu w Pythonie lub rozwoju backendowym
  • Znajomość podstawowych pojęć dotyczących kontenerów

Grupa docelowa

  • Programiści
  • Inżynierowie backendowi
  • Zespoły wdrażające usługi AI
 14 godzin

Liczba uczestników


Cena za uczestnika

Opinie uczestników (5)

Propozycje terminów

Powiązane Kategorie