Plan Szkolenia

Wprowadzenie do wnioskowania AI za pomocą Docker

  • Zrozumienie obciążeń pracy wnioskowania AI
  • Korzyści z konteneryzowanego wnioskowania
  • Scenariusze i ograniczenia wdrażania

Tworzenie kontenerów wnioskowania AI

  • Wybieranie obrazów podstawowych i frameworków
  • Pakowanie wytrenowanych modeli
  • Struktura kodu wnioskowania dla wykonania w kontenerze

Bezpieczne usługi AI w kontenerach

  • Minimalizacja powierzchni ataku kontenera
  • Zarządzanie sekretami i plikami poufnymi
  • Bezpieczne strategie sieciowe i expose API

Techniki przenośnego wdrażania

  • Optymalizacja obrazów dla przenośności
  • Zapewnienie przewidywalnych środowisk uruchomieniowych
  • Zarządzanie zależnościami między platformami

Lokalne wdrażanie i testowanie

  • Uruchamianie usług lokalnych za pomocą Docker
  • Debugowanie kontenerów wnioskowania
  • Testowanie wydajności i niezawodności

Wdrażanie na serwerach i wirtualnych maszynach w chmurze

  • Adaptacja kontenerów do zdalnych środowisk
  • Konfigurowanie bezpiecznego dostępu do serwera
  • Wdrażanie API wnioskowania na wirtualnych maszynach w chmurze

Używanie Docker Compose do wielo-serwisowych systemów AI

  • Orchestracja wnioskowania z komponentami wsparcia
  • Zarządzanie zmiennymi środowiskowymi i konfiguracjami
  • Skalowanie mikroserwisów za pomocą Compose

Monitorowanie i utrzymanie usług wnioskowania AI

  • Metody logowania i monitorowania
  • Wykrywanie awarii w potokach wnioskowania
  • Aktualizowanie i wersjonowanie modeli w produkcyjnym środowisku

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie podstawowych pojęć machine learningu
  • Doświadczenie z Pythonem lub programowaniem backend
  • Familiarity with foundational container concepts (Znajomość podstawowych koncepcji kontenerów)

Grupa docelowa

  • Deweloperzy
  • Inżynierowie backend
  • Zespoły wdrażające usługi AI
 14 godzin

Liczba uczestników


cena netto za uczestnika

Opinie uczestników (5)

Propozycje terminów

Powiązane Kategorie