Bądźmy w kontakcie

Plan Szkolenia

Wprowadzenie do wnioskowania AI z Dockerem

  • Rozumienie obciążeń związanych z wnioskowaniem AI
  • Korzyści płynące z konteneryzacji wnioskowania
  • Scenariusze i ograniczenia wdrożenia

Budowanie kontenerów dla wnioskowania AI

  • Wybieranie obrazów bazowych i frameworków
  • Pakowanie modeli wcześniejszego wytrenowania (pretrained)
  • Strukturyzowanie kodu wnioskowania do wykonania w kontenerze

Zabezpieczanie konteneryzowanych usług AI

  • Ograniczanie powierzchni ataku kontenerów
  • Zarządzanie tajnymi danymi (secrets) i plikami poufnymi
  • Bezpieczne strategie eksponowania sieci i interfejsów API

Techniki przenośnego wdrożenia

  • Optymalizacja obrazów pod kątem przenośności
  • Zapewnienie przewidywalnych środowisk wykonawczych
  • Zarządzanie zależnościami na różnych platformach

Wdrożenie lokalne i testowanie

  • Uruchamianie usług lokalnie za pomocą Docker
  • Rozwiązywanie problemów (debugging) kontenerów wnioskowania
  • Testowanie wydajności i niezawodności

Wdrażanie na serwerach i wirtualnych maszynach w chmurze (VM)

  • Dostosowywanie kontenerów do środowń zdalnych
  • Konfiguracja bezpiecznego dostępu do serwera
  • Wdrażanie interfejsów API wnioskowania na wirtualnych maszynach w chmurze

Używanie Docker Compose dla wielousługowych systemów AI

  • Koordynacja wnioskowania z innymi wspierającymi komponentami
  • Zarządzanie zmiennymi środowiskowymi i konfiguracjami
  • Skalowanie mikroserwisów za pomocą Compose

Nadzór i konserwacja usług wnioskowania AI

  • Podejścia do logowania i obserwacji (observability)
  • Wykrywanie awarii w potokach wnioskowania
  • Aktualizowanie i wersjonowanie modeli w produkcji

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie podstawowych pojęć uczenia maszynowego
  • Doświadczenie w pracy z Pythonem lub programowaniem backendowym
  • Wiedza na temat podstawowych koncepcji konteneryzacji

Grupa docelowa

  • Programiści
  • Inżynierowie backendu
  • Zespoły wdrażające usługi AI
 14 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (2)

Propozycje terminów

Powiązane Kategorie