Plan Szkolenia

Podstawy systemów agencjalnych w środowisku produkcyjnym

  • Architektury agencjalne: pętle, narzędzia, pamięć i warstwy orchestracji
  • Cykl życia agentów: rozwój, wdrożenie i ciągła operacja
  • Wyzwania zarządzania agentami na skalę produkcyjną

Infrastruktura i modele wdrożenia

  • Wdrażanie agentów w środowiskach konteneryzowanych i chmurowych
  • wzorce skalowania: poziome a pionowe skalowanie, współbieżność i ograniczanie prędkości
  • Orchestrowanie wielu agentów i równoważenie obciążeń

Monitorowanie i obserwowalność

  • Kluczowe wskaźniki: opóźnienie, stopa powodów, zużycie pamięci i głębokość wywołań agentów
  • Śledzenie aktywności agentów i grafów wywołań
  • Instrumentowanie obserwowalności za pomocą Prometheus, OpenTelemetry i Grafana

Rejestrowanie, audyt i zgodność

  • Centralne rejestrowanie i zbieranie zdarzeń strukturalnych
  • Zgodność i audyty w przepływach pracy agencjalnych
  • Projektowanie ścieżek auditowych i mechanizmów odgrywania dla debugowania

Optymalizacja wydajności i zasobów

  • Redukcja nadmiarowego obciążenia wnioskowania i optymalizacja cykli orchestracji agentów
  • Buforowanie modeli i lekkie osadzenia dla szybszego pobierania
  • Testowanie obciążenia i scenariusze stresowe dla potoków AI

Kontrola kosztów i zarządzanie

  • Zrozumienie czynników wpływających na koszty agentów: wywołania API, pamięć, zasoby obliczeniowe i integracje zewnętrzne
  • Śledzenie kosztów na poziomie agenta i implementacja modeli odbicia kosztów
  • Polityki automatyzacji, aby zapobiec rozwijaniu się agentów i zużyciu nieużywanych zasobów

Strategie CI/CD i wdrażania dla agentów

  • Integracja potoków agentów z systemami CI/CD
  • Testowanie, wersjonowanie i strategie cofania dla iteracyjnych aktualizacji agentów
  • Postępujące wdrażanie i bezpieczne mechanizmy wdrażania

Odzyskiwanie po awarii i inżynieria niezawodności

  • Projektowanie systemów z tolerancją na błędy i łagodnym degradacją
  • Wzorce ponownego próbowania, limitowania czasu oczekiwania i przerw łączności dla niezawodności agentów
  • Ramy reagowania na incydenty i analizy post-mortem dla operacji AI

Projekt końcowy

  • Budowanie i wdrażanie systemu AI agencjalnego z pełnym monitorowaniem i śledzeniem kosztów
  • Symulacja obciążenia, mierzenie wydajności i optymalizacja zużycia zasobów
  • Prezentowanie końcowej architektury i pulpitu monitorowania przed kolegami

Podsumowanie i kolejne kroki

Wymagania

  • Silne zrozumienie MLOps i systemów produkcyjnych uczenia maszynowego
  • Doświadczenie w wdrożeniach konteneryzowanych (Docker/Kubernetes)
  • Znajomość optymalizacji kosztów chmury i narzędzi do obserwowalności

Odbiorcy kursu

  • Inżynierowie MLOps
  • Inżynierowie niezawodności serwisowej (SREs)
  • Menadzerzy inżynieryjni nadzorujący infrastrukturę AI
 21 godzin

Liczba uczestników


Cena za uczestnika

Opinie uczestników (3)

Propozycje terminów

Powiązane Kategorie