Plan Szkolenia
Fundamenty systemów agentowych w produkcji
- Architektury agentowe: pętle, narzędzia, pamięć i warstwy orkiestracji.
- Cykł życia agentów: rozwój, wdrażanie i ciągła eksploatacja.
- Wyzwania związane z zarządzaniem agentami w skali produkcyjnej.
Infrastruktura i modele wdrażania
- Wdrażanie agentów w środowiskach konteneryzowanych i chmurowych.
- Wzorce skalowania: skalowanie poziome vs pionowe, współbieżność i ograniczanie przepływu (throttling).
- Orkiestracja wielu agentów i balansowanie obciążeń.
Monitorowanie i obserwowalność
- Kluczowe metryki: opóźnienia, wskaźnik sukcesu, zużycie pamięci i głębokość wywołań agentów.
- Śledzenie aktywności agentów i grafów wywołań.
- Instrumentacja obserwowalności za pomocą Prometheus, OpenTelemetry i Grafana.
Logowanie, audytowanie i zgodność
- Centralne logowanie i strukturizacja zbierania zdarzeń.
- Zgodność i możliwość audytowania w przepływach pracy agentowych.
- Projektowanie śladów audytowych i mechanizmów odtwarzania (replay) do debugowania.
Tuning wydajności i optymalizacja zasobów
- Redukcja nakładów na inferencję i optymalizacja cykli orkiestracji agentów.
- Buforowanie modeli (model caching) i lekkie wektory (embeddings) dla szybszego wyszukiwania.
- Testy obciążeniowe i scenariusze stresowe dla potoków AI.
Kontrola kosztów i governance
- Rozumienie czynników kosztowych agentów: wywołania API, pamięć, obliczenia i integracje zewnętrzne.
- Śledzenie kosztów na poziomie agenta i wdrażanie modeli chargeback.
- Polityki automatyzacji zapobiegające rozprzestrzenianiu się agentów i marnotrawieniu zasobów.
CI/CD i strategie wdrażania dla agentów
- Integrowanie potoków agentowych z systemami CI/CD.
- Testowanie, wersjonowanie i strategie wycofywania (rollback) dla iteracyjnych aktualizacji agentów.
- Stopniowe wdrażanie i bezpieczne mechanizmy deploymentu.
Odzyskiwanie po awariach i inżynieria niezawodności
- Projektowanie z myślą o tolerancji na błędy i łagodnym degradacji (graceful degradation).
- Wzorce powtórzeń (retry), limitów czasu (timeout) i wyłącznika obwodu (circuit breaker) dla niezawodności agentów.
- Reagowanie na incydenty i ramy post-mortem dla operacji AI.
Projekt końcowy (Capstone)
- Tworzenie i wdrażanie systemu agentowego AI z pełnym monitorowaniem i śledzeniem kosztów.
- Symulacja obciążenia, pomiar wydajności i optymalizacja zużycia zasobów.
- Prezentacja ostatecznej architektury i dashboardu monitoringu innym uczestnikom.
Podsumowanie i kolejne kroki
Wymagania
- Zaawansowana znajomość MLOps i systemów uczenia maszynowego w produkcji.
- Doświadczenie we wdrażaniu konteneryzowanym (Docker/Kubernetes).
- Znajomość optymalizacji kosztów w chmurze oraz narzędzi do obserwowalności.
Grupa docelowa
- Inżynierowie MLOps.
- Inżynierowie niezawodności serwisu (SRE).
- Menedżerowie inżynieryjni nadzorujący infrastrukturę AI.
Opinie uczestników (3)
Trener jest cierpliwy i bardzo pomocny. Doskonale zna temat.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Szkolenie - Agentic AI for Business Automation: Use Cases & Integration
Przetłumaczone przez sztuczną inteligencję
Dobra mieszanka wiedzy i praktyki
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Agentic AI for Enterprise Applications
Przetłumaczone przez sztuczną inteligencję
Mieszanina teorii i praktyki oraz perspektyw na poziomie wysokim i niskim
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Autonomous Decision-Making with Agentic AI
Przetłumaczone przez sztuczną inteligencję