Plan Szkolenia
Podstawy systemów agencjalnych w środowisku produkcyjnym
- Architektury agencjalne: pętle, narzędzia, pamięć i warstwy orchestracji
- Cykl życia agentów: rozwój, wdrożenie i ciągła operacja
- Wyzwania zarządzania agentami na skalę produkcyjną
Infrastruktura i modele wdrożenia
- Wdrażanie agentów w środowiskach konteneryzowanych i chmurowych
- wzorce skalowania: poziome a pionowe skalowanie, współbieżność i ograniczanie prędkości
- Orchestrowanie wielu agentów i równoważenie obciążeń
Monitorowanie i obserwowalność
- Kluczowe wskaźniki: opóźnienie, stopa powodów, zużycie pamięci i głębokość wywołań agentów
- Śledzenie aktywności agentów i grafów wywołań
- Instrumentowanie obserwowalności za pomocą Prometheus, OpenTelemetry i Grafana
Rejestrowanie, audyt i zgodność
- Centralne rejestrowanie i zbieranie zdarzeń strukturalnych
- Zgodność i audyty w przepływach pracy agencjalnych
- Projektowanie ścieżek auditowych i mechanizmów odgrywania dla debugowania
Optymalizacja wydajności i zasobów
- Redukcja nadmiarowego obciążenia wnioskowania i optymalizacja cykli orchestracji agentów
- Buforowanie modeli i lekkie osadzenia dla szybszego pobierania
- Testowanie obciążenia i scenariusze stresowe dla potoków AI
Kontrola kosztów i zarządzanie
- Zrozumienie czynników wpływających na koszty agentów: wywołania API, pamięć, zasoby obliczeniowe i integracje zewnętrzne
- Śledzenie kosztów na poziomie agenta i implementacja modeli odbicia kosztów
- Polityki automatyzacji, aby zapobiec rozwijaniu się agentów i zużyciu nieużywanych zasobów
Strategie CI/CD i wdrażania dla agentów
- Integracja potoków agentów z systemami CI/CD
- Testowanie, wersjonowanie i strategie cofania dla iteracyjnych aktualizacji agentów
- Postępujące wdrażanie i bezpieczne mechanizmy wdrażania
Odzyskiwanie po awarii i inżynieria niezawodności
- Projektowanie systemów z tolerancją na błędy i łagodnym degradacją
- Wzorce ponownego próbowania, limitowania czasu oczekiwania i przerw łączności dla niezawodności agentów
- Ramy reagowania na incydenty i analizy post-mortem dla operacji AI
Projekt końcowy
- Budowanie i wdrażanie systemu AI agencjalnego z pełnym monitorowaniem i śledzeniem kosztów
- Symulacja obciążenia, mierzenie wydajności i optymalizacja zużycia zasobów
- Prezentowanie końcowej architektury i pulpitu monitorowania przed kolegami
Podsumowanie i kolejne kroki
Wymagania
- Silne zrozumienie MLOps i systemów produkcyjnych uczenia maszynowego
- Doświadczenie w wdrożeniach konteneryzowanych (Docker/Kubernetes)
- Znajomość optymalizacji kosztów chmury i narzędzi do obserwowalności
Odbiorcy kursu
- Inżynierowie MLOps
- Inżynierowie niezawodności serwisowej (SREs)
- Menadzerzy inżynieryjni nadzorujący infrastrukturę AI
Opinie uczestników (3)
Dobra mieszanka wiedzy i praktyki
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Agentic AI for Enterprise Applications
Przetłumaczone przez sztuczną inteligencję
Mieszanina teorii i praktyki oraz perspektyw na poziomie wysokim i niskim
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Autonomous Decision-Making with Agentic AI
Przetłumaczone przez sztuczną inteligencję
praktyczne ćwiczenia
Daniel - Facultatea S.A.I.A.P.M.
Szkolenie - Agentic AI in Multi-Agent Systems
Przetłumaczone przez sztuczną inteligencję