Plan Szkolenia
Dzień 1
Anatomia nowoczesnego agenta AI
Poza chatbotami: agenty jako autonomiczne systemy rozumowania i działania
Paradygmaty agentów reaktywnych, proaktywnych, hybrydowych i ukierunkowanych na cele
Podstawowe komponenty: percepcja, planowanie, pamięć, użycie narzędzi, działanie
Kompromisy w projektowaniu systemów jednoagentowych a wieloagentowych
Frameworki agentowe i nowoczesny stos technologiczny
LangChain, LlamaIndex, AutoGen, CrewAI i ich kompromisy
Porównanie z klasycznymi frameworkami, takimi jak JADE i SPADE
Wybór frameworka na podstawie wymagań produkcyjnych
Wywołania narzędzi, wywołania funkcji i strukturalne wyniki
Warsztaty: tworzenie szkieletu pojedynczego agenta w Pythonie z wywołaniami narzędzi
Architektury systemów wieloagentowych
Projekty MAS scentralizowane, zdecentralizowane, hybrydowe i warstwowe
FIPA ACL, przekazywanie komunikatów i nowoczesne odpowiedniki
Wzorce koordynacji: planowanie, negocjacje, synchronizacja
Zachowania emergentne i samoorganizacja w populacjach agentów
Podejmowanie decyzji i uczenie się w agentach
Teoria gier w interakcjach kooperacyjnych i konkurencyjnych agentów
Uczenie ze wzmocnieniem w środowiskach wieloagentowych
Transferowanie wiedzy i dzielenie się nią między agentami
Rozwiązywanie konfliktów i zaufanie między koordynującymi agentami
Dzień 2
Podstawy wielomodalne dla agentów
Wielomodalne AI jako zunifikowany przepływ pracy obejmujący tekst, obraz, mowę i wideo
Wiodące modele wielomodalne: GPT-4 Vision, Gemini, Claude, Whisper
Techniki fuzji łączące modalności w pętli rozumowania agenta
Kompromisy dotyczące opóźnienia, kosztów i dokładności w potokach wielomodalnych
Budowa warstwy percepcji
Przetwarzanie obrazu dla agentów: klasyfikacja, podpisywanie, wykrywanie obiektów
Rozpoznawanie mowy za pomocą Whisper ASR i transkrypcja strumieniowa
Synteza mowy na tekst i naturalna interakcja głosowa
Łączenie wyników percepcji z rozumowaniem opartym na LLM i wyborem narzędzi
Warsztaty - Budowa wielomodalnego agenta w Pythonie
Definiowanie zadania agenta, okna kontekstowego i inwentarza narzędzi
Podłączanie interfejsów API GPT-4 Vision i Whisper end-to-end
Implementowanie pamięci, stanu i zarządzania konwersacją
Dodawanie wywołań narzędzi, które bezpiecznie powodują skutki w świecie rzeczywistym
Warsztaty - Koordynacja systemu wieloagentowego
Komponowanie wyspecjalizowanych agentów za pomocą AutoGen lub CrewAI
Definiowanie ról, odpowiedzialności i protokołów komunikacji między agentami
Alokacja zasobów i koordynacja w symulowanym środowisku
Logowanie rozumowania, wywołań narzędzi i decyzji agentów do inspekcji i audytu
Dzień 3
Powierzchnia zagrożeń dla produkcyjnych agentów AI
Co sprawia, że agentowe AI jest szczególnie podatne na ataki w porównaniu z tradycyjnym oprogramowaniem
Powierzchnia ataku: warstwy danych, modelu, promptu, narzędzi, wyników i interfejsu
Modelowanie zagrożeń dla systemów opartych na agentach z autonomicznym użyciem narzędzi
Porównanie praktyk cyberbezpieczeństwa AI z tradycyjnym cyberbezpieczeństwem
Warsztaty z atakami adversarjalnymi
Przykłady adversarjalne i metody perturbacji: FGSM, PGD, DeepFool
Scenariusze ataków white-box a black-box
Ataki inwersji modelu i wnioskowania o członkostwie
Zatruwanie danych i iniekcja backdoorów podczas treningu
Iniekcja promptów, jailbreaking i nadużycie narzędzi w agentach opartych na LLM
Techniki obronne i utwardzanie modeli
Strategie szkolenia adversarjalnego i augmentacji danych
Destylacja obronna i inne techniki zwiększające odporność
Przetwarzanie wstępne danych, maskowanie gradientów i regularyzacja
Różnicowa prywatność, iniekcja szumu i budżety prywatności
Uczenie federacyjne i bezpieczna agregacja w rozproszonym treningu
Warsztaty z Adversarial Robustness Toolbox
Symulowanie ataków na wielomodalnego agenta zbudowanego w Dniu 2
Pomiar odporności na perturbacje i kwantyfikacja degradacji
Iteracyjne stosowanie obron i ponowne ocenianie wskaźników sukcesu ataków
Testowanie odporności ścieżek wywołań narzędzi i wektorów iniekcji promptów
Dzień 4
Frameworki zarządzania ryzykiem dla AI
NIST AI Risk Management Framework: zarządzanie, mapowanie, pomiar, zarządzanie
ISO/IEC 42001 i powstające standardy specyficzne dla AI
Mapowanie ryzyka AI na istniejące frameworki GRC przedsiębiorstw
Wymagania dotyczące odpowiedzialności, audytowalności i dokumentacji AI
Zgodność regulacyjna dla systemów agentowych
Ustawa o AI UE: poziomy ryzyka, zakazane zastosowania i obowiązki dla systemów wysokiego ryzyka
Implikacje RODO i CCPA dla potoków danych agentów
Rozporządzenie wykonawcze USA dotyczące bezpiecznego, godnego zaufania i odpowiedzialnego AI
Wytyczne sektorowe dla finansów, opieki zdrowotnej i usług publicznych
Ryzyko związane z dostawcami i użyciem narzędzi AI przez podwykonawców
Etyka, uprzedzenia i wyjaśnialność
Wykrywanie i łagodzenie uprzedzeń w percepcji i rozumowaniu agentów
Wyjaśnialność i przejrzystość jako właściwości istotne dla bezpieczeństwa
Sprawiedliwość, szkody wynikające i odpowiedzialne wdrażanie
Projektowanie inkluzywnego, audytowalnego zachowania agentów
Wdrażanie produkcyjne, monitorowanie i reagowanie na incydenty
Bezpieczne wzorce wdrażania dla systemów jedno- i wieloagentowych
Ciągłe monitorowanie pod kątem dryfu, anomalii i nadużyć
Logowanie, ślady audytowe i gotowość do analizy forensycznej działań agentów
Playbooki reagowania na incydenty bezpieczeństwa AI i odzyskiwanie
Studia przypadków rzeczywistych naruszeń AI i wnioski
Projekt końcowy i synteza
Przegląd wielomodalnego systemu wieloagentowego zbudowanego podczas kursu
Przegląd end-to-end: projektowanie, budowa, zabezpieczenie, zarządzanie, wdrożenie
Samodzielna ocena systemu pod kątem funkcji NIST AI RMF
Perspektywa na przyszłość dotycząca trendów w agentowym AI i bezpieczeństwie AI
Podsumowanie i kolejne kroki
Wymagania
Docelowa grupa odbiorców
Inżynierowie i architekci AI budujący systemy agentowe do użytku produkcyjnego. Specjaliści ds. cyberbezpieczeństwa, ryzyka i zgodności odpowiedzialni za zapewnienie jakości AI w regulowanych branżach, takich jak finanse, opieka zdrowotna i konsulting. Starszy programiści i liderzy rozwiązań wdrażający możliwości wielomodalne i wieloagentowe w platformach przedsiębiorstw.
Opinie uczestników (3)
Trener jest cierpliwy i bardzo pomocny. Doskonale zna temat.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Szkolenie - Agentic AI for Business Automation: Use Cases & Integration
Przetłumaczone przez sztuczną inteligencję
Dobra mieszanka wiedzy i praktyki
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Agentic AI for Enterprise Applications
Przetłumaczone przez sztuczną inteligencję
Mieszanina teorii i praktyki oraz perspektyw na poziomie wysokim i niskim
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Autonomous Decision-Making with Agentic AI
Przetłumaczone przez sztuczną inteligencję