Plan Szkolenia
Dzień 1
Anatomia nowoczesnego agenta AI
Poza chatbotami: agenty jako autonomiczne systemy rozumowania i działania
Paradigmy agentów reaktywnych, proaktywnych, hybrydowych i ukierunkowanych na cele
Podstawowe komponenty: percepcja, planowanie, pamięć, wykorzystanie narzędzi, działanie
Kompromisy w projektowaniu systemów jedno- i wieloagentowych
Frameworki agentów i nowoczesny stos technologiczny
LangChain, LlamaIndex, AutoGen, CrewAI i ich kompromisy
Porównanie z klasycznymi frameworkami, takimi jak JADE i SPADE
Wybór frameworka na podstawie wymagań produkcyjnych
Wykonywanie narzędzi, wywoływanie funkcji i strukturalne wyniki
Praktyczne: tworzenie pojedynczego agenta w Pythonie z wywołaniami narzędzi
Architektury systemów wieloagentowych
Projekty MAS: scentralizowane, zdecentralizowane, hybrydowe i warstwowe
FIPA ACL, przekazywanie wiadomości i ich nowoczesne odpowiedniki
Wzorce koordynacji: planowanie, negocjacje, synchronizacja
Zachowania emergentne i samoorganizacja w populacjach agentów
Podejmowanie decyzji i uczenie się w agentach
Teoria gier w interakcjach kooperacyjnych i konkurencyjnych agentów
Uczenie przez wzmacnianie w środowiskach wieloagentowych
Transfer uczenia i dzielenie się wiedzą między agentami
Rozwiązywanie konfliktów i zaufanie między koordynującymi agentami
Dzień 2
Podstawy wielomodalne dla agentów
Wielomodalne AI jako zintegrowany przepływ pracy w obszarach tekstu, obrazu, mowy i wideo
Wiodące modele wielomodalne: GPT-4 Vision, Gemini, Claude, Whisper
Techniki fuzji łączące modalności w pętli rozumowania agenta
Kompromisy w zakresie opóźnienia, kosztów i dokładności w potokach wielomodalnych
Budowa warstwy percepcji
Przetwarzanie obrazu dla agentów: klasyfikacja, podpisywanie, wykrywanie obiektów
Rozpoznawanie mowy z Whisper ASR i transkrypcja strumieniowa
Synteza mowy z tekstu i naturalna interakcja głosowa
Łączenie wyników percepcji z rozumowaniem opartym na LLM i wyborem narzędzi
Praktyczne - Budowa wielomodalnego agenta w Pythonie
Definiowanie zadania agenta, okna kontekstowego i zestawu narzędzi
Integracja GPT-4 Vision i Whisper API od końca do końca
Implementacja pamięci, stanu i zarządzania rozmową
Dodawanie wywołań narzędzi, które bezpiecznie wywołują efekty uboczne w świecie rzeczywistym
Praktyczne - Koordynacja systemu wieloagentowego
Tworzenie wyspecjalizowanych agentów za pomocą AutoGen lub CrewAI
Definiowanie ról, odpowiedzialności i protokołów komunikacji między agentami
Alokacja zasobów i koordynacja w symulowanym środowisku
Rejestrowanie rozumowania agentów, wywołań narzędzi i decyzji do inspekcji i audytu
Dzień 3
Powierzchnia zagrożeń produkcyjnych agentów AI
Czym agentyczne AI różni się pod względem podatności od tradycyjnego oprogramowania
Powierzchnia ataku: warstwy danych, modelu, promptów, narzędzi, wyjść i interfejsów
Modelowanie zagrożeń dla systemów opartych na agentach z autonomicznym użyciem narzędzi
Porównanie praktyk cyberbezpieczeństwa AI z tradycyjnymi praktykami cyberbezpieczeństwa
Praktyczne ataki przeciwnikowe
Przykłady przeciwnikowe i metody perturbacji: FGSM, PGD, DeepFool
Scenariusze ataków white-box i black-box
Ataki inwersji modelu i wnioskowania o członkostwie
Zatruwanie danych i iniekcja backdoorów podczas treningu
Wstrzykiwanie promptów, jailbreaking i nadużycia narzędzi w agentach opartych na LLM
Techniki obronne i utwardzanie modeli
Strategie treningu przeciwnikowego i augmentacji danych
Destylacja obronna i inne techniki zwiększające odporność
Przetwarzanie wstępne danych, maskowanie gradientów i regularyzacja
Różnicowa prywatność, iniekcja szumu i budżety prywatności
Uczenie federacyjne i bezpieczna agregacja w rozproszonym treningu
Praktyczne z Adversarial Robustness Toolbox
Symulowanie ataków na wielomodalnego agenta zbudowanego w Dniu 2
Pomiar odporności na perturbacje i kwantyfikacja degradacji
Iteracyjne stosowanie obron i ponowne ocenianie skuteczności ataków
Testowanie ścieżek wywołań narzędzi i wektorów wstrzykiwania promptów
Dzień 4
Frameworki zarządzania ryzykiem w AI
NIST AI Risk Management Framework: zarządzanie, mapowanie, pomiar, kontrola
ISO/IEC 42001 i nowe standardy specyficzne dla AI
Mapowanie ryzyka AI na istniejące frameworki GRC przedsiębiorstw
Wymagania dotyczące odpowiedzialności, audytowalności i dokumentacji AI
Zgodność regulacyjna dla systemów agentycznych
Unijna ustawa o sztucznej inteligencji: poziomy ryzyka, zakazy i obowiązki dla systemów wysokiego ryzyka
Implikacje RODO i CCPA dla potoków danych agentów
Rozporządzenie wykonawcze USA dotyczące bezpiecznej, godnej zaufania sztucznej inteligencji
Wytyczne sektorowe dla finansów, opieki zdrowotnej i usług publicznych
Ryzyko związane z dostawcami i użycie narzędzi AI przez strony trzecie
Etyka, uprzedzenia i wyjaśnialność
Wykrywanie i łagodzenie uprzedzeń w percepcji i rozumowaniu agentów
Wyjaśnialność i przejrzystość jako właściwości związane z bezpieczeństwem
Sprawiedliwość, szkody pośrednie i odpowiedzialne wdrażanie
Projektowanie inkluzywnego, audytowalnego zachowania agentów
Wdrożenie produkcyjne, monitorowanie i reagowanie na incydenty
Bezpieczne wzorce wdrażania dla systemów jedno- i wieloagentowych
Ciągłe monitorowanie dryfu, anomalii i nadużyć
Rejestrowanie, ślady audytowe i gotowość do analizy działań agentów
Playbooki reagowania na incydenty bezpieczeństwa AI i odzyskiwanie
Studia przypadków rzeczywistych naruszeń AI i wnioski
Capstone i synteza
Przegląd wielomodalnego systemu wieloagentowego zbudowanego w trakcie kursu
Przegląd end-to-end: projektowanie, budowa, zabezpieczenia, zarządzanie, wdrożenie
Samodzielna ocena systemu pod kątem funkcji NIST AI RMF
Perspektywa na przyszłość dotycząca trendów w agentycznym AI i bezpieczeństwie AI
Podsumowanie i kolejne kroki
Wymagania
Docelowi odbiorcy
Inżynierowie i architekci AI budujący systemy agentowe do zastosowań produkcyjnych. Specjaliści ds. cyberbezpieczeństwa, ryzyka i zgodności odpowiedzialni za zapewnienie jakości AI w regulowanych branżach, takich jak finanse, opieka zdrowotna i konsulting. Starszy programiści i liderzy rozwiązań integrujący możliwości wielomodalne i wieloagentowe w platformach przedsiębiorstw.
Opinie uczestników (3)
Trener jest cierpliwy i bardzo pomocny. Doskonale zna temat.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Szkolenie - Agentic AI for Business Automation: Use Cases & Integration
Przetłumaczone przez sztuczną inteligencję
Dobra mieszanka wiedzy i praktyki
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Agentic AI for Enterprise Applications
Przetłumaczone przez sztuczną inteligencję
Mieszanina teorii i praktyki oraz perspektyw na poziomie wysokim i niskim
Ion Mironescu - Facultatea S.A.I.A.P.M.
Szkolenie - Autonomous Decision-Making with Agentic AI
Przetłumaczone przez sztuczną inteligencję