Bądźmy w kontakcie

Plan Szkolenia

Dzień 1
Anatomia nowoczesnego agenta AI

Poza chatbotami: agenty jako autonomiczne systemy rozumowania i działania

Paradygmaty agentów reaktywnych, proaktywnych, hybrydowych i ukierunkowanych na cele

Podstawowe komponenty: percepcja, planowanie, pamięć, użycie narzędzi, działanie

Kompromisy w projektowaniu systemów jednoagentowych a wieloagentowych

Frameworki agentowe i nowoczesny stos technologiczny

LangChain, LlamaIndex, AutoGen, CrewAI i ich kompromisy

Porównanie z klasycznymi frameworkami, takimi jak JADE i SPADE

Wybór frameworka na podstawie wymagań produkcyjnych

Wywołania narzędzi, wywołania funkcji i strukturalne wyniki

Warsztaty: tworzenie szkieletu pojedynczego agenta w Pythonie z wywołaniami narzędzi

Architektury systemów wieloagentowych

Projekty MAS scentralizowane, zdecentralizowane, hybrydowe i warstwowe

FIPA ACL, przekazywanie komunikatów i nowoczesne odpowiedniki

Wzorce koordynacji: planowanie, negocjacje, synchronizacja

Zachowania emergentne i samoorganizacja w populacjach agentów

Podejmowanie decyzji i uczenie się w agentach

Teoria gier w interakcjach kooperacyjnych i konkurencyjnych agentów

Uczenie ze wzmocnieniem w środowiskach wieloagentowych

Transferowanie wiedzy i dzielenie się nią między agentami

Rozwiązywanie konfliktów i zaufanie między koordynującymi agentami

Dzień 2
Podstawy wielomodalne dla agentów

Wielomodalne AI jako zunifikowany przepływ pracy obejmujący tekst, obraz, mowę i wideo

Wiodące modele wielomodalne: GPT-4 Vision, Gemini, Claude, Whisper

Techniki fuzji łączące modalności w pętli rozumowania agenta

Kompromisy dotyczące opóźnienia, kosztów i dokładności w potokach wielomodalnych

Budowa warstwy percepcji

Przetwarzanie obrazu dla agentów: klasyfikacja, podpisywanie, wykrywanie obiektów

Rozpoznawanie mowy za pomocą Whisper ASR i transkrypcja strumieniowa

Synteza mowy na tekst i naturalna interakcja głosowa

Łączenie wyników percepcji z rozumowaniem opartym na LLM i wyborem narzędzi

Warsztaty - Budowa wielomodalnego agenta w Pythonie

Definiowanie zadania agenta, okna kontekstowego i inwentarza narzędzi

Podłączanie interfejsów API GPT-4 Vision i Whisper end-to-end

Implementowanie pamięci, stanu i zarządzania konwersacją

Dodawanie wywołań narzędzi, które bezpiecznie powodują skutki w świecie rzeczywistym

Warsztaty - Koordynacja systemu wieloagentowego

Komponowanie wyspecjalizowanych agentów za pomocą AutoGen lub CrewAI

Definiowanie ról, odpowiedzialności i protokołów komunikacji między agentami

Alokacja zasobów i koordynacja w symulowanym środowisku

Logowanie rozumowania, wywołań narzędzi i decyzji agentów do inspekcji i audytu

Dzień 3
Powierzchnia zagrożeń dla produkcyjnych agentów AI

Co sprawia, że agentowe AI jest szczególnie podatne na ataki w porównaniu z tradycyjnym oprogramowaniem

Powierzchnia ataku: warstwy danych, modelu, promptu, narzędzi, wyników i interfejsu

Modelowanie zagrożeń dla systemów opartych na agentach z autonomicznym użyciem narzędzi

Porównanie praktyk cyberbezpieczeństwa AI z tradycyjnym cyberbezpieczeństwem

Warsztaty z atakami adversarjalnymi

Przykłady adversarjalne i metody perturbacji: FGSM, PGD, DeepFool

Scenariusze ataków white-box a black-box

Ataki inwersji modelu i wnioskowania o członkostwie

Zatruwanie danych i iniekcja backdoorów podczas treningu

Iniekcja promptów, jailbreaking i nadużycie narzędzi w agentach opartych na LLM

Techniki obronne i utwardzanie modeli

Strategie szkolenia adversarjalnego i augmentacji danych

Destylacja obronna i inne techniki zwiększające odporność

Przetwarzanie wstępne danych, maskowanie gradientów i regularyzacja

Różnicowa prywatność, iniekcja szumu i budżety prywatności

Uczenie federacyjne i bezpieczna agregacja w rozproszonym treningu

Warsztaty z Adversarial Robustness Toolbox

Symulowanie ataków na wielomodalnego agenta zbudowanego w Dniu 2

Pomiar odporności na perturbacje i kwantyfikacja degradacji

Iteracyjne stosowanie obron i ponowne ocenianie wskaźników sukcesu ataków

Testowanie odporności ścieżek wywołań narzędzi i wektorów iniekcji promptów

Dzień 4
Frameworki zarządzania ryzykiem dla AI

NIST AI Risk Management Framework: zarządzanie, mapowanie, pomiar, zarządzanie

ISO/IEC 42001 i powstające standardy specyficzne dla AI

Mapowanie ryzyka AI na istniejące frameworki GRC przedsiębiorstw

Wymagania dotyczące odpowiedzialności, audytowalności i dokumentacji AI

Zgodność regulacyjna dla systemów agentowych

Ustawa o AI UE: poziomy ryzyka, zakazane zastosowania i obowiązki dla systemów wysokiego ryzyka

Implikacje RODO i CCPA dla potoków danych agentów

Rozporządzenie wykonawcze USA dotyczące bezpiecznego, godnego zaufania i odpowiedzialnego AI

Wytyczne sektorowe dla finansów, opieki zdrowotnej i usług publicznych

Ryzyko związane z dostawcami i użyciem narzędzi AI przez podwykonawców

Etyka, uprzedzenia i wyjaśnialność

Wykrywanie i łagodzenie uprzedzeń w percepcji i rozumowaniu agentów

Wyjaśnialność i przejrzystość jako właściwości istotne dla bezpieczeństwa

Sprawiedliwość, szkody wynikające i odpowiedzialne wdrażanie

Projektowanie inkluzywnego, audytowalnego zachowania agentów

Wdrażanie produkcyjne, monitorowanie i reagowanie na incydenty

Bezpieczne wzorce wdrażania dla systemów jedno- i wieloagentowych

Ciągłe monitorowanie pod kątem dryfu, anomalii i nadużyć

Logowanie, ślady audytowe i gotowość do analizy forensycznej działań agentów

Playbooki reagowania na incydenty bezpieczeństwa AI i odzyskiwanie

Studia przypadków rzeczywistych naruszeń AI i wnioski

Projekt końcowy i synteza

Przegląd wielomodalnego systemu wieloagentowego zbudowanego podczas kursu

Przegląd end-to-end: projektowanie, budowa, zabezpieczenie, zarządzanie, wdrożenie

Samodzielna ocena systemu pod kątem funkcji NIST AI RMF

Perspektywa na przyszłość dotycząca trendów w agentowym AI i bezpieczeństwie AI

Podsumowanie i kolejne kroki

Wymagania

Docelowa grupa odbiorców

Inżynierowie i architekci AI budujący systemy agentowe do użytku produkcyjnego. Specjaliści ds. cyberbezpieczeństwa, ryzyka i zgodności odpowiedzialni za zapewnienie jakości AI w regulowanych branżach, takich jak finanse, opieka zdrowotna i konsulting. Starszy programiści i liderzy rozwiązań wdrażający możliwości wielomodalne i wieloagentowe w platformach przedsiębiorstw.

 28 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (3)

Propozycje terminów

Powiązane Kategorie