Bądźmy w kontakcie

Plan Szkolenia

Dzień 1
Anatomia nowoczesnego agenta AI

Poza chatbotami: agenty jako autonomiczne systemy rozumowania i działania

Paradigmy agentów reaktywnych, proaktywnych, hybrydowych i ukierunkowanych na cele

Podstawowe komponenty: percepcja, planowanie, pamięć, wykorzystanie narzędzi, działanie

Kompromisy w projektowaniu systemów jedno- i wieloagentowych

Frameworki agentów i nowoczesny stos technologiczny

LangChain, LlamaIndex, AutoGen, CrewAI i ich kompromisy

Porównanie z klasycznymi frameworkami, takimi jak JADE i SPADE

Wybór frameworka na podstawie wymagań produkcyjnych

Wykonywanie narzędzi, wywoływanie funkcji i strukturalne wyniki

Praktyczne: tworzenie pojedynczego agenta w Pythonie z wywołaniami narzędzi

Architektury systemów wieloagentowych

Projekty MAS: scentralizowane, zdecentralizowane, hybrydowe i warstwowe

FIPA ACL, przekazywanie wiadomości i ich nowoczesne odpowiedniki

Wzorce koordynacji: planowanie, negocjacje, synchronizacja

Zachowania emergentne i samoorganizacja w populacjach agentów

Podejmowanie decyzji i uczenie się w agentach

Teoria gier w interakcjach kooperacyjnych i konkurencyjnych agentów

Uczenie przez wzmacnianie w środowiskach wieloagentowych

Transfer uczenia i dzielenie się wiedzą między agentami

Rozwiązywanie konfliktów i zaufanie między koordynującymi agentami

Dzień 2
Podstawy wielomodalne dla agentów

Wielomodalne AI jako zintegrowany przepływ pracy w obszarach tekstu, obrazu, mowy i wideo

Wiodące modele wielomodalne: GPT-4 Vision, Gemini, Claude, Whisper

Techniki fuzji łączące modalności w pętli rozumowania agenta

Kompromisy w zakresie opóźnienia, kosztów i dokładności w potokach wielomodalnych

Budowa warstwy percepcji

Przetwarzanie obrazu dla agentów: klasyfikacja, podpisywanie, wykrywanie obiektów

Rozpoznawanie mowy z Whisper ASR i transkrypcja strumieniowa

Synteza mowy z tekstu i naturalna interakcja głosowa

Łączenie wyników percepcji z rozumowaniem opartym na LLM i wyborem narzędzi

Praktyczne - Budowa wielomodalnego agenta w Pythonie

Definiowanie zadania agenta, okna kontekstowego i zestawu narzędzi

Integracja GPT-4 Vision i Whisper API od końca do końca

Implementacja pamięci, stanu i zarządzania rozmową

Dodawanie wywołań narzędzi, które bezpiecznie wywołują efekty uboczne w świecie rzeczywistym

Praktyczne - Koordynacja systemu wieloagentowego

Tworzenie wyspecjalizowanych agentów za pomocą AutoGen lub CrewAI

Definiowanie ról, odpowiedzialności i protokołów komunikacji między agentami

Alokacja zasobów i koordynacja w symulowanym środowisku

Rejestrowanie rozumowania agentów, wywołań narzędzi i decyzji do inspekcji i audytu

Dzień 3
Powierzchnia zagrożeń produkcyjnych agentów AI

Czym agentyczne AI różni się pod względem podatności od tradycyjnego oprogramowania

Powierzchnia ataku: warstwy danych, modelu, promptów, narzędzi, wyjść i interfejsów

Modelowanie zagrożeń dla systemów opartych na agentach z autonomicznym użyciem narzędzi

Porównanie praktyk cyberbezpieczeństwa AI z tradycyjnymi praktykami cyberbezpieczeństwa

Praktyczne ataki przeciwnikowe

Przykłady przeciwnikowe i metody perturbacji: FGSM, PGD, DeepFool

Scenariusze ataków white-box i black-box

Ataki inwersji modelu i wnioskowania o członkostwie

Zatruwanie danych i iniekcja backdoorów podczas treningu

Wstrzykiwanie promptów, jailbreaking i nadużycia narzędzi w agentach opartych na LLM

Techniki obronne i utwardzanie modeli

Strategie treningu przeciwnikowego i augmentacji danych

Destylacja obronna i inne techniki zwiększające odporność

Przetwarzanie wstępne danych, maskowanie gradientów i regularyzacja

Różnicowa prywatność, iniekcja szumu i budżety prywatności

Uczenie federacyjne i bezpieczna agregacja w rozproszonym treningu

Praktyczne z Adversarial Robustness Toolbox

Symulowanie ataków na wielomodalnego agenta zbudowanego w Dniu 2

Pomiar odporności na perturbacje i kwantyfikacja degradacji

Iteracyjne stosowanie obron i ponowne ocenianie skuteczności ataków

Testowanie ścieżek wywołań narzędzi i wektorów wstrzykiwania promptów

Dzień 4
Frameworki zarządzania ryzykiem w AI

NIST AI Risk Management Framework: zarządzanie, mapowanie, pomiar, kontrola

ISO/IEC 42001 i nowe standardy specyficzne dla AI

Mapowanie ryzyka AI na istniejące frameworki GRC przedsiębiorstw

Wymagania dotyczące odpowiedzialności, audytowalności i dokumentacji AI

Zgodność regulacyjna dla systemów agentycznych

Unijna ustawa o sztucznej inteligencji: poziomy ryzyka, zakazy i obowiązki dla systemów wysokiego ryzyka

Implikacje RODO i CCPA dla potoków danych agentów

Rozporządzenie wykonawcze USA dotyczące bezpiecznej, godnej zaufania sztucznej inteligencji

Wytyczne sektorowe dla finansów, opieki zdrowotnej i usług publicznych

Ryzyko związane z dostawcami i użycie narzędzi AI przez strony trzecie

Etyka, uprzedzenia i wyjaśnialność

Wykrywanie i łagodzenie uprzedzeń w percepcji i rozumowaniu agentów

Wyjaśnialność i przejrzystość jako właściwości związane z bezpieczeństwem

Sprawiedliwość, szkody pośrednie i odpowiedzialne wdrażanie

Projektowanie inkluzywnego, audytowalnego zachowania agentów

Wdrożenie produkcyjne, monitorowanie i reagowanie na incydenty

Bezpieczne wzorce wdrażania dla systemów jedno- i wieloagentowych

Ciągłe monitorowanie dryfu, anomalii i nadużyć

Rejestrowanie, ślady audytowe i gotowość do analizy działań agentów

Playbooki reagowania na incydenty bezpieczeństwa AI i odzyskiwanie

Studia przypadków rzeczywistych naruszeń AI i wnioski

Capstone i synteza

Przegląd wielomodalnego systemu wieloagentowego zbudowanego w trakcie kursu

Przegląd end-to-end: projektowanie, budowa, zabezpieczenia, zarządzanie, wdrożenie

Samodzielna ocena systemu pod kątem funkcji NIST AI RMF

Perspektywa na przyszłość dotycząca trendów w agentycznym AI i bezpieczeństwie AI

Podsumowanie i kolejne kroki

Wymagania

Docelowi odbiorcy

Inżynierowie i architekci AI budujący systemy agentowe do zastosowań produkcyjnych. Specjaliści ds. cyberbezpieczeństwa, ryzyka i zgodności odpowiedzialni za zapewnienie jakości AI w regulowanych branżach, takich jak finanse, opieka zdrowotna i konsulting. Starszy programiści i liderzy rozwiązań integrujący możliwości wielomodalne i wieloagentowe w platformach przedsiębiorstw.

 28 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (3)

Propozycje terminów

Powiązane Kategorie