Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Czas trwania 21 godzin
Plan Szkolenia
Podstawy: Modele zagrożeń dla agentic AI
- Typy zagrożeń agentic: nadużycie, eskalacja, wyciek danych i ryzyka łańcucha dostaw
- Profil adwersarza i zdolności atakujących specyficzne dla autonomicznych agentów
- Mapowanie aktywów, granic zaufania i kluczowych punktów kontroli dla agentów
Ład korporacyjny, polityka i zarządzanie ryzykiem
- Ramy zarządzania dla systemów agentic (role, odpowiedzialności, bramki zatwierdzenia)
- Projektowanie polityki: akceptowalne użycie, zasady eskalacji, przetwarzanie danych i audytowalność
- Rozważania dotyczące zgodności i zbieranie dowodów do audytów
Tożsamość nie-ludzka i uwierzytelnianie dla agentów
- Projektowanie tożsamości dla agentów: konta usług, JWT i krótkoterminowe poświadczenia
- Wzorce dostępu o najmniejszych przywilejach i poświadczenia just-in-time
- Cykl życia tożsamości, rotacja, delegacja i strategie odwołania
Kontrola dostępu, sekrety i ochrona danych
- Modeli kontroli dostępu o granularności i wzorce oparte na zdolnościach dla agentów
- Zarządzanie sekretami, szyfrowanie w tranzycie i w spoczynku, minimalizacja danych
- Ochrona wrażliwych źródeł wiedzy i PII przed nieautoryzowanym dostępem agentów
Obserwowalność, audytowanie i reagowanie na incydenty
- Projektowanie telemetrii dla zachowania agentów: śledzenie intencji, logi komend i pochodzenie
- Integracja z SIEM, progi alertów i gotowość do forensiki
- Książki procedur i playbooki dla incydentów związanych z agentami i izolacja
Red-teaming systemów agentic
- Planowanie ćwiczeń red-team: zakres, zasady interakcji i bezpieczne odwracanie
- Techniki adwarsarialne: iniekcja promptów, nadużycie narzędzi, manipulacja łańcuchem myślenia i nadużycie API
- Przeprowadzanie kontrolowanych ataków i mierzenie ekspozycji i wpływu
Wzmacnianie i mitigacja
- Kontrole inżynieryjne: przepustowość odpowiedzi, bramkowanie zdolności i sandboxing
- Kontrole polityki i orkiestracji: przepływy zatwierdzania, human-in-the-loop i haki zarządzania
- Ochrony na poziomie modelu i promptu: walidacja wejścia, kanonizacja i filtry wyjściowe
Operacjonalizacja bezpiecznych wdrożeń agentów
- Wzorce wdrożeń: staging, canary i stopniowe wdrożenie dla agentów
- Kontrola zmian, linie testowe i weryfikacje bezpieczeństwa przed wdrożeniem
- Ład międzyfunkcyjny: playbooki dla bezpieczeństwa, prawnego, produktu i operacji
Zaawansowany: Ćwiczenie Red-Team / Blue-Team
- Wykonaj symulowany atak red-team przeciwko środowisku agentów w sandboxie
- Obroń, wykryj i napraw jako zespół blue team, używając kontroli i telemetrii
- Prezentuj wyniki, plan napraw i aktualizacje polityki
Podsumowanie i następne kroki
Wymagania
- Solidne podstawy w zakresie inżynierii bezpieczeństwa, administracji systemami lub operacji chmurowych
- Znajomość pojęć AI/ML i zachowania dużych modeli językowych (LLM)
- Doświadczenie w zarządzaniu tożsamością i dostępem (IAM) oraz bezpiecznym projektowaniu systemów
Grupa docelowa
- Inżynierowie bezpieczeństwa i członkowie zespołów red-team
- Inżynierowie operacji AI i inżynierowie platform
- Inspektorzy zgodności i zarządzający ryzykiem
- Prowadzący zespoły inżynieryjne odpowiedzialni za wdrożenia agentów
Opinie uczestników (1)
inwentaryzacja oraz identyfikacja różnych rodzajów ryzyka w obszarze AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Szkolenie - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Przetłumaczone przez sztuczną inteligencję