Bądźmy w kontakcie
 Czas trwania 21 godzin

Plan Szkolenia

Podstawy: Modele zagrożeń dla agentic AI

  • Typy zagrożeń agentic: nadużycie, eskalacja, wyciek danych i ryzyka łańcucha dostaw
  • Profil adwersarza i zdolności atakujących specyficzne dla autonomicznych agentów
  • Mapowanie aktywów, granic zaufania i kluczowych punktów kontroli dla agentów

Ład korporacyjny, polityka i zarządzanie ryzykiem

  • Ramy zarządzania dla systemów agentic (role, odpowiedzialności, bramki zatwierdzenia)
  • Projektowanie polityki: akceptowalne użycie, zasady eskalacji, przetwarzanie danych i audytowalność
  • Rozważania dotyczące zgodności i zbieranie dowodów do audytów

Tożsamość nie-ludzka i uwierzytelnianie dla agentów

  • Projektowanie tożsamości dla agentów: konta usług, JWT i krótkoterminowe poświadczenia
  • Wzorce dostępu o najmniejszych przywilejach i poświadczenia just-in-time
  • Cykl życia tożsamości, rotacja, delegacja i strategie odwołania

Kontrola dostępu, sekrety i ochrona danych

  • Modeli kontroli dostępu o granularności i wzorce oparte na zdolnościach dla agentów
  • Zarządzanie sekretami, szyfrowanie w tranzycie i w spoczynku, minimalizacja danych
  • Ochrona wrażliwych źródeł wiedzy i PII przed nieautoryzowanym dostępem agentów

Obserwowalność, audytowanie i reagowanie na incydenty

  • Projektowanie telemetrii dla zachowania agentów: śledzenie intencji, logi komend i pochodzenie
  • Integracja z SIEM, progi alertów i gotowość do forensiki
  • Książki procedur i playbooki dla incydentów związanych z agentami i izolacja

Red-teaming systemów agentic

  • Planowanie ćwiczeń red-team: zakres, zasady interakcji i bezpieczne odwracanie
  • Techniki adwarsarialne: iniekcja promptów, nadużycie narzędzi, manipulacja łańcuchem myślenia i nadużycie API
  • Przeprowadzanie kontrolowanych ataków i mierzenie ekspozycji i wpływu

Wzmacnianie i mitigacja

  • Kontrole inżynieryjne: przepustowość odpowiedzi, bramkowanie zdolności i sandboxing
  • Kontrole polityki i orkiestracji: przepływy zatwierdzania, human-in-the-loop i haki zarządzania
  • Ochrony na poziomie modelu i promptu: walidacja wejścia, kanonizacja i filtry wyjściowe

Operacjonalizacja bezpiecznych wdrożeń agentów

  • Wzorce wdrożeń: staging, canary i stopniowe wdrożenie dla agentów
  • Kontrola zmian, linie testowe i weryfikacje bezpieczeństwa przed wdrożeniem
  • Ład międzyfunkcyjny: playbooki dla bezpieczeństwa, prawnego, produktu i operacji

Zaawansowany: Ćwiczenie Red-Team / Blue-Team

  • Wykonaj symulowany atak red-team przeciwko środowisku agentów w sandboxie
  • Obroń, wykryj i napraw jako zespół blue team, używając kontroli i telemetrii
  • Prezentuj wyniki, plan napraw i aktualizacje polityki

Podsumowanie i następne kroki

Wymagania

  • Solidne podstawy w zakresie inżynierii bezpieczeństwa, administracji systemami lub operacji chmurowych
  • Znajomość pojęć AI/ML i zachowania dużych modeli językowych (LLM)
  • Doświadczenie w zarządzaniu tożsamością i dostępem (IAM) oraz bezpiecznym projektowaniu systemów

Grupa docelowa

  • Inżynierowie bezpieczeństwa i członkowie zespołów red-team
  • Inżynierowie operacji AI i inżynierowie platform
  • Inspektorzy zgodności i zarządzający ryzykiem
  • Prowadzący zespoły inżynieryjne odpowiedzialni za wdrożenia agentów

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (1)

Propozycje terminów

Powiązane Kategorie