Bądźmy w kontakcie

Plan Szkolenia

Landszaft zagrożeń AI

  • Dlaczego bezpieczeństwo AI jest inne: niedeterminizm, nieprzejrzysta logika myślowa, prompt jako powierzchnia ataku
  • Taksonomia ataków: ataki w czasie trenowania, wnioskowania (inference) oraz naruszenia łańcucha dostaw
  • Model przeciwnika ML: kto atakuje systemy AI i dlaczego

OWASP Top 10 dla aplikacji LLM

  • Iniekcja promptów: bezpośrednie i pośrednie wektory ataku
  • Niewłaściwe przetwarzanie wyjść i fałszowanie żądań między wtyczkami
  • Trucie danych treningowych i luki w łańcuchu dostaw
  • Odmowa usługi (DoS) modeli, ujawnianie poufnych informacji oraz nadmierne uprawnienia agencji
  • Szkolenie laboratoryjne: wykorzystanie każdej kategorii OWASP wobec aplikacji testowej

Czerwony Team w zakresie iniekcji promptów i jailbreaku

  • Taksologia technik iniekcji: bezpośrednia, pośrednia, wieloetapowa (multi-turn) oraz multimodalna
  • Zautomatyzowane red-teaming z wykorzystaniem Giskard, Garak oraz narzędzi do customowego fuzzingu
  • Klasyfikacja jailbreaków i ocena skuteczności obrony
  • Tworzenie platformy red-team do ciągłego testowania bezpieczeństwa LLM

Ataki na poziomie modelu i ich obrona

  • Eksfiltracja modeli: kradzież wag modelu i funkcjonalności poprzez zapytania API
  • Wnioskowanie przynależności (membership inference): określenie, czy dane znajdowały się w zbiorze treningowym
  • Dane adversarialne: perturbacje oszukujące klasyfikatory i wbudowania wektorowe (embeddings)
  • Trucie danych: skażenie danych treningowych w celu wprowadzenia backdoorów lub obniżenia wydajności

Kontrola bezpieczeństwa wejść i wyjść

  • Sanitizacja danych wejściwych wykraczająca poza tradycyjne obrony webowe
  • Filtrowanie wyjść: toksyczność, wyciek danych PII, wykonanie kodu generowanego przez halucynacje
  • Ograniczniki (guardrails) jako infrastruktura bezpieczeństwa: NeMo, Guardrails AI oraz customowe zasady
  • Wymuszenie strukturalnych wyjść jako granicy bezpieczeństwa

Bezpieczeństwo łańcucha dostaw AI

  • Pochodzenie modeli: weryfikacja autentyczności i integralności modeli
  • Skanowanie zależności dla frameworków ML i formatów modeli
  • Bezpieczne serwowanie modeli: piaskownice (sandboxing), izolacja sieciowa oraz zasada najmniejszych przywilejów
  • Weryfikacja modeli fine-tuned i społecznościowych pod kątem ukrytego złośliwego kodu

Operacyjne bezpieczeństwo systemów AI

  • Kontrola dostępu dla punktów końcowych (endpointów) modeli, magazynów wektorowych i narzędzi agentów
  • Dzienniki audytu każdej interakcji z modelem i podjętej decyzji
  • Reagowanie na incydenty związane z naruszeniami specyficznymi dla AI: gdy sam model zostanie skompromitowany
  • Ciągłe testy bezpieczeństwa w CI/CD dla potoków ML

Budowanie programu bezpieczeństwa AI

  • Model dojrzałości bezpieczeństwa AI i mapa drogowa
  • Integracja bezpieczeństwa AI z istniejącymi programami AppSec i bezpieczeństwa chmury
  • Ramowe zarządzanie (governance) i rosnące regulacje dotyczące systemów AI
  • Opracowywanie i utrzymywanie organizacyjnej instrukcji bezpieczeństwa AI

Wymagania

  • Doświadczenie we wdrażaniu modeli ML lub aplikacji LLM w środowisku produkcyjnym.
  • Znajomość koncepcji bezpieczeństwa, w tym uwierzytelniania, autoryzacji i modelowania zagrożeń.
  • Biegłość w programowaniu w Pythonie do ćwiczeń testów adversarialnych.

Grupa docelowa

  • Inżynierowie ds. bezpieczeństwa rozszerzający swoją wiedzę o powierzchnie zagrożeń AI/ML.
  • Inżynierowie ML odpowiedzialni za bezpieczeństwo modeli i ich odporność.
  • Członkowie zespołów red-team, którzy włączają systemy AI do zakresu swoich testów.
 14 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie