Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Plan Szkolenia
Landszaft zagrożeń AI
- Dlaczego bezpieczeństwo AI jest inne: niedeterminizm, nieprzejrzysta logika myślowa, prompt jako powierzchnia ataku
- Taksonomia ataków: ataki w czasie trenowania, wnioskowania (inference) oraz naruszenia łańcucha dostaw
- Model przeciwnika ML: kto atakuje systemy AI i dlaczego
OWASP Top 10 dla aplikacji LLM
- Iniekcja promptów: bezpośrednie i pośrednie wektory ataku
- Niewłaściwe przetwarzanie wyjść i fałszowanie żądań między wtyczkami
- Trucie danych treningowych i luki w łańcuchu dostaw
- Odmowa usługi (DoS) modeli, ujawnianie poufnych informacji oraz nadmierne uprawnienia agencji
- Szkolenie laboratoryjne: wykorzystanie każdej kategorii OWASP wobec aplikacji testowej
Czerwony Team w zakresie iniekcji promptów i jailbreaku
- Taksologia technik iniekcji: bezpośrednia, pośrednia, wieloetapowa (multi-turn) oraz multimodalna
- Zautomatyzowane red-teaming z wykorzystaniem Giskard, Garak oraz narzędzi do customowego fuzzingu
- Klasyfikacja jailbreaków i ocena skuteczności obrony
- Tworzenie platformy red-team do ciągłego testowania bezpieczeństwa LLM
Ataki na poziomie modelu i ich obrona
- Eksfiltracja modeli: kradzież wag modelu i funkcjonalności poprzez zapytania API
- Wnioskowanie przynależności (membership inference): określenie, czy dane znajdowały się w zbiorze treningowym
- Dane adversarialne: perturbacje oszukujące klasyfikatory i wbudowania wektorowe (embeddings)
- Trucie danych: skażenie danych treningowych w celu wprowadzenia backdoorów lub obniżenia wydajności
Kontrola bezpieczeństwa wejść i wyjść
- Sanitizacja danych wejściwych wykraczająca poza tradycyjne obrony webowe
- Filtrowanie wyjść: toksyczność, wyciek danych PII, wykonanie kodu generowanego przez halucynacje
- Ograniczniki (guardrails) jako infrastruktura bezpieczeństwa: NeMo, Guardrails AI oraz customowe zasady
- Wymuszenie strukturalnych wyjść jako granicy bezpieczeństwa
Bezpieczeństwo łańcucha dostaw AI
- Pochodzenie modeli: weryfikacja autentyczności i integralności modeli
- Skanowanie zależności dla frameworków ML i formatów modeli
- Bezpieczne serwowanie modeli: piaskownice (sandboxing), izolacja sieciowa oraz zasada najmniejszych przywilejów
- Weryfikacja modeli fine-tuned i społecznościowych pod kątem ukrytego złośliwego kodu
Operacyjne bezpieczeństwo systemów AI
- Kontrola dostępu dla punktów końcowych (endpointów) modeli, magazynów wektorowych i narzędzi agentów
- Dzienniki audytu każdej interakcji z modelem i podjętej decyzji
- Reagowanie na incydenty związane z naruszeniami specyficznymi dla AI: gdy sam model zostanie skompromitowany
- Ciągłe testy bezpieczeństwa w CI/CD dla potoków ML
Budowanie programu bezpieczeństwa AI
- Model dojrzałości bezpieczeństwa AI i mapa drogowa
- Integracja bezpieczeństwa AI z istniejącymi programami AppSec i bezpieczeństwa chmury
- Ramowe zarządzanie (governance) i rosnące regulacje dotyczące systemów AI
- Opracowywanie i utrzymywanie organizacyjnej instrukcji bezpieczeństwa AI
Wymagania
- Doświadczenie we wdrażaniu modeli ML lub aplikacji LLM w środowisku produkcyjnym.
- Znajomość koncepcji bezpieczeństwa, w tym uwierzytelniania, autoryzacji i modelowania zagrożeń.
- Biegłość w programowaniu w Pythonie do ćwiczeń testów adversarialnych.
Grupa docelowa
- Inżynierowie ds. bezpieczeństwa rozszerzający swoją wiedzę o powierzchnie zagrożeń AI/ML.
- Inżynierowie ML odpowiedzialni za bezpieczeństwo modeli i ich odporność.
- Członkowie zespołów red-team, którzy włączają systemy AI do zakresu swoich testów.
14 godzin