Red Teaming AI Systems: Offensive Security for ML Models - Plan Szkolenia

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do liderów przedsiębiorstw na poziomie średnim, którzy chcą zrozumieć, jak odpowiedzialnie zarządzać i zabezpieczać systemy AI w zgodzie z nowymi globalnymi ramami, takimi jak Ustawa o AI UE, GDPR, ISO/IEC 42001 oraz Rozporządzenie Prezydenta Stanów Zjednoczonych w sprawie AI.

Po ukończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć prawne, etyczne i regulacyjne ryzyka związane z używaniem AI w różnych działach.
• Interpretować i stosować główne ramy rządzenia AI (Ustawa o AI UE, NIST AI RMF, ISO/IEC 42001).
• Ustalić polityki bezpieczeństwa, audytu i nadzoru dla wdrażania AI w przedsiębiorstwie.
• Rozwijać wytyczne dotyczące zakupów i użytkowania systemów AI trzecich stron i wewnętrznych.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do developerów, architektów i menedżerów produktów AI na poziomie średniozaawansowanym do zaawansowanym, którzy chcą identyfikować i minimalizować ryzyka związane z aplikacjami napędzanymi przez duże modele językowe (LLM), w tym wstrzykiwanie promptów, wycieki danych i niefiltrowane wyjścia, jednocześnie wdrażając kontrole bezpieczeństwa takie jak walidacja wejścia, nadzór człowieka w pętli oraz ograniczniki wyjścia.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Rozumieć podstawowe podatności systemów opartych na LLM.
• Zastosować zasady projektowania bezpiecznego do architektury aplikacji LLM.
• Używać narzędzi takich jak Guardrails AI i LangChain do walidacji, filtrowania i bezpieczeństwa.
• Integrować techniki takie jak sandboxing, red teaming i recenzja człowieka w pętli do linii montażowych produkcyjnych.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do początkujących specjalistów ds. bezpieczeństwa IT, ryzyka i zgodności, którzy chcą poznać podstawowe pojęcia bezpieczeństwa AI, wektory zagrożeń i globalne ramy, takie jak NIST AI RMF i ISO/IEC 42001.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć unikalne ryzyka bezpieczeństwa wprowadzane przez systemy AI.
• Wyidentyfikować wektory zagrożeń, takie jak ataki przeciwnika, zanieczyszczenie danych i odwracanie modeli.
• Zastosować podstawowe modele zarządzania, takie jak Ramy NIST AI Risk Management.
• Dopasować użycie AI do nowych standardów, wytycznych zgodności i zasad etycznych.

• Rozumieć i porównywać kluczowe techniki ochrony prywatności w ML.
• Wdrażać systemy federated learning z użyciem otwartych frameworków.
• Zastosować differential privacy do bezpiecznego udostępniania danych i trenowania modeli.
• Wykorzystywać techniki szyfrowania i bezpiecznych obliczeń do ochrony wejść i wyjść modelu.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do inżynierów i specjalistów ds. bezpieczeństwa o poziomie średnim, którzy chcą zabezpieczyć modele AI wdrażane na obrzeżach przed zagrożeniami takimi jak manipulacja, wyciek danych, nieprzyjazne wprowadzanie danych i fizyczne ataki.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Identyfikować i oceniać ryzyka bezpieczeństwa w wdrożeniach AI na obrzeżach.
• Zastosować techniki odporności na manipulację i szyfrowane wnioskowanie.
• Zabezpieczyć modele wdrożone na obrzeżach i zabezpieczyć kanały danych.
• Wdrożyć strategie łagodzenia zagrożeń specyficzne dla wbudowanych i ograniczonych systemów.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do profesjonalistów zajmujących się sztuczną inteligencją i cyberbezpieczeństwem na poziomie średnim, którzy chcą zrozumieć i zminimalizować pojawiające się zagrożenia dla modeli AI, stosując zarówno koncepcyjne ramy, jak i praktyczne obrony, takie jak trwałe szkolenie i różnicowe prywatność.

Na koniec tego szkolenia uczestnicy będą mogli:

• Wykrywać i klasyfikować zagrożenia specyficzne dla AI, takie jak ataki przeciwnikowe, inwersja i zatruwanie.
• Używać narzędzi, takich jak Adversarial Robustness Toolbox (ART), do symulacji ataków i testowania modeli.
• Zastosować praktyczne obrony, w tym szkolenie przeciwnikowe, wstrzykiwanie szumu i techniki zachowujące prywatność.
• Projektować strategie oceny modeli świadome zagrożeń w środowiskach produkcyjnych.