Red Teaming AI Systems: Offensive Security for ML Models - Plan Szkolenia

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do początkujących specjalistów ds. bezpieczeństwa IT, ryzyka i zgodności, którzy chcą poznać podstawowe pojęcia bezpieczeństwa AI, wektory zagrożeń i globalne ramy, takie jak NIST AI RMF i ISO/IEC 42001.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć unikalne ryzyka bezpieczeństwa wprowadzane przez systemy AI.
• Wyidentyfikować wektory zagrożeń, takie jak ataki przeciwnika, zanieczyszczenie danych i odwracanie modeli.
• Zastosować podstawowe modele zarządzania, takie jak Ramy NIST AI Risk Management.
• Dopasować użycie AI do nowych standardów, wytycznych zgodności i zasad etycznych.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do profesjonalistów zajmujących się sztuczną inteligencją i cyberbezpieczeństwem na poziomie średnim, którzy chcą zrozumieć i zminimalizować pojawiające się zagrożenia dla modeli AI, stosując zarówno koncepcyjne ramy, jak i praktyczne obrony, takie jak trwałe szkolenie i różnicowe prywatność.

Na koniec tego szkolenia uczestnicy będą mogli:

• Wykrywać i klasyfikować zagrożenia specyficzne dla AI, takie jak ataki przeciwnikowe, inwersja i zatruwanie.
• Używać narzędzi, takich jak Adversarial Robustness Toolbox (ART), do symulacji ataków i testowania modeli.
• Zastosować praktyczne obrony, w tym szkolenie przeciwnikowe, wstrzykiwanie szumu i techniki zachowujące prywatność.
• Projektować strategie oceny modeli świadome zagrożeń w środowiskach produkcyjnych.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do developerów, architektów i menedżerów produktów AI na poziomie średniozaawansowanym do zaawansowanym, którzy chcą identyfikować i minimalizować ryzyka związane z aplikacjami napędzanymi przez duże modele językowe (LLM), w tym wstrzykiwanie promptów, wycieki danych i niefiltrowane wyjścia, jednocześnie wdrażając kontrole bezpieczeństwa takie jak walidacja wejścia, nadzór człowieka w pętli oraz ograniczniki wyjścia.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Rozumieć podstawowe podatności systemów opartych na LLM.
• Zastosować zasady projektowania bezpiecznego do architektury aplikacji LLM.
• Używać narzędzi takich jak Guardrails AI i LangChain do walidacji, filtrowania i bezpieczeństwa.
• Integrować techniki takie jak sandboxing, red teaming i recenzja człowieka w pętli do linii montażowych produkcyjnych.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do liderów przedsiębiorstw na poziomie średnim, którzy chcą zrozumieć, jak odpowiedzialnie zarządzać i zabezpieczać systemy AI w zgodzie z nowymi globalnymi ramami, takimi jak Ustawa o AI UE, GDPR, ISO/IEC 42001 oraz Rozporządzenie Prezydenta Stanów Zjednoczonych w sprawie AI.

Po ukończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć prawne, etyczne i regulacyjne ryzyka związane z używaniem AI w różnych działach.
• Interpretować i stosować główne ramy rządzenia AI (Ustawa o AI UE, NIST AI RMF, ISO/IEC 42001).
• Ustalić polityki bezpieczeństwa, audytu i nadzoru dla wdrażania AI w przedsiębiorstwie.
• Rozwijać wytyczne dotyczące zakupów i użytkowania systemów AI trzecich stron i wewnętrznych.

• Rozumieć i porównywać kluczowe techniki ochrony prywatności w ML.
• Wdrażać systemy federated learning z użyciem otwartych frameworków.
• Zastosować differential privacy do bezpiecznego udostępniania danych i trenowania modeli.
• Wykorzystywać techniki szyfrowania i bezpiecznych obliczeń do ochrony wejść i wyjść modelu.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do inżynierów i specjalistów ds. bezpieczeństwa o poziomie średnim, którzy chcą zabezpieczyć modele AI wdrażane na obrzeżach przed zagrożeniami takimi jak manipulacja, wyciek danych, nieprzyjazne wprowadzanie danych i fizyczne ataki.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Identyfikować i oceniać ryzyka bezpieczeństwa w wdrożeniach AI na obrzeżach.
• Zastosować techniki odporności na manipulację i szyfrowane wnioskowanie.
• Zabezpieczyć modele wdrożone na obrzeżach i zabezpieczyć kanały danych.
• Wdrożyć strategie łagodzenia zagrożeń specyficzne dla wbudowanych i ograniczonych systemów.

Artificial Intelligence (AI) wprowadza nowe wymiarów ryzyka operacyjnego, wyzwań związanych z zarządzaniem i narażenia na cyberbezpieczeństwo dla agencji rządowych i departamentów.

To prowadzone przez instruktora, żywe szkolenie (online lub stacjonarne) jest skierowane do specjalistów IT i ryzyka w sektorze publicznym z ograniczonym wcześniejszym doświadczeniem w dziedzinie AI, którzy chcą zrozumieć, jak oceniać, monitorować i zabezpieczać systemy AI w kontekście rządowym lub regulacyjnym.

Do końca tego szkolenia uczestnicy będą w stanie:

• Interpretować kluczowe koncepcje związane z ryzykiem systemów AI, w tym uprzedzenia, nieprzewidywalność i dryf modelu.
• Zastosować ramy zarządzania i audytu specyficzne dla AI, takie jak NIST AI RMF i ISO/IEC 42001.
• Rozpoznawać zagrożenia cyberbezpieczeństwa skierowane przeciwko modelom AI i kanałom danych.
• Ustanawiać plany zarządzania ryzykiem między działami i harmonizację polityki wdrożenia AI.

Format kursu

• Interaktywne wykłady i dyskusje nad przypadkami użycia w sektorze publicznym.
• Ćwiczenia z ramami zarządzania AI i mapowaniem polityki.
• Modelowanie zagrożeń i ocena ryzyka na podstawie scenariuszy.

Opcje dostosowania kursu

• Aby złożyć wniosek o dostosowane szkolenie dla tego kursu, skontaktuj się z nami w celu uzgodnienia.