Securing AI Models: Threats, Attacks, and Defenses - Plan Szkolenia

Trening prowadzony przez instruktora w formie online lub stacjonarnej jest skierowany do średniozaawansowanych liderów przedsiębiorstw, którzy chcą zrozumieć, jak odpowiedzialnie zarządzać i zabezpieczać systemy AI zgodnie z nowo powstającymi globalnymi ramami, takimi jak Akt UE o sztucznej inteligencji, GDPR, ISO/IEC 42001 oraz rozkaz prezydenta Stanów Zjednoczonych dotyczący sztucznej inteligencji.

Na zakończenie tego szkolenia uczestnicy będą w stanie:

• Zrozumieć prawne, etyczne i regulacyjne ryzyka związane z wykorzystywaniem AI w różnych działach.
• Interpretować i stosować główne ramy zarządzania AI (Akt UE o sztucznej inteligencji, NIST AI RMF, ISO/IEC 42001).
• Wdrażać polityki bezpieczeństwa, audytu i nadzoru dla wdrażania AI w przedsiębiorstwie.
• Tworzyć wytyczne dotyczące zakupów i użytkowania systemów AI pochodzących od zewnętrznych dostawców oraz wewnętrznych rozwiązań.

Artificial Intelligence (AI) wprowadza nowe wymiary ryzyka operacyjnego, wyzwania rządzenia i narażenia na cyberzagrożenia dla rządowych agencji i departamentów.

To szkolenie prowadzone przez instruktora (online lub na miejscu) jest skierowane do specjalistów IT i ryzyka w sektorze publicznym z ograniczoną wcześniejszą wiedzą na temat sztucznej inteligencji, którzy chcą poznać, jak oceniać, monitorować i bezpiecznie wdrażać systemy AI w kontekście rządowym lub regulacyjnym.

Na zakończenie tego szkolenia uczestnicy będą w stanie:

• Interpretować kluczowe pojęcia związane z ryzykiem systemów AI, w tym uprzedzenia, nieprzewidywalność i drift modelu.
• Zastosować ramy rządzenia i audytu specyficzne dla AI, takie jak NIST AI RMF i ISO/IEC 42001.
• Rozpoznawać zagrożenia cyberbezpieczeństwa skierowane przeciwko modelom AI i kanałom danych.
• Ustanowić międzydepartamentalne plany zarządzania ryzykiem i wyaliniowanie polityk wdrażania AI.

Format kursu

• Interaktywne wykłady i dyskusje na temat przypadków użycia w sektorze publicznym.
• Ćwiczenia z ramami rządzenia AI i mapowaniem polityk.
• Modelowanie zagrożeń i ocena ryzyka w oparciu o scenariusze.

Opcje dostosowania kursu

• Aby złożyć wniosek o dostosowane szkolenie dla tego kursu, skontaktuj się z nami w celu uzgodnienia.

To prowadzony przez instruktora, żywy szkoleniowy (online lub stacjonarny) jest skierowany do początkujących do średnio zaawansowanych profesjonalistów IT, którzy chcą zrozumieć i wdrożyć zarządzanie AI TRiSM w swoich organizacjach.

Na zakończenie tego szkolenia uczestnicy będą w stanie:

• Zrozumieć kluczowe koncepcje i znaczenie zarządzania AI trust, risk i security.
• Wykrywać i minimalizować ryzyko związane z systemami AI.
• Wdrażać najlepsze praktyki bezpieczeństwa dla AI.
• Zrozumieć przepisy prawne i etyczne uwagi związane z AI.
• Rozwinąć strategie dla skutecznego zarządzania i nadzorowania AI.

To szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do developerów, architektów i menedżerów produktów AI na poziomie średniozaawansowanym do zaawansowanym, którzy chcą identyfikować i minimalizować ryzyka związane z aplikacjami napędzanymi przez duże modele językowe (LLM), w tym wstrzykiwanie promptów, wycieki danych i niefiltrowane wyjścia, jednocześnie wdrażając kontrole bezpieczeństwa takie jak walidacja wejścia, nadzór człowieka w pętli oraz ograniczniki wyjścia.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Rozumieć podstawowe podatności systemów opartych na LLM.
• Zastosować zasady projektowania bezpiecznego do architektury aplikacji LLM.
• Używać narzędzi takich jak Guardrails AI i LangChain do walidacji, filtrowania i bezpieczeństwa.
• Integrować techniki takie jak sandboxing, red teaming i recenzja człowieka w pętli do linii montażowych produkcyjnych.

To szkolenie prowadzone przez instruktora (online lub na miejscu) skierowane jest do profesjonalistów zajmujących się sztuczną inteligencją i cyberbezpieczeństwem na poziomie średniozaawansowanym, którzy chcą zrozumieć i zwalczać specyficzne wyzwania związane z bezpieczeństwem modeli i systemów AI, szczególnie w wysokoregulowanych branżach takich jak finanse, zarządzanie danymi i konsulting.

Po ukończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć rodzaje ataków adversarialnych kierowanych przeciwko systemom AI oraz metody obronne przeciwko nim.
• Wdrożyć techniki utwardzania modeli w celu zabezpieczenia pipeline'ów uczenia maszynowego.
• Zapewnić bezpieczeństwo i integralność danych w modelach uczenia maszynowego.
• Przejść przez wymagania dotyczące zgodności z przepisami regulacyjnymi dotyczącymi bezpieczeństwa AI.

Trening prowadzony przez instruktora w Polsce (online lub na miejscu) jest skierowany do początkujących specjalistów ds. bezpieczeństwa IT, zarządzania ryzykiem i zgodności, którzy chcą zrozumieć podstawowe koncepcje bezpieczeństwa AI, wektory zagrożeń i globalne ramy, takie jak NIST AI RMF i ISO/IEC 42001.

Na koniec tego szkolenia uczestnicy będą w stanie:

• Zrozumieć unikalne ryzyka bezpieczeństwa wprowadzane przez systemy AI.
• Wykrywać wektory zagrożeń, takie jak ataki przeciwnika, zatrucie danych i odwracanie modeli.
• Zastosować podstawowe modele zarządzania, takie jak ramka NIST AI Risk Management.
• Dopasować użycie AI do pojawiających się standardów, wytycznych zgodności i zasad etycznych.

Na podstawie najnowszych wytycznych z projektu OWASP GenAI Security, uczestnicy nauczą się identyfikować, oceniać i przeciwdziałać zagrożeniom specyficznym dla AI za pomocą ćwiczeń praktycznych i scenariuszy z życia rzeczywistego.

To szkolenie prowadzone przez instruktora (online lub na miejscu) jest skierowane do zaawansowanych profesjonalistów, którzy chcą wdrożyć i ocenić techniki takie jak uczenie federowane, obliczenia wielostronne z ochroną prywatności, homomorficzne szyfrowanie i prywatność różniczkowa w rzeczywistych wdrożeniach maszynowego uczenia się.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Zrozumieć i porównać kluczowe techniki ochrony prywatności w ML.
• Wdrożyć systemy uczenia federowanego za pomocą otwartych ram frameworków.
• Zastosować prywatność różniczkową dla bezpiecznego udostępniania danych i szkolenia modeli.
• Wykorzystać techniki szyfrowania i obliczeń z ochroną prywatności do ochrony wejść i wyjść modelu.

Tego prowadzonego przez instruktora szkolenia na żywo (online lub na miejscu) w Polsce dedykowane jest zaawansowanym specjalistom ds. bezpieczeństwa oraz specjalistom ds. uczenia maszynowego, którzy chcą symulować ataki na systemy AI, wykrywać luki oraz wzmocnić odporność wdrożonych modeli AI.

Po zakończeniu tego szkolenia uczestnicy będą w stanie:

• Symulować rzeczywiste zagrożenia dla modeli uczenia maszynowego.
• Generować przykłady przeciwników, aby przetestować odporność modeli.
• Ocenić powierzchnię ataku API i linii montażowych AI.
• Projektować strategie red teamingu dla środowisk wdrażania AI.

Trening prowadzony przez instruktora, dostępny online lub na miejscu, skierowany jest do inżynierów i specjalistów ds. bezpieczeństwa o poziomie średnim, którzy chcą zabezpieczyć modele sztucznej inteligencji wdrożone na krawędzi przed zagrożeniami takimi jak manipulacja, wyciek danych, niekorzystne wejścia i ataki fizyczne.

Na zakończenie tego szkolenia uczestnicy będą w stanie:

• Identyfikować i oceniać ryzyka bezpieczeństwa w wdrożeniach sztucznej inteligencji na krawędzi.
• Stosować techniki odporności na manipulacje i szyfrowanego wnioskowania.
• Utwardzać modele wdrożone na krawędzi i zabezpieczać łańcuchy danych.
• Wdrażać strategie zminimalizowania zagrożeń specyficzne dla wbudowanych i ograniczanych systemów.