Bądźmy w kontakcie

Plan Szkolenia

Przegląd architektury LLM i powierzchni ataku

  • Jak budowane, wdrażane i dostępne są LLM poprzez API
  • Kluczowe komponenty w stosach aplikacji LLM (np. prompty, agenci, pamięć, API)
  • Gdzie i jak pojawiają się problemy bezpieczeństwa w rzeczywistym użyciu

Iniekcja promptów i ataki jailbreak

  • Czym jest iniekcja promptów i dlaczego jest niebezpieczna
  • Scenariusze bezpośredniej i pośredniej iniekcji promptów
  • Techniki jailbreaku omijające filtry bezpieczeństwa
  • Strategie wykrywania i łagodzenia

Wycieki danych i ryzyka prywatności

  • Przypadkowe ujawnienie danych poprzez odpowiedzi
  • Wycieki danych osobowych i niewłaściwe wykorzystanie pamięci modelu
  • Projektowanie promptów z uwzględnieniem prywatności i generowanie wspomagane pobieraniem (RAG)

Filtrowanie i zabezpieczanie wyników LLM

  • Wykorzystanie Guardrails AI do filtrowania i walidacji treści
  • Definiowanie schematów i ograniczeń wyników
  • Monitorowanie i logowanie niebezpiecznych wyników

Podejścia z udziałem człowieka i przepływy pracy

  • Gdzie i kiedy wprowadzać nadzór człowieka
  • Kolejki zatwierdzania, progi punktowe, obsługa awaryjna
  • Kalibracja zaufania i rola zrozumiałości

Wzorce bezpiecznego projektowania aplikacji LLM

  • Zasada najmniejszych uprawnień i sandboxing dla wywołań API i agentów
  • Ograniczanie szybkości, throttle i wykrywanie nadużyć
  • Solidne łańcuchy z LangChain i izolacja promptów

Zgodność, logowanie i zarządzanie

  • Zapewnienie możliwości audytu wyników LLM
  • Utrzymywanie możliwości śledzenia i kontroli wersji promptów
  • Dostosowanie do wewnętrznych polityk bezpieczeństwa i wymogów regulacyjnych

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie dużych modeli językowych i interfejsów opartych na promptach
  • Doświadczenie w tworzeniu aplikacji LLM przy użyciu Pythona
  • Znajomość integracji API i wdrożeń w chmurze

Grupa docelowa

  • Programiści AI
  • Architekci aplikacji i rozwiązań
  • Menedżerowie produktów technicznych pracujący z narzędziami LLM
 14 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie