Plan Szkolenia

Przegląd architektury LLM i powierzchni ataku

  • Jak buduje się, wdraża i dostępuje do LLM za pomocą API
  • Kluczowe komponenty w stosach aplikacji LLM (np. instrukcje, agenci, pamięć, API)
  • Skąd i jak pojawiają się problemy z bezpieczeństwem w rzeczywistym użyciu

Ataki poprzez wstrzykiwanie instrukcji i wyłamywanie się z więzienia

  • Co to jest wstrzykiwanie instrukcji i dlaczego jest niebezpieczne
  • Scenariusze bezpośredniego i pośredniego wstrzykiwania instrukcji
  • Techniki wyłamywania się z więzienia, aby ominąć filtry bezpieczeństwa
  • Strategie wykrywania i zwalczania

Wydobywanie danych i ryzyka dotyczące prywatności

  • Niekontrolowane ujawnianie danych przez odpowiedzi
  • Wycieki informacji osobistych i nieprawidłowe wykorzystanie pamięci modelu
  • Projektowanie instrukcji z uwzględnieniem prywatności oraz generowanie z uwzględnieniem pobierania (RAG)

Filtrowanie i ochrona wyjścia LLM

  • Używanie Guardrails AI do filtrowania i walidacji zawartości
  • Definiowanie schematów i ograniczeń wyjścia
  • Monitorowanie i logowanie niebezpiecznych wyjść

Metody z człowiekiem w pętli i podejścia do przepływu pracy

  • Gdzie i kiedy wprowadzać nadzór człowieka
  • Kolejki zatwierdzania, progi punktacji, obsługa awaryjna
  • Kalibracja zaufania i rola wyjaśniania

Wzorce bezpiecznego projektu aplikacji LLM

  • Najniższe uprawnienia i sandboxing dla wywołań API i agentów
  • Ograniczenie szybkości, zwalnianie i wykrywanie nadużyć
  • Solidne łączenie z LangChain i izolacja instrukcji

Zgodność, logowanie i zarządzanie

  • Zapewnienie możliwości audytu wyjść LLM
  • Zachowanie śledzenia i kontroli wersji instrukcji
  • Dostosowanie do wewnętrznych polityk bezpieczeństwa i wymagań regulacyjnych

Podsumowanie i następne kroki

Wymagania

  • Zrozumienie dużych modeli językowych i interfejsów opartych na zapyciach
  • Doświadczenie w budowaniu aplikacji LLM z użyciem Python
  • Znajomość integracji API i wdrożeń opartych na chmurze

Grupa docelowa

  • Programiści AI
  • Architekci aplikacji i rozwiązań
  • Menadżerowie technologiczni produktów pracujący z narzędziami LLM
 14 godzin

Liczba uczestników


cena netto za uczestnika

Propozycje terminów

Powiązane Kategorie