Plan Szkolenia

Przegląd architektury i powierzchni ataków LLM
  • Jak buduje się, wdraża i dostępuje do LLMs za pośrednictwem API
  • Kluczowe komponenty w stosach aplikacji LLM (np. wpisy, agenci, pamięć, API)
  • Gdzie i jak powstają problemy z bezpieczeństwem w realnym użyciu
Ataki iniekcji wpisów i przebicia
  • Co to jest iniekcja wpisów i dlaczego jest niebezpieczna
  • Scenariusze bezpośredniej i pośredniej iniekcji wpisów
  • Techniki przebicia ominięcia filtrów bezpieczeństwa
  • Strategie wykrywania i przeciwdziałania
Wycieki danych i ryzyka prywatności
  • Niechciane ujawnienie danych poprzez odpowiedzi
  • Wycieki PII i nieprawidłowe użycie pamięci modelu
  • Projektowanie wpisów z uwzględnieniem prywatności i generacja z wzmocnionym pobieraniem (RAG)
Filtrowanie i ochrona wyjść LLM
  • Używanie Guardrails AI do filtrowania i weryfikacji treści
  • Definiowanie schematów i ograniczeń wyjść
  • Monitorowanie i logowanie niebezpiecznych wyjść
Podchody z człowiekiem w pętli i przepływ pracy
  • Gdzie i kiedy wprowadzać nadzór człowieka
  • Kolejki aprobaty, progi punktowania, obsługa rezerwowego
  • Kalibrowanie zaufania i rola wyjaśnialności
Aplikacja LLM zabezpieczona Design Patterns
  • Najmniejsze uprawnienia i sandboxing dla wywołań API i agentów
  • Ograniczenie szybkości, ograniczenie przepustowości i wykrywanie nadużyć
  • Wytrwałe łączenie z LangChain i izolacja wpisów
Zgodność, rejestrowanie i zarządzanie Go
  • Zapewnienie możliwości audytu wyjść LLM
  • Podtrzymywanie śledzenia i kontroli wersji/wpisów
  • Dostosowanie się do wewnętrznych polityk bezpieczeństwa i wymagań regulacyjnych
Podsumowanie i następne kroki

Wymagania

  • Zrozumienie dużych modeli językowych i interfejsów opartych na zapyciach
  • Doświadczenie w budowaniu aplikacji LLM z użyciem Python
  • Znajomość integracji API i wdrożeń opartych na chmurze

Grupa docelowa

  • Programiści AI
  • Architekci aplikacji i rozwiązań
  • Menadżerowie technologiczni produktów pracujący z narzędziami LLM
 14 godzin

Liczba uczestników


cena netto za uczestnika

Propozycje terminów

Powiązane Kategorie