Tworzenie bezpiecznych i odpowiedzialnych aplikacji LLM - Plan Szkolenia

Przegląd architektury LLM i powierzchni ataku

• Jak budowane, wdrażane i dostępne są LLM poprzez API
• Kluczowe komponenty w stosach aplikacji LLM (np. prompty, agenci, pamięć, API)
• Gdzie i jak powstają problemy bezpieczeństwa w rzeczywistym użyciu

Iniekcja promptów i ataki jailbreak

• Czym jest iniekcja promptów i dlaczego jest niebezpieczna
• Scenariusze bezpośredniej i pośredniej iniekcji promptów
• Techniki jailbreakingu omijające filtry bezpieczeństwa
• Strategie wykrywania i łagodzenia

Wycieki danych i ryzyka prywatności

• Przypadkowe ujawnienie danych poprzez odpowiedzi
• Wycieki danych osobowych i niewłaściwe wykorzystanie pamięci modelu
• Projektowanie promptów z uwzględnieniem prywatności i generowanie wspomagane przez wyszukiwanie (RAG)

Filtrowanie i zabezpieczanie wyników LLM

• Wykorzystanie Guardrails AI do filtrowania i walidacji treści
• Definiowanie schematów i ograniczeń wyjść
• Monitorowanie i logowanie niebezpiecznych wyników

Podejście z udziałem człowieka i przepływy pracy

• Gdzie i kiedy wprowadzać nadzór człowieka
• Kolejki zatwierdzania, progi oceny, obsługa awaryjna
• Kalibracja zaufania i rola zrozumiałości

Wzorce bezpiecznego projektowania aplikacji LLM

• Zasada najmniejszych uprawnień i sandboxing dla wywołań API i agentów
• Ograniczanie przepustowości, ograniczanie i wykrywanie nadużyć
• Solidne łańcuchy z LangChain i izolacja promptów

Zgodność, logowanie i zarządzanie

• Zapewnienie możliwości audytu wyników LLM
• Utrzymanie możliwości śledzenia i kontroli wersji promptów
• Dostosowanie do wewnętrznych polityk bezpieczeństwa i wymogów regulacyjnych

Podsumowanie i kolejne kroki