Building Secure and Responsible LLM Applications - Plan Szkolenia
Bezpieczeństwo aplikacji LLM jest dyscypliną projektowania, budowania i utrzymywania bezpiecznych, godnych zaufania i zgodnych z polityką systemów przy użyciu dużych modeli językowych.
To prowadzone przez instruktora szkolenie na żywo (online lub stacjonarne) jest skierowane do developerów AI, architektów i menedżerów produktów na poziomie średniozaawansowanym do zaawansowanym, którzy chcą identyfikować i łagodzić ryzyko związane z aplikacjami zasilanymi przez LLM, w tym wstrzykiwanie poleceń, wyciek danych i niezfiltrowane wyjście, jednocześnie wdrażając kontrolę bezpieczeństwa, taką jak walidacja wejścia, nadzór człowieka w pętli i ograniczenia wyjścia.
Na zakończenie tego szkolenia uczestnicy będą w stanie:
- Zrozumieć podstawowe wulnerabilności systemów opartych na LLM.
- Zastosować zasady bezpiecznego projektowania w architekturze aplikacji LLM.
- Używać narzędzi, takich jak Guardrails AI i LangChain do walidacji, filtrowania i bezpieczeństwa.
- Zintegrować techniki, takie jak izolowanie, red teaming i przegląd człowieka w pętli, do produkcji gotowych do rynku.
Format kursu
- Interaktywna wykład i dyskusja.
- Wiele ćwiczeń i praktyki.
- Ręczne wdrożenie w środowisku live-lab.
Opcje dostosowania kursu
- Aby poprosić o dostosowane szkolenie dla tego kursu, skontaktuj się z nami, aby umówić.
Plan Szkolenia
- Jak buduje się, wdraża i dostępuje do LLMs za pośrednictwem API
- Kluczowe komponenty w stosach aplikacji LLM (np. wpisy, agenci, pamięć, API)
- Gdzie i jak powstają problemy z bezpieczeństwem w realnym użyciu
- Co to jest iniekcja wpisów i dlaczego jest niebezpieczna
- Scenariusze bezpośredniej i pośredniej iniekcji wpisów
- Techniki przebicia ominięcia filtrów bezpieczeństwa
- Strategie wykrywania i przeciwdziałania
- Niechciane ujawnienie danych poprzez odpowiedzi
- Wycieki PII i nieprawidłowe użycie pamięci modelu
- Projektowanie wpisów z uwzględnieniem prywatności i generacja z wzmocnionym pobieraniem (RAG)
- Używanie Guardrails AI do filtrowania i weryfikacji treści
- Definiowanie schematów i ograniczeń wyjść
- Monitorowanie i logowanie niebezpiecznych wyjść
- Gdzie i kiedy wprowadzać nadzór człowieka
- Kolejki aprobaty, progi punktowania, obsługa rezerwowego
- Kalibrowanie zaufania i rola wyjaśnialności
- Najmniejsze uprawnienia i sandboxing dla wywołań API i agentów
- Ograniczenie szybkości, ograniczenie przepustowości i wykrywanie nadużyć
- Wytrwałe łączenie z LangChain i izolacja wpisów
- Zapewnienie możliwości audytu wyjść LLM
- Podtrzymywanie śledzenia i kontroli wersji/wpisów
- Dostosowanie się do wewnętrznych polityk bezpieczeństwa i wymagań regulacyjnych
Wymagania
- Zrozumienie dużych modeli językowych i interfejsów opartych na zapyciach
- Doświadczenie w budowaniu aplikacji LLM z użyciem Python
- Znajomość integracji API i wdrożeń opartych na chmurze
Grupa docelowa
- Programiści AI
- Architekci aplikacji i rozwiązań
- Menadżerowie technologiczni produktów pracujący z narzędziami LLM
Szkolenia otwarte są realizowane w przypadku uzbierania się grupy szkoleniowej liczącej co najmniej 5 osób na dany termin.
Building Secure and Responsible LLM Applications - Plan Szkolenia - Booking
Building Secure and Responsible LLM Applications - Plan Szkolenia - Enquiry
Building Secure and Responsible LLM Applications - Zapytanie o Konsultacje
Zapytanie o Konsultacje
Propozycje terminów
Szkolenia Powiązane
AI Automation with n8n and LangChain
14 godzinSzkolenie na żywo prowadzone przez instruktora (na miejscu lub zdalnie) jest przeznaczone dla programistów i specjalistów IT na wszystkich poziomach umiejętności, którzy chcą zautomatyzować zadania i procesy za pomocą sztucznej inteligencji bez pisania obszernego kodu.
Pod koniec tego szkolenia uczestnicy będą mogli
- Projektować i wdrażać złożone przepływy pracy przy użyciu wizualnego interfejsu programowania n8n.
- Zintegrować możliwości AI z przepływami pracy przy użyciu LangChain.
- Tworzyć niestandardowe chatboty i wirtualnych asystentów dla różnych przypadków użycia.
- Przeprowadzać zaawansowaną analizę i przetwarzanie danych za pomocą agentów AI.
Automating Workflows with LangChain and APIs
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla początkujących analityków biznesowych i inżynierów automatyzacji, którzy chcą zrozumieć, jak używać LangChain i interfejsów API do automatyzacji powtarzalnych zadań i przepływów pracy.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zrozumieć podstawy integracji API z LangChain.
- Zautomatyzować powtarzalne przepływy pracy przy użyciu LangChain i Python.
- Wykorzystywać LangChain do łączenia różnych interfejsów API w celu zapewnienia wydajnych procesów biznesowych.
- Tworzyć i automatyzować niestandardowe przepływy pracy przy użyciu interfejsów API i możliwości automatyzacji LangChain.
Building Conversational Agents with LangChain
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średniozaawansowanych profesjonalistów, którzy chcą pogłębić swoją wiedzę na temat agentów konwersacyjnych i zastosować LangChain do rzeczywistych przypadków użycia.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Zrozumieć podstawy LangChain i jego zastosowanie w budowaniu agentów konwersacyjnych.
- Rozwijać i wdrażać agentów konwersacyjnych przy użyciu LangChain.
- Zintegrować agentów konwersacyjnych z interfejsami API i usługami zewnętrznymi.
- Stosować techniki Natural Language Processing (NLP) w celu poprawy wydajności agentów konwersacyjnych.
Building Private AI Workflows with Ollama
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych profesjonalistów, którzy chcą wdrożyć bezpieczne i wydajne przepływy pracy oparte na sztucznej inteligencji przy użyciu Ollama.
Pod koniec tego szkolenia uczestnicy będą mogli
- Wdrożyć i skonfigurować Ollama do prywatnego przetwarzania AI.
- Zintegrować modele AI z bezpiecznymi przepływami pracy w przedsiębiorstwie.
- Optymalizować wydajność AI przy jednoczesnym zachowaniu prywatności danych.
- Automatyzować procesy biznesowe za pomocą lokalnych funkcji AI.
- Zapewnienie zgodności z zasadami bezpieczeństwa i zarządzania w przedsiębiorstwie.
Deploying and Optimizing LLMs with Ollama
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średniozaawansowanych profesjonalistów, którzy chcą wdrażać, optymalizować i integrować LLM przy użyciu Ollama.
Pod koniec tego szkolenia uczestnicy będą mogli
- Konfigurować i wdrażać LLM przy użyciu Ollama.
- Optymalizować modele AI pod kątem wydajności i efektywności.
- Wykorzystać akcelerację GPU w celu poprawy szybkości wnioskowania.
- Zintegrować Ollama z przepływami pracy i aplikacjami.
- Monitorowanie i utrzymywanie wydajności modeli AI w czasie.
Ethical Considerations in AI Development with LangChain
21 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych badaczy sztucznej inteligencji i decydentów, którzy chcą zbadać etyczne implikacje rozwoju sztucznej inteligencji i dowiedzieć się, jak stosować wytyczne etyczne podczas tworzenia rozwiązań sztucznej inteligencji z LangChain.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Zidentyfikować kluczowe kwestie etyczne w rozwoju AI z LangChain.
- Zrozumieć wpływ sztucznej inteligencji na społeczeństwo i procesy decyzyjne.
- Opracować strategie budowania sprawiedliwych i przejrzystych systemów sztucznej inteligencji.
- Wdrożyć wytyczne dotyczące etycznej sztucznej inteligencji w projektach opartych na LangChain.
Enhancing User Experience with LangChain in Web Apps
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średnio zaawansowanych programistów internetowych i projektantów UX, którzy chcą wykorzystać LangChain do tworzenia intuicyjnych i przyjaznych dla użytkownika aplikacji internetowych.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Zrozumieć podstawowe pojęcia LangChain i jego rolę w zwiększaniu doświadczenia użytkownika w sieci.
- Wdrażać LangChain w aplikacjach internetowych w celu tworzenia dynamicznych i responsywnych interfejsów.
- Zintegrować interfejsy API z aplikacjami internetowymi w celu poprawy interaktywności i zaangażowania użytkowników.
- Optymalizacja doświadczenia użytkownika przy użyciu zaawansowanych funkcji dostosowywania LangChain.
- Analizuj dane o zachowaniu użytkowników, aby dostosować wydajność i doświadczenie aplikacji internetowych.
Fine-Tuning and Customizing AI Models on Ollama
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych profesjonalistów, którzy chcą dostroić i dostosować modele sztucznej inteligencji w Ollama w celu zwiększenia wydajności i aplikacji specyficznych dla domeny.
Pod koniec tego szkolenia uczestnicy będą mogli
- Skonfigurować wydajne środowisko do dostrajania modeli AI na Ollama.
- Przygotować zestawy danych do nadzorowanego dostrajania i uczenia się ze wzmocnieniem.
- Optymalizować modele AI pod kątem wydajności, dokładności i efektywności.
- Wdrażanie dostosowanych modeli w środowiskach produkcyjnych.
- Ocenianie ulepszeń modeli i zapewnianie solidności.
Introduction to AI Security and Risk Management
14 godzinTo szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do początkujących specjalistów ds. bezpieczeństwa IT, ryzyka i zgodności, którzy chcą poznać podstawowe pojęcia bezpieczeństwa AI, wektory zagrożeń i globalne ramy, takie jak NIST AI RMF i ISO/IEC 42001.
Po zakończeniu tego szkolenia uczestnicy będą w stanie:
- Zrozumieć unikalne ryzyka bezpieczeństwa wprowadzane przez systemy AI.
- Wyidentyfikować wektory zagrożeń, takie jak ataki przeciwnika, zanieczyszczenie danych i odwracanie modeli.
- Zastosować podstawowe modele zarządzania, takie jak Ramy NIST AI Risk Management.
- Dopasować użycie AI do nowych standardów, wytycznych zgodności i zasad etycznych.
LangChain: Building AI-Powered Applications
14 godzinThis instructor-led, live training in Polsce (online or onsite) is aimed at intermediate-level developers and software engineers who wish to build AI-powered applications using the LangChain framework.
By the end of this training, participants will be able to:
- Understand the fundamentals of LangChain and its components.
- Integrate LangChain with large language models (LLMs) like GPT-4.
- Build modular AI applications using LangChain.
- Troubleshoot common issues in LangChain applications.
Integrating LangChain with Cloud Services
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych inżynierów danych i DevOps specjalistów, którzy chcą wykorzystać możliwości LangChain, integrując go z różnymi usługami w chmurze.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Zintegrować LangChain z głównymi platformami chmurowymi, takimi jak AWS, Azure i Google Cloud.
- Korzystać z interfejsów API i usług opartych na chmurze w celu ulepszenia aplikacji opartych na LangChain.
- Skalowanie i wdrażanie agentów konwersacyjnych w chmurze w celu interakcji w czasie rzeczywistym.
- Wdrażanie najlepszych praktyk w zakresie monitorowania i bezpieczeństwa w środowiskach chmurowych.
LangChain for Data Analysis and Visualization
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średniozaawansowanych specjalistów ds. danych, którzy chcą wykorzystać LangChain do zwiększenia swoich możliwości analizy i wizualizacji danych.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zautomatyzować pobieranie i czyszczenie danych przy użyciu LangChain.
- Przeprowadzać zaawansowaną analizę danych przy użyciu Python i LangChain.
- Tworzyć wizualizacje za pomocą Matplotlib i innych bibliotek Python zintegrowanych z LangChain.
- Wykorzystanie LangChain do generowania wniosków z analizy danych w języku naturalnym.
LangChain Fundamentals
14 godzinThis instructor-led, live training in Polsce (online or onsite) is aimed at beginner-level to intermediate-level developers and software engineers who wish to learn the core concepts and architecture of LangChain and gain the practical skills for building AI-powered applications.
By the end of this training, participants will be able to:
- Grasp the fundamental principles of LangChain.
- Set up and configure the LangChain environment.
- Understand the architecture and how LangChain interacts with large language models (LLMs).
- Develop simple applications using LangChain.
Getting Started with Ollama: Running Local AI Models
7 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla początkujących profesjonalistów, którzy chcą zainstalować, skonfigurować i używać Ollama do uruchamiania modeli AI na swoich lokalnych komputerach.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zrozumieć podstawy Ollama i jego możliwości.
- Skonfigurować Ollama do uruchamiania lokalnych modeli AI.
- Wdrażać i współdziałać z LLM przy użyciu Ollama.
- Optymalizacja wydajności i wykorzystania zasobów dla obciążeń AI.
- Poznanie przypadków użycia dla lokalnych wdrożeń AI w różnych branżach.
Securing AI Models: Threats, Attacks, and Defenses
14 godzinTo szkolenie prowadzone przez instruktora w Polsce (online lub na miejscu) jest skierowane do profesjonalistów zajmujących się sztuczną inteligencją i cyberbezpieczeństwem na poziomie średnim, którzy chcą zrozumieć i zminimalizować pojawiające się zagrożenia dla modeli AI, stosując zarówno koncepcyjne ramy, jak i praktyczne obrony, takie jak trwałe szkolenie i różnicowe prywatność.
Na koniec tego szkolenia uczestnicy będą mogli:
- Wykrywać i klasyfikować zagrożenia specyficzne dla AI, takie jak ataki przeciwnikowe, inwersja i zatruwanie.
- Używać narzędzi, takich jak Adversarial Robustness Toolbox (ART), do symulacji ataków i testowania modeli.
- Zastosować praktyczne obrony, w tym szkolenie przeciwnikowe, wstrzykiwanie szumu i techniki zachowujące prywatność.
- Projektować strategie oceny modeli świadome zagrożeń w środowiskach produkcyjnych.