LLM w aplikacjach Python – integracja z dużymi modelami językowymi - Plan Szkolenia
Szkolenie wprowadza uczestników w tematykę dużych modeli językowych i uczy praktycznej integracji z nimi w języku Python. Program obejmuje zarówno fundamenty teoretyczne działania LLM, jak i konkretne techniki komunikacji z modelami poprzez API i SDK.
Uczestnicy poznają kluczowe koncepcje takie jak tokenizacja, temperatura, okno kontekstowe oraz nauczą się konstruować skuteczne prompty z wykorzystaniem technik takich jak m.in. few-shot learning i chain-of-thought. Program przechodzi przez różne interfejsy dostępu do modeli – od platformy OpenAI i ChatGPT, przez bezpośrednie requestowanie API, aż po wykorzystanie frameworka LangChain i agregatora OpenRouter.
Szkolenie obejmuje pracę z ustrukturyzowanymi odpowiedziami (structured output), streamingiem w czasie rzeczywistym oraz embedingami tekstowymi pozwalającymi na semantyczne wyszukiwanie i porównywanie dokumentów. Duży nacisk kładziemy na praktyczne zastosowania – uczestnicy zaimplementują rozwiązania do automatycznego podsumowywania tekstów, tłumaczenia, klasyfikacji sentimentu oraz ekstrakcji informacji.
Po zakończeniu szkolenia uczestnik będzie potrafił samodzielnie projektować prompty, integrować aplikacje Python z różnymi modelami językowymi, wybierać odpowiednie techniki do konkretnych problemów oraz wdrażać rozwiązania oparte na LLM w środowisku produkcyjnym. Otrzyma praktyczną wiedzę pozwalającą na wykorzystanie modeli generatywnych w realnych projektach biznesowych.
Plan Szkolenia
Moduł I: Podstawy dużych modeli językowych
1. Mechanizmy i architektura modeli generatywnych
2. Kluczowe pojęcia – tokeny, temperatura, inne parametry modeli LLM
3. Okno kontekstowe i jego ograniczenia
4. Zjawisko halucynacji i strategie jego minimalizacji
5. Zasady skutecznego prompt engineeringu
6. Techniki formatowania promptów (few-shot learning, chain-of-thought)
7. Interfejs ChatGPT – możliwości i ograniczenia
8. Platforma OpenAI – playground, modele, zarządzanie API keys
9. Różnice między API a SDK
10. Przegląd dostępnych modeli i ich zastosowań
Moduł II: Komunikacja z modelami w Pythonie
1. Podstawy requestowania API przy użyciu biblioteki requests
2. Oficjalny SDK OpenAI
3. Obsługa odpowiedzi API i formatowanie wyników
4. Structured output – wymuszanie określonej struktury odpowiedzi
5. Streaming odpowiedzi w czasie rzeczywistym
6. Framework LangChain
7. OpenRouter jako agregator dostępu do różnych modeli
Moduł III: Reprezentacja wektorowa tekstu
1. Koncepcja embeddingów tekstowych
2. Jak modele rozumieją znaczenie – przestrzeń wektorowa
3. API embeddingów w OpenAI
4. Mierzenie podobieństwa semantycznego między tekstami
5. Praktyczne zastosowania embeddingów
Moduł IV: Praktyczne zastosowania LLM
1. Automatyczne podsumowywanie dokumentów
2. Ekstrakcja kluczowych informacji z tekstu
3. Tłumaczenie maszynowe z wykorzystaniem LLM
4. Klasyfikacja tekstów – sentiment analysis i kategoryzacja
Wymagania
Szkolenia otwarte są realizowane w przypadku uzbierania się grupy szkoleniowej liczącej co najmniej 5 osób na dany termin.