Plan Szkolenia
Podstawy architektury systemów AI
- Warstwy, granice i rozdzielenie odpowiedzialności
- Porty i adaptery w zastosowaniu do komponentów AI
- Scenariusze atrybutów jakościowych dla funkcji AI
- Rekordy decyzji architektonicznych jako narzędzie zarządzania
Ewolucja istniejącej aplikacji
- Stopniowa modernizacja zamiast przepisywania od nowa
- Umieszczanie usług AI obok istniejącego monolitu
- Wzorce dusiciela i warstwy antykorupcyjnej
- Punkty integracyjne dla istniejących interfejsów API i danych
Wzorce architektury integracji LLM
- Brama modeli jako granica abstrakcji
- Integracja synchroniczna, asynchroniczna i strumieniowa
- Mechanizmy awaryjne, degradacja i przełączanie dostawców
- Konfiguracja promptów i modeli jako wersjonowane zasoby
Kontrakty, interfejsy API i wymiana danych
- Schematy wyjścia strukturalnego i walidacja
- Idempotentność, ponawianie prób i ograniczanie szybkości
- Budżety opóźnień i orkiestracja limitów czasu
- Koszt na żądanie jako ograniczenie architektoniczne
Architektura RAG od początku do końca
- Potok pozyskiwania, dzielenia na fragmenty i osadzania
- Etapy indeksowania, wyszukiwania, ponownego rankingowania i generowania
- Umiejscowienie wyszukiwania względem usług aplikacyjnych
- Kompromisy i tryby awarii na każdym etapie
Wektorowe bazy danych i projektowanie wyszukiwania
- Zarządzane a samodzielnie hostowane magazyny wektorowe
- Wyszukiwanie gęste, rzadkie i hybrydowe
- Filtrowanie metadanych i izolacja najemców
- Strategia ponownego osadzania przy zmianie modeli
Jakość wyszukiwania, uziemienie i ocena
- Zestawy ewaluacyjne budowane na podstawie rzeczywistych zapytań
- Metryki jakości wyszukiwania i odpowiedzi
- Cytowanie, uziemienie i ograniczanie halucynacji
- Pętle informacji zwrotnej z powrotem do indeksu
Architektury agentowe
- Pętla agenta i wywoływanie narzędzi
- Deterministyczne przepływy pracy a autonomiczni planiści
- Przypadki, w których agent jest złym rozwiązaniem
- Określanie zakresu odpowiedzialności i stanu agentów
Systemy wieloagentowe i orkiestracja
- Topologie nadzorcy i orkiestratora
- Protokoły przekazywania zadań i kontrakty komunikatów
- Pamięć współdzielona i zarządzanie kontekstem
- Porównanie frameworków na gruncie architektonicznym
Komunikacja międzyusługowa i protokoły narzędziowe
- Koordynacja oparta na zdarzeniach i kolejkach
- Udostępnianie narzędzi za pomocą standardowych protokołów
- Sagi, kompensacja i transakcje długotrwałe
- Obserwowalność wzdłuż łańcucha wywołań usług
Agenci AI w przepływie pracy programistycznej
- Agenci kodujący wewnątrz potoku dostarczania
- Rozwój oparty na specyfikacjach i bramki przeglądu
- Generowanie testów i zautomatyzowane kontrole jakości
- Zabezpieczenia, które zachowują kontrolę architektoniczną
Zarządzanie i jakość oprogramowania
- Przegląd projektowy funkcji AI
- Zarządzanie zmianami modeli i promptów
- Ocena regresji jako etap potoku
- Własność, polityki i ścieżki zatwierdzania
Bezpieczeństwo, prywatność i zarządzanie danymi
- Wstrzykiwanie promptów i obrona w głąb
- Sekrety, kontrola dostępu i zasada najmniejszych uprawnień
- Rezydencja danych, dane osobowe i retencja
- Możliwość audytu i mechanizmy kontroli z udziałem człowieka
Skalowalność, koszty i obserwowalność
- Śledzenie wzdłuż łańcuchów agentów
- Telemetria tokenów i kosztów
- Buforowanie i optymalizacja opóźnień
- Poziomy usług i reagowanie na incydenty dla usług AI
Projekt końcowy: architektura rozwiązania opartego na AI
- Widoki kontekstu, komponentów i wdrożenia
- Projekt wyszukiwania i orkiestracji agentów
- Plan bezpieczeństwa, zarządzania i kosztów
- Wzajemna ocena, krytyka i mapa drogowa migracji
Wymagania
- Doświadczenie w projektowaniu i utrzymywaniu produkcyjnych systemów oprogramowania
- Praktyczna znajomość interfejsów API REST i integracji usług
- Znajomość relacyjnych baz danych i modelowania danych
- Podstawowa styczność z narzędziami lub interfejsami API opartymi na LLM
Grupa docelowa
- Architekci oprogramowania
- Liderzy techniczni i starsi inżynierowie
- Menedżerowie inżynierii odpowiedzialni za decyzje architektoniczne
Opinie uczestników (1)
Zdobyłem wiedzę na temat biblioteki Streamlit w Pythonie i na pewno spróbuję ją wykorzystać, aby ulepszyć aplikacje w moim zespole, które są tworzone w R Shiny.
Michal Maj - XL Catlin Services SE (AXA XL)
Szkolenie - GitHub Copilot for Developers
Przetłumaczone przez sztuczną inteligencję