Observowalność napędzana przez sztuczną inteligencję: od logów po wyniki generowane przy użyciu modelu LLM - Plan Szkolenia

Landszaft AI Observability

• Od dashboardów do konwersacji: zmiana podejścia w kierunku obserwacji wzmocnionej przez AI
• Zdolności modeli LLM istotne dla observowalności: podsumowywanie, wnioskowanie, dopasowywanie wzorców
• Wzorce architektoniczne: wbudowywanie AI do istniejących stosów technologicznych obserwacji

Zapytania telemetryczne w języku naturalnym

• Text-to-PromQL: tłumaczenie języka naturalnego na zapytania monitorujące
• Zapytania NL dla magazynów logów Elasticsearch, OpenSearch i Loki
• Generowanie kodu SQL z języka naturalnego do ustrukturyzowanej telemetrii
• Tworzenie agenta pomocnika zapytań z wykorzystaniem narzędzi i świadomości kontekstu

Analiza logów wspierana przez modele LLM

• Zautomatyzowane parsowanie i strukturyzacja logów z wykorzystaniem modeli LLM
• Wykrywanie anomalii w strumieniach logów przy użyciu podobieństwa wektorowego (embedding similarity)
• Klastrowanie logów i odkrywanie wzorców w skali
• Generowanie objaśnień zrozumiałych dla człowieka z surowych ciągów logów

Inteligentne alarmowanie i wzbogacanie incydentów

• Korelacja alertów i eliminacja duplikatów przy zrozumieniu semantycznym
• Zautomatyzowane gromadzenie kontekstu incydentu z podręczników (runbooks), przeszłych incydentów i dokumentacji
• Inteligentne kierowanie alertów na podstawie zrozumienia treści i wiedzy zespołu
• Ograniczanie zmęczenia alarmami poprzez redukcję szumu napędzaną przez AI

Identyfikacja przyczyny źródłowej ze wsparciem AI

• Kreowanie hipotez na podstawie korelacji telemetrii z wielu źródeł
• Evidence chaining: łączenie objawów w zakresie metryk, logów i trace'ów
• Kierowane rozwiązywanie problemów z interaktywnymi sesjami diagnozy AI
• Tworzenie agenta identyfikacji przyczyny źródłowej z progresywnym badaniem

Zautomatyzowana reakcja na incydenty i komunikacja

• Generowanie podsumowań incydentów i aktualizacji statusu na podstawie telemetrii
• Zautomatyzowane tworzenie raportów postmortem z rekonstrukcją oś czasu
• Komunikacja z interesariuszami dostosowana do odbiorców technicznych i zarządzających
• Sugestie dotyczący podręczników (runbook) oraz automatyczne rekomendacje remedacji

ML dla Observability

• Prognozowanie szeregów czasowych do planowania pojemności i prognozowania anomalii
• Modele bazowe do wykrywania anomalii „zero-shot” na metrykach
• Mapowanie zależności usług i odkrywanie topologii na podstawie embeddingów
• Szkolenie i wdrażanie lekkich modeli ML wraz z potokami obserwacyjnymi

Wdrożenia produkcyjne i etyka

• Rozważania dotyczące opóźnień i kosztów dla rzeczywistej observowalności napędzanej przez AI
• Prywatność danych: zapewnienie, że modele LLM nie wypuszczają wrażliwych danych telemetrii
• Nadzór człowieka: kiedy diagnoza AI wymaga walidacji przez operatora
• Mierzenie wpływu: MTTD, MTTR i metryki dotyczące doświadczenia podczas dyżurów (on-call)