Plan Szkolenia
Podstawy NiFi i Przepływu Danych
- Dane w ruchu vs. dane w spoczynku: koncepcje i wyzwania
- Architektura NiFi: rdzenie, kontroler przepływu, pochodzenie danych i biuletyny
- Kluczowe komponenty: procesory, połączenia, kontrolery i pochodzenie danych
Kontekst i Integracja Wielkich Danych
- Rola NiFi w ekosystemach Big Data (Hadoop, Kafka, chmura)
- Przegląd HDFS, MapReduce i nowoczesnych alternatyw
- Kluczowe przypadki zastosowania: przesyłanie strumieniowe, logowanie, potoki zdarzeń
Instalacja, Konfiguracja i Ustawianie Klastera
- Zainstalowanie NiFi w trybie jedno- i wielo-węzłowym
- Konfiguracja klastra: role węzłów, zookeeper i balansowanie obciążenia
- Orczeustwo wdrożeń NiFi: używanie Ansible, Docker lub Helm
Projektowanie i Zarządzanie Przepływami Danych
- Routowanie, filtrowanie, dzielenie i łączenie przepływów
- Konfiguracja procesorów (InvokeHTTP, QueryRecord, PutDatabaseRecord itp.)
- Obsługa schematów, wzbogacanie i operacje transformacji
- Obsługa błędów, relacje ponownych prób i backpressure
Scenariusze Integracyjne
- Połączenie z bazami danych, systemami komunikatów i REST API
- Przesyłanie strumieniowe do systemów analizy: Kafka, Elasticsearch lub chmura
- Integracja z Splunk, Prometheus lub potokami logowania
Monitorowanie, Odzyskiwanie i Pochodzenie Danych
- Korzystanie z UI NiFi, metryk i wizualizatora pochodzenia danych
- Projektowanie autonomicznego odzyskiwania i eleganckiej obsługi awarii
- Kopia zapasowa, wersjonowanie przepływów i zarządzanie zmianami
Optymalizacja Wydajności
- Dostosowywanie JVM, kopułki pamięci, pul wątków i parametrów klastra
- Optymalizacja projektu przepływu w celu zmniejszenia zastoinów
- Izolowanie zasobów, priorytetyzacja przepływów i kontrola przepustowości
Najlepsze Praktyki i Zarządzanie
- Dokumentacja przepływu, standardy nazewnicze, modułowa konstrukcja
- Zabezpieczenia: TLS, uwierzytelnianie, sterowanie dostępem, szyfrowanie danych
- Kontrola zmian, wersjonowanie, sterowanie rolami i śledzenie audytowe
Rozwiązywanie Problemów i Reakcja na Incydenty
- Częste problemy: zakleszczenia, wycieki pamięci, błędy procesorów
- Analiza dzienników, diagnostyka błędów i badanie przyczyn zasadniczych
- Strategie odzyskiwania i cofania zmian w przepływie
Laboratorium Praktyczne: Realistyczna Implementacja Potoku Danych
- Tworzenie przepływu od początku do końca: ingest, transformacja, dostarczanie
- Zaimplementowanie obsługi błędów, backpressure i skalowania
- Test wydajnościowy i optymalizacja potoku
Podsumowanie i Następne Kroki
Wymagania
- Znajomość linii poleceń Linux
- Podstawowe zrozumienie sieci i systemów danych
- Doświadczenie w przesyłaniu strumieniowym danych lub koncepcjach ETL
Odbiorcy
- Administratorzy systemowi
- Inżynierowie danych
- Programiści
- Profesjonaliści DevOps
Opinie uczestników (7)
Ćwiczenia praktyczne. Zajęcia powinny trwać 5 dni, ale 3 dni pomogły wyjaśnić wiele pytań, które miałem już podczas pracy z NiFi
James - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Uważam, że tempo trenera było dobre. Nie pozostawił żadnego ucznia w tyle ze swoim podejściem. Był bardzo pomocny dla nas NEWBIES, którzy mogli nie mieć roli administratora systemu lub infrastruktury podczas naszej kariery lub wskrzesić te umiejętności z poprzedniego okresu naszej kariery.
Pamdrea Ivory - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Podoba mi się część praktyczna. Pomogło mi to lepiej zachować informacje, wykonując dostarczone ćwiczenia. Ponadto zdolność trenera do angażowania się w całą klasę sprawiła, że czułem się komfortowo zadając pytania na temat rzeczy, których nie byłem pewien.
Leila - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Przypadki użycia, przykłady tworzenia przepływów danych NiFi. Pracowaliśmy nad rozwiązywaniem typowych problemów i błędów.
Nelson - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Podobała mi się struktura. W dniu 1 zagłębiliśmy się w podstawy Nifi, koncepcje, przypadki użycia itp. W dniu 2 musieliśmy zastosować wiedzę z dnia 1 w praktyce, budując przepływy, aby spełnić wymagania scenariusza. W dniu 3 mogliśmy zobaczyć rejestr Nifi i kontrolę wersji, mulit-tenancy i przejść do pytań i odpowiedzi.
Adam - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Lubię, jak potrafił wytłumaczyć sprawy dotyczące NiFi i jak potężny jest ten system. Możesz go praktycznie użyć dla dowolnej infrastruktury i korzystać z wielu różnych języków programowania. Ponadto byłem szczęśliwy, że udało nam się rozwiązać problem z odnowieniem certyfikatu NiFi, który mieliśmy z Truststore.
Joachim Martin - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
wiedza ogólne i możliwości, które oferowała szkolenie w zakresie narzędzia.
Nalfis Tobar - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję