Plan Szkolenia
Podstawy NiFi i Przepływu Danych
- Dane w ruchu vs. dane w spoczynku: koncepcje i wyzwania
- Architektura NiFi: rdzenie, kontroler przepływu, pochodzenie danych i biuletyny
- Kluczowe komponenty: procesory, połączenia, kontrolery i pochodzenie danych
Kontekst i Integracja Wielkich Danych
- Rola NiFi w ekosystemach Big Data (Hadoop, Kafka, chmura)
- Przegląd HDFS, MapReduce i nowoczesnych alternatyw
- Kluczowe przypadki zastosowania: przesyłanie strumieniowe, logowanie, potoki zdarzeń
Instalacja, Konfiguracja i Ustawianie Klastera
- Zainstalowanie NiFi w trybie jedno- i wielo-węzłowym
- Konfiguracja klastra: role węzłów, zookeeper i balansowanie obciążenia
- Orczeustwo wdrożeń NiFi: używanie Ansible, Docker lub Helm
Projektowanie i Zarządzanie Przepływami Danych
- Routowanie, filtrowanie, dzielenie i łączenie przepływów
- Konfiguracja procesorów (InvokeHTTP, QueryRecord, PutDatabaseRecord itp.)
- Obsługa schematów, wzbogacanie i operacje transformacji
- Obsługa błędów, relacje ponownych prób i backpressure
Scenariusze Integracyjne
- Połączenie z bazami danych, systemami komunikatów i REST API
- Przesyłanie strumieniowe do systemów analizy: Kafka, Elasticsearch lub chmura
- Integracja z Splunk, Prometheus lub potokami logowania
Monitorowanie, Odzyskiwanie i Pochodzenie Danych
- Korzystanie z UI NiFi, metryk i wizualizatora pochodzenia danych
- Projektowanie autonomicznego odzyskiwania i eleganckiej obsługi awarii
- Kopia zapasowa, wersjonowanie przepływów i zarządzanie zmianami
Optymalizacja Wydajności
- Dostosowywanie JVM, kopułki pamięci, pul wątków i parametrów klastra
- Optymalizacja projektu przepływu w celu zmniejszenia zastoinów
- Izolowanie zasobów, priorytetyzacja przepływów i kontrola przepustowości
Najlepsze Praktyki i Zarządzanie
- Dokumentacja przepływu, standardy nazewnicze, modułowa konstrukcja
- Zabezpieczenia: TLS, uwierzytelnianie, sterowanie dostępem, szyfrowanie danych
- Kontrola zmian, wersjonowanie, sterowanie rolami i śledzenie audytowe
Rozwiązywanie Problemów i Reakcja na Incydenty
- Częste problemy: zakleszczenia, wycieki pamięci, błędy procesorów
- Analiza dzienników, diagnostyka błędów i badanie przyczyn zasadniczych
- Strategie odzyskiwania i cofania zmian w przepływie
Laboratorium Praktyczne: Realistyczna Implementacja Potoku Danych
- Tworzenie przepływu od początku do końca: ingest, transformacja, dostarczanie
- Zaimplementowanie obsługi błędów, backpressure i skalowania
- Test wydajnościowy i optymalizacja potoku
Podsumowanie i Następne Kroki
Wymagania
- Znajomość linii poleceń Linux
- Podstawowe zrozumienie sieci i systemów danych
- Doświadczenie w przesyłaniu strumieniowym danych lub koncepcjach ETL
Odbiorcy
- Administratorzy systemowi
- Inżynierowie danych
- Programiści
- Profesjonaliści DevOps
Opinie uczestników (7)
Ćwiczenia praktyczne. Kurs powinien trwać 5 dni, ale 3 dni pomogły rozstrzygnąć wiele pytań, które miałem związanymi z pracą w NiFi.
James - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Uznawałem, że tempo prowadzone przez trenera było odpowiednie. Nie zostawił żadnego uczestnika za sobą dzięki swojemu podejściu. Był bardzo wsparciem dla nas, NOWICJKÓW, którzy mogą nie mieć doświadczenia z rolą Administratora Systemów lub Infrastruktury w trakcie kariery lub którzy odświeżali te umiejętności po dłuższej przerwie.
Pamdrea Ivory - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Podoba mi się praktyczna część. Ułatwiła mi lepsze zapamiętanie informacji poprzez wykonywanie podanych ćwiczeń. Ponadto, umiejętność trenera angażowania całej klasy sprawiła, że czułem się komfortowo pytając o rzeczy, których nie byłem pewien.
Leila - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Przypadki zastosowania i przykłady tworzenia przepłyów danych w NiFi. Rozwiązujemy typowe problemy i pułapki.
Nelson - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Lubiłem strukturę. W pierwszym dniu zanurzyliśmy się w podstawach Nifi, pojęciach, zastosowaniach itp. Na drugi dzień praktycznie wykorzystaliśmy zdobyte wiedze, tworząc przepływy spełniające wymagania scenariuszy. W trzecim dniu zapoznaliśmy się z Nifi Registry, kontrolą wersji, wieloużytkownictwem oraz odbyła się sesja Q&A.
Adam - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
Podoba mi się, jak udało mu się omówić Nifi oraz jego potęgę. Możesz go zasadniczo wykorzystać w dowolnej infrastrukturze i korzystać z wielu różnych języków komputerowych. Równie miło było, że udało nam się rozwiązać problem odnowy certyfikatu Nifi, którym mieliśmy trudności z Truststore.
Joachim Martin - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję
ogólne wiedza i możliwości, jakie szkolenie oferuje pod względem narzędzia.
Nalfis Tobar - BHG Financial
Szkolenie - Apache NiFi for Administrators
Przetłumaczone przez sztuczną inteligencję