DeepSpeed for Deep Learning - Plan Szkolenia
DeepSpeed to biblioteka do optymalizacji głębokiego uczenia, która ułatwia skalowanie modeli głębokiego uczenia na rozproszonym sprzęcie. Opracowany przez Microsoft, DeepSpeed integruje się z Py Torch, aby zapewnić lepsze skalowanie, szybsze szkolenie i lepsze wykorzystanie zasobów.
Szkolenie na żywo prowadzone przez instruktora (na miejscu lub zdalnie) jest przeznaczone dla początkujących i średnio zaawansowanych naukowców zajmujących się danymi i inżynierów uczenia maszynowego, którzy chcą poprawić wydajność swoich modeli głębokiego uczenia się.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zrozumieć zasady rozproszonego głębokiego uczenia się.
- Zainstalować i skonfigurować DeepSpeed.
- Skalować modele głębokiego uczenia na rozproszonym sprzęcie za pomocą DeepSpeed.
- Wdrażać i eksperymentować z funkcjami DeepSpeed w celu optymalizacji i wydajności pamięci.
Format kursu
- Interaktywny wykład i dyskusja.
- Wiele ćwiczeń i praktyki.
- Praktyczne wdrożenie w środowisku laboratoryjnym na żywo.
Opcje dostosowywania kursu
- Aby poprosić o spersonalizowane szkolenie dla tego kursu, skontaktuj się z nami.
Plan Szkolenia
Wprowadzenie
- Przegląd wyzwań związanych ze skalowaniem uczenia głębokiego
- Przegląd DeepSpeed i jego funkcji
- DeepSpeed a inne biblioteki rozproszonego uczenia głębokiego
Pierwsze kroki
- Konfiguracja środowiska programistycznego
- Instalowanie PyTorch i DeepSpeed
- Konfigurowanie DeepSpeed do rozproszonego uczenia
Funkcje optymalizacji DeepSpeed
- Potok szkoleniowy DeepSpeed
- ZeRO (optymalizacja pamięci)
- Punkt kontrolny aktywacji
- Punkt kontrolny gradientu
- Równoległość potoku
Skalowanie modeli za pomocą DeepSpeed
- Podstawowe skalowanie przy użyciu DeepSpeed
- Zaawansowane techniki skalowania
- Rozważania dotyczące wydajności i najlepsze praktyki
- Techniki debugowania i rozwiązywania problemów
Zaawansowane tematy DeepSpeed
- Zaawansowane techniki optymalizacji
- Używanie DeepSpeed z treningiem o mieszanej precyzji
- DeepSpeed na różnym sprzęcie (np. GPUs, TPU)
- DeepSpeed z wieloma węzłami szkoleniowymi
Integracja DeepSpeed z PyTorch
- Integracja DeepSpeed z przepływami pracy PyTorch
- Używanie DeepSpeed z PyTorch Lightning
Rozwiązywanie problemów
- Debugowanie typowych problemów DeepSpeed
- Monitorowanie i rejestrowanie
Podsumowanie i kolejne kroki
- Podsumowanie kluczowych pojęć i funkcji
- Najlepsze praktyki dotyczące korzystania z DeepSpeed w środowisku produkcyjnym
- Dalsze zasoby, aby dowiedzieć się więcej o DeepSpeed
Wymagania
- Pośrednia znajomość zasad głębokiego uczenia się
- Doświadczenie z PyTorch lub podobnymi frameworkami głębokiego uczenia się
- Znajomość programowania Python
Odbiorcy
- Naukowcy zajmujący się danymi
- Inżynierowie uczenia maszynowego
- Programiści
Szkolenia otwarte są realizowane w przypadku uzbierania się grupy szkoleniowej liczącej co najmniej 5 osób na dany termin.
DeepSpeed for Deep Learning - Plan Szkolenia - Booking
DeepSpeed for Deep Learning - Plan Szkolenia - Enquiry
DeepSpeed for Deep Learning - Zapytanie o Konsultacje
Zapytanie o Konsultacje
Propozycje terminów
Szkolenia Powiązane
Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation
21 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średnio zaawansowanych i zaawansowanych naukowców zajmujących się danymi, inżynierów uczenia maszynowego, badaczy głębokiego uczenia się i ekspertów od wizji komputerowej, którzy chcą poszerzyć swoją wiedzę i umiejętności w zakresie głębokiego uczenia się w celu generowania tekstu na obraz.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zrozumieć zaawansowane architektury i techniki głębokiego uczenia się do generowania tekstu na obraz.
- Wdrożyć złożone modele i optymalizacje dla wysokiej jakości syntezy obrazu.
- Optymalizować wydajność i skalowalność dla dużych zbiorów danych i złożonych modeli.
- Dostrajanie hiperparametrów w celu uzyskania lepszej wydajności i uogólnienia modelu.
- Integracja Stable Diffusion z innymi strukturami i narzędziami głębokiego uczenia się
AlphaFold
7 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (online lub na miejscu) jest przeznaczone dla biologów, którzy chcą zrozumieć, jak działa AlphaFold i używać modeli AlphaFold jako przewodników w swoich badaniach eksperymentalnych.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Zrozumieć podstawowe zasady AlphaFold.
- Dowiedzieć się, jak działa AlphaFold.
- Dowiedzieć się, jak interpretować prognozy i wyniki AlphaFold.
Applied AI from Scratch
28 godzinJest to 4-dniowy kurs wprowadzający w sztuczną inteligencję i jej zastosowanie. Istnieje możliwość odbycia dodatkowego dnia w celu podjęcia projektu AI po ukończeniu tego kursu.
Deep Learning for Vision with Caffe
21 godzinCaffe to platforma głębokiego uczenia stworzona z myślą o ekspresji, szybkości i modułowości.
Ten kurs bada zastosowanie Caffe jako struktury głębokiego uczenia się do rozpoznawania obrazów na przykładzie MNIST
Uczestnicy
Ten kurs jest odpowiedni dla Deep Learning badaczy i inżynierów zainteresowanych wykorzystaniem Caffe jako frameworka.
Po ukończeniu tego kursu uczestnicy będą w stanie
- zrozumieć strukturę i mechanizmy wdrażania Caffe&rsquo
- przeprowadzać zadania i konfigurację instalacji / środowiska produkcyjnego / architektury
- oceniać jakość kodu, przeprowadzać debugowanie, monitorowanie
- wdrażać zaawansowaną produkcję, taką jak modele szkoleniowe, wdrażanie warstw i rejestrowanie
Deep Learning Neural Networks with Chainer
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla naukowców i programistów, którzy chcą używać Chainer do budowania i trenowania sieci neuronowych w Python, jednocześnie ułatwiając debugowanie kodu.
Pod koniec tego szkolenia uczestnicy będą mogli
- Skonfigurować niezbędne środowisko programistyczne, aby rozpocząć tworzenie modeli sieci neuronowych.
- Definiować i wdrażać modele sieci neuronowych przy użyciu zrozumiałego kodu źródłowego.
- Wykonywać przykłady i modyfikować istniejące algorytmy w celu optymalizacji modeli szkoleniowych głębokiego uczenia się, jednocześnie wykorzystując GPU w celu uzyskania wysokiej wydajności.
Using Computer Network ToolKit (CNTK)
28 godzinComputer Network ToolKit (CNTK) jest Microsoft otwartym, wielomaszynowym, wieloGPU, wysoce wydajnym uczeniem maszynowym RNN dla mowy, tekstu i obrazów.
Odbiorcy
Ten kurs jest skierowany do inżynierów i architektów, którzy chcą wykorzystać CNTK w swoich projektach.
Computer Vision with Google Colab and TensorFlow
21 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych profesjonalistów, którzy chcą pogłębić swoją wiedzę na temat wizji komputerowej i poznać możliwości TensorFlow w zakresie opracowywania zaawansowanych modeli wizyjnych przy użyciu Google Colab.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Budować i trenować konwolucyjne sieci neuronowe (CNN) przy użyciu TensorFlow.
- Wykorzystać Google Colab do skalowalnego i wydajnego rozwoju modeli opartych na chmurze.
- Wdrażać techniki wstępnego przetwarzania obrazu dla zadań wizji komputerowej.
- Wdrażanie modeli wizji komputerowej do rzeczywistych zastosowań.
- Wykorzystanie uczenia transferowego w celu zwiększenia wydajności modeli CNN.
- Wizualizacja i interpretacja wyników modeli klasyfikacji obrazów.
Deep Learning with TensorFlow in Google Colab
14 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla średnio zaawansowanych naukowców zajmujących się danymi i programistów, którzy chcą zrozumieć i zastosować techniki głębokiego uczenia się przy użyciu środowiska Google Colab.
Pod koniec tego szkolenia uczestnicy będą w stanie
- Konfigurować i nawigować Google Colab dla projektów głębokiego uczenia.
- Zrozumieć podstawy sieci neuronowych.
- Implementować modele głębokiego uczenia się przy użyciu TensorFlow.
- Trenować i oceniać modele głębokiego uczenia.
- Wykorzystywać zaawansowane funkcje TensorFlow do głębokiego uczenia.
Deep Learning for NLP (Natural Language Processing)
28 godzinW tym instruktażowym szkoleniu na żywo w Polsce uczestnicy nauczą się korzystać z Python bibliotek dla NLP, tworząc aplikację, która przetwarza zestaw zdjęć i generuje podpisy.
Po zakończeniu tego szkolenia uczestnicy będą w stanie
- Projektowanie i kodowanie DL dla NLP przy użyciu Python bibliotek.
- Tworzenie Python kodu, który odczytuje ogromną kolekcję zdjęć i generuje słowa kluczowe.
- Stwórz Pythonkod, który generuje podpisy na podstawie wykrytych słów kluczowych.
Edge AI with TensorFlow Lite
14 godzinThis instructor-led, live training in Polsce (online or onsite) is aimed at intermediate-level developers, data scientists, and AI practitioners who wish to leverage TensorFlow Lite for Edge AI applications.
By the end of this training, participants will be able to:
- Understand the fundamentals of TensorFlow Lite and its role in Edge AI.
- Develop and optimize AI models using TensorFlow Lite.
- Deploy TensorFlow Lite models on various edge devices.
- Utilize tools and techniques for model conversion and optimization.
- Implement practical Edge AI applications using TensorFlow Lite.
Accelerating Deep Learning with FPGA and OpenVINO
35 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla naukowców zajmujących się danymi, którzy chcą przyspieszyć aplikacje uczenia maszynowego w czasie rzeczywistym i wdrożyć je na dużą skalę.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zainstalować zestaw narzędzi OpenVINO.
- Przyspieszyć aplikację widzenia komputerowego za pomocą FPGA.
- Wykonywać różne warstwy CNN na FPGA.
- Skalować aplikację na wielu węzłach w klastrze Kubernetes.
Distributed Deep Learning with Horovod
7 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla programistów lub naukowców zajmujących się danymi, którzy chcą używać Horovod do uruchamiania rozproszonych szkoleń z głębokiego uczenia się i skalowania ich w celu równoległego działania na wielu GPU.
Pod koniec tego szkolenia uczestnicy będą mogli
- Skonfigurować niezbędne środowisko programistyczne, aby rozpocząć prowadzenie szkoleń z zakresu głębokiego uczenia się.
- Zainstalować i skonfigurować Horovod do trenowania modeli z TensorFlow, Keras, PyTorch i Apache MXNet.
- Skalować trening głębokiego uczenia z Horovod, aby działał na wielu GPU.
Deep Learning with Keras
21 godzinTo prowadzone przez instruktora szkolenie na żywo w Polsce (na miejscu lub zdalnie) jest przeznaczone dla osób technicznych, które chcą zastosować model głębokiego uczenia się do aplikacji rozpoznawania obrazu.
Pod koniec tego szkolenia uczestnicy będą mogli:
- Zainstalować i skonfigurować Keras.
- Szybko prototypować modele głębokiego uczenia się.
- Wdrożyć sieć konwolucyjną.
- Zaimplementować sieć rekurencyjną.
- Wykonać model głębokiego uczenia zarówno na CPU, jak i GPU.
Introduction to Stable Diffusion for Text-to-Image Generation
21 godzinTo prowadzone przez instruktora szkolenie na żywo (na miejscu lub zdalnie) jest przeznaczone dla naukowców zajmujących się danymi, inżynierów uczenia maszynowego i badaczy wizji komputerowej, którzy chcą wykorzystać Stable Diffusion do generowania wysokiej jakości obrazów dla różnych przypadków użycia.
Pod koniec tego szkolenia uczestnicy będą mogli
- Zrozumieć zasady Stable Diffusion i jak to działa w przypadku generowania obrazów.
- Budować i trenować modele Stable Diffusion do zadań generowania obrazów.
- Zastosować Stable Diffusion do różnych scenariuszy generowania obrazów, takich jak inpainting, outpainting i tłumaczenie obrazu na obraz.
- Optymalizacja wydajności i stabilności modeli Stable Diffusion.
Tensorflow Lite for Microcontrollers
21 godzinSzkolenie na żywo prowadzone przez instruktora (na miejscu lub zdalnie) jest przeznaczone dla inżynierów, którzy chcą pisać, ładować i uruchamiać modele uczenia maszynowego na bardzo małych urządzeniach wbudowanych.
Po zakończeniu tego szkolenia uczestnicy będą w stanie
- Instalacja TensorFlow Lite.
- Załaduj modele uczenia maszynowego na urządzenie wbudowane, aby umożliwić mu wykrywanie mowy, klasyfikowanie obrazów itp.
- Dodaj sztuczną inteligencję do urządzeń sprzętowych bez polegania na łączności sieciowej.