Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Plan Szkolenia
Wprowadzenie do Huawei CloudMatrix
- Ekosystem CloudMatrix i przepływ wdrażania
- Obsługiwane modele, formaty i tryby wdrażania
- Typowe przypadki użycia i obsługiwane chipsety
Przygotowywanie modeli do wdrożenia
- Eksport modeli z narzędzi treningowych (MindSpore, TensorFlow, PyTorch)
- Używanie ATC (Ascend Tensor Compiler) do konwersji formatów
- Modele statyczne vs dynamiczne pod względem kształtu
Wdrażanie w CloudMatrix
- Tworzenie usług i rejestracja modeli
- Wdrażanie usług wnioskowania przez UI lub CLI
- Routing, uwierzytelnianie i kontrola dostępu
Obsługa żądań wnioskowania
- Przepływy wnioskowania wsadowego vs w czasie rzeczywistym
- Potoki wstępnego i końcowego przetwarzania danych
- Wywoływanie usług CloudMatrix z aplikacji zewnętrznych
Monitorowanie i dostrajanie wydajności
- Dzienniki wdrożeń i śledzenie żądań
- Skalowanie zasobów i równoważenie obciążenia
- Dostrajanie opóźnień i optymalizacja przepustowości
Integracja z narzędziami enterprise
- Łączenie CloudMatrix z OBS i ModelArts
- Korzystanie z workflow i wersjonowania modeli
- CI/CD dla wdrażania i wycofywania modeli
Kompleksowy potok wnioskowania
- Wdrażanie kompletnego potoku klasyfikacji obrazów
- Testowanie wydajności i walidacja dokładności
- Symulowanie przełączania awaryjnego i alertów systemowych
Podsumowanie i kolejne kroki
Wymagania
- Zrozumienie przebiegu trenowania modeli AI
- Doświadczenie z frameworkami ML opartymi na Pythonie
- Podstawowa znajomość koncepcji wdrażania w chmurze
Grupa docelowa
- Zespoły AI ops
- Inżynierowie uczenia maszynowego
- Specjaliści ds. wdrożeń chmurowych pracujący z infrastrukturą Huawei
21 godzin
Opinie uczestników (1)
Inżynieria Promptów była świetna, a także możliwość poznania rożych LLM