Plan Szkolenia
Wprowadzenie do optymalizacji i wdrażania modeli
- Przegląd modeli DeepSeek i wyzwań związanych z wdrażaniem
- Zrozumienie wydajności modeli: szybkość vs. dokładność
- Kluczowe metryki wydajności dla modeli AI
Optymalizacja modeli DeepSeek pod kątem wydajności
- Techniki redukcji opóźnień w inferencji
- Strategie kwantyzacji i przycinania modeli
- Korzystanie z optymalizowanych bibliotek dla modeli DeepSeek
Wdrażanie MLOps dla modeli DeepSeek
- Kontrola wersji i śledzenie modeli
- Automatyzacja ponownego trenowania i wdrażania modeli
- Potoki CI/CD dla aplikacji AI
Wdrażanie modeli DeepSeek w środowiskach chmurowych i lokalnych
- Wybór odpowiedniej infrastruktury do wdrożenia
- Wdrażanie z wykorzystaniem Docker i Kubernetes
- Zarządzanie dostępem do API i uwierzytelnianiem
Skalowanie i monitorowanie wdrożeń AI
- Strategie równoważenia obciążenia dla usług AI
- Monitorowanie dryfu modeli i degradacji wydajności
- Wdrażanie automatycznego skalowania dla aplikacji AI
Zapewnienie bezpieczeństwa i zgodności w wdrożeniach AI
- Zarządzanie prywatnością danych w przepływach pracy AI
- Zgodność z regulacjami dotyczącymi AI w przedsiębiorstwach
- Najlepsze praktyki w zakresie bezpiecznego wdrażania AI
Przyszłe trendy i strategie optymalizacji AI
- Postępy w technikach optymalizacji modeli AI
- Nowe trendy w MLOps i infrastrukturze AI
- Tworzenie mapy drogowej wdrażania AI
Podsumowanie i kolejne kroki
Wymagania
- Doświadczenie w wdrażaniu modeli AI i infrastrukturze chmurowej
- Znajomość języka programowania (np. Python, Java, C++)
- Zrozumienie MLOps i optymalizacji wydajności modeli
Grupa docelowa
- Inżynierowie AI optymalizujący i wdrażający modele DeepSeek
- Naukowcy zajmujący się danymi, pracujący nad dostrajaniem wydajności AI
- Specjaliści od uczenia maszynowego zarządzający systemami AI opartymi na chmurze
Opinie uczestników (2)
ekosystem ML obejmuje nie tylko MLFlow, ale także Optuna, hyperops, Docker i docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Szkolenie - MLflow
Przetłumaczone przez sztuczną inteligencję
Cieszyłem się, biorąc udział w szkoleniu Kubeflow, które odbyło się zdalnie. To szkolenie pozwoliło mi ukonsolidować wiedzę na temat usług AWS, K8s oraz wszystkich narzędzi devOps związanych z Kubeflow, które stanowią niezbędne podstawy do właściwego podejścia do tego tematu. Chciałbym podziękować Marcina Malawskiego za jego cierpliwość i profesjonalizm w zakresie szkolenia oraz rad na temat najlepszych praktyk. Marcin podejmuje temat z różnych perspektyw, wykorzystując różne narzędzia wdrażania, takie jak Ansible, EKS kubectl, Terraform. Teraz jestem absolutnie przekonany, że wchodzę w właściwe pole zastosowania.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Szkolenie - Kubeflow
Przetłumaczone przez sztuczną inteligencję