Plan Szkolenia

Wprowadzenie do QLoRA i kwantyzacji

  • Przegląd kwantyzacji i jej roli w optymalizacji modeli
  • Wprowadzenie do frameworka QLoRA i jego zalet
  • Kluczowe różnice między QLoRA a tradycyjnymi metodami dostrajania

Podstawy dużych modeli językowych (LLM)

  • Wprowadzenie do LLM i ich architektury
  • Wyzwania związane z dostrajaniem dużych modeli na dużą skalę
  • Jak kwantyzacja pomaga pokonać ograniczenia obliczeniowe w dostrajaniu LLM

Implementacja QLoRA do dostrajania LLM

  • Konfiguracja frameworka QLoRA i środowiska
  • Przygotowywanie zbiorów danych do dostrajania QLoRA
  • Krok po kroku implementacja QLoRA na LLM przy użyciu Pythona i PyTorch/TensorFlow

Optymalizacja wydajności dostrajania przy użyciu QLoRA

  • Jak zrównoważyć dokładność modelu i wydajność przy użyciu kwantyzacji
  • Techniki redukcji kosztów obliczeniowych i zużycia pamięci podczas dostrajania
  • Strategie dostrajania przy minimalnych wymaganiach sprzętowych

Ocena dostrojonych modeli

  • Jak ocenić skuteczność dostrojonych modeli
  • Typowe metryki oceny dla modeli językowych
  • Optymalizacja wydajności modelu po dostrojeniu i rozwiązywanie problemów

Wdrażanie i skalowanie dostrojonych modeli

  • Najlepsze praktyki wdrażania skwantyzowanych LLM do środowisk produkcyjnych
  • Skalowanie wdrożenia do obsługi żądań w czasie rzeczywistym
  • Narzędzia i frameworki do wdrażania i monitorowania modeli

Przypadki użycia i studia przypadków z rzeczywistych zastosowań

  • Studium przypadku: Dostrajanie LLM do obsługi klienta i zadań NLP
  • Przykłady dostrajania LLM w różnych branżach, takich jak opieka zdrowotna, finanse i e-commerce
  • Lekcje wyniesione z rzeczywistych wdrożeń modeli opartych na QLoRA

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie podstaw uczenia maszynowego i sieci neuronowych
  • Doświadczenie w dostrajaniu modeli i uczeniu transferowym
  • Znajomość dużych modeli językowych (LLM) i frameworków do głębokiego uczenia (np. PyTorch, TensorFlow)

Grupa docelowa

  • Inżynierowie uczenia maszynowego
  • Programiści AI
  • Naukowcy zajmujący się danymi
 14 godzin

Liczba uczestników


Cena za uczestnika

Propozycje terminów

Powiązane Kategorie