Plan Szkolenia

Wprowadzenie do QLoRA i kwantyzacji

  • Przegląd kwantyzacji i jej roli w optymalizacji modeli
  • Wprowadzenie do ramki QLoRA i jej zalet
  • Główną różnice między QLoRA a tradycyjnymi metodami dostrajania

Podstawy Wielkich Modeli Językowych (LLMs)

  • Wprowadzenie do LLMs i ich architektury
  • Wyzwania dostrajania dużych modeli w dużą skalę
  • Jak kwantyzacja pomaga pokonać ograniczenia obliczeniowe w dostrajaniu LLMs

Wdrożenie QLoRA do dostrajania LLMs

  • Ustawienie ramki QLoRA i środowiska
  • Przygotowanie zbiorów danych do dostrajania QLoRA
  • Krok po kroku przewodnik do wdrożenia QLoRA na LLMs za pomocą Pythona i PyTorch/TensorFlow

Optymalizacja wydajności dostrajania z QLoRA

  • Jak zbalansować dokładność modelu i wydajność za pomocą kwantyzacji
  • Techniki zmniejszania kosztów obliczeniowych i zużycia pamięci podczas dostrajania
  • Strategie dostrajania z minimalnymi wymaganiami sprzętowymi

Ocena dostrojonych modeli

  • Jak ocenić skuteczność dostrojonych modeli
  • Powszechne metryki oceny dla modeli językowych
  • Optymalizacja wydajności modelu po dostrajaniu i rozwiązywanie problemów

Wdrażanie i skalowanie dostrojonych modeli

  • Najlepsze praktyki wdrażania zkwantyzowanych LLMs w środowiskach produkcyjnych
  • Skalowanie wdrażania do obsługi żądań w czasie rzeczywistym
  • Narzędzia i ramki do wdrażania i monitorowania modeli

Przykłady zastosowań i studia przypadków z życia rzeczywistego

  • Studium przypadku: dostrajanie LLMs do obsługi klientów i zadań NLP
  • Przykłady dostrajania LLMs w różnych branżach, takich jak opieka zdrowotna, finanse i e-commerce
  • Wnioski z realnych wdrażeń modeli opartych na QLoRA

Podsumowanie i następne kroki

Wymagania

  • Zrozumienie podstaw maszynowego uczenia się i sieci neuronowych
  • Doświadczenie w dostrajaniu modeli i transfer learningu
  • Znajomość dużych modeli językowych (LLMs) i ram deep learningu (np., PyTorch, TensorFlow)

Grupa docelowa

  • Inżynierowie maszynowego uczenia się
  • Rozwijacze AI
  • Naukowcy danych
 14 godzin

Liczba uczestników


cena netto za uczestnika

Propozycje terminów

Powiązane Kategorie