Plan Szkolenia

Wprowadzenie do Fine-Tuning Wyzwania

  • Przegląd procesu dostrajania
  • Typowe wyzwania związane z dostrajaniem dużych modeli
  • Zrozumienie wpływu jakości danych i przetwarzania wstępnego

Radzenie sobie z brakiem równowagi danych

  • Identyfikacja i analiza nierównowagi danych
  • Techniki radzenia sobie z niezrównoważonymi zestawami danych
  • Korzystanie z rozszerzania danych i danych syntetycznych

Zarządzanie nadmiernym i niedostatecznym dopasowaniem

  • Zrozumienie nadmiernego i niedostatecznego dopasowania
  • Techniki regularyzacji: L1, L2 i dropout
  • Dostosowywanie złożoności modelu i czasu trwania szkolenia

Poprawa zbieżności modelu

  • Diagnozowanie problemów z konwergencją
  • Wybór odpowiedniego tempa uczenia i optymalizatora
  • Wdrażanie harmonogramów tempa uczenia i rozgrzewek

Debugowanie Fine-Tuning potoków

  • Narzędzia do monitorowania procesów uczenia
  • Rejestrowanie i wizualizacja metryk modelu
  • Debugowanie i rozwiązywanie błędów uruchomieniowych

Optymalizacja wydajności uczenia

  • Rozmiar partii i strategie akumulacji gradientu
  • Wykorzystanie szkolenia o mieszanej precyzji
  • Rozproszone szkolenie dla modeli na dużą skalę

Studia przypadków rozwiązywania problemów w świecie rzeczywistym

  • Studium przypadku: Dostrajanie do analizy nastrojów
  • Studium przypadku: Rozwiązywanie problemów z konwergencją w klasyfikacji obrazów
  • Studium przypadku: Rozwiązanie problemu nadmiernego dopasowania w podsumowaniu tekstu

Podsumowanie i kolejne kroki

Wymagania

  • Doświadczenie z platformami głębokiego uczenia, takimi jak PyTorch lub TensorFlow
  • Zrozumienie koncepcji uczenia maszynowego, takich jak szkolenie, walidacja i ocena
  • Znajomość dostrajania wstępnie wytrenowanych modeli

Uczestnicy

  • Naukowcy zajmujący się danymi
  • Inżynierowie AI
 14 godzin

Liczba uczestników


cena netto za uczestnika

Propozycje terminów

Powiązane Kategorie