Bądźmy w kontakcie

Plan Szkolenia

Podstawy Bezpiecznej Lokalnej AI

  • Co oznacza lokalna i on-prem AI w regulowanych środowiskach
  • AI w chmurze a wdrożenie wewnętrzne dla wrażliwych obciążeń
  • Typowe przypadki użycia w przedsiębiorstwach dla prywatnych asystentów i wsparcia przepływów pracy
  • Kluczowe komponenty bezpiecznej lokalnej architektury AI

Podstawy Ollama i Otwartych Modeli

  • Jak Ollama wpisuje się w lokalny stos deweloperski
  • Pobieranie, uruchamianie i zarządzanie modelami lokalnie
  • Wybór modeli na podstawie rozmiaru, jakości, sprzętu i licencji
  • Dopasowanie opcji modeli do praktycznych zadań biznesowych

Przygotowanie Środowiska On-Prem

  • Przygotowanie hosta, stacji roboczej i serwera
  • Instalacja i konfiguracja Ollama do lokalnego wnioskowania
  • Używanie kontenerów i wewnętrznych narzędzi deweloperskich
  • Weryfikacja dostępu do API i podstawowa gotowość operacyjna

Efektywna Praca z Lokalnymi Modelami

  • Uruchamianie promptów i kształtowanie wyników za pomocą instrukcji systemowych
  • Ponowne wykorzystywanie szablonów do spójnych zadań przedsiębiorstwa
  • Zarządzanie wersjami modeli i wewnętrznymi artefaktami
  • Podstawowe dostrajanie wydajności dla wdrożeń CPU i GPU

Budowanie Praktycznych Agentowych Przepływów Pracy

  • Co sprawia, że przepływ pracy jest agentowy w kontrolowanym środowisku
  • Proste wzorce do planowania, używania narzędzi i pętli odpowiedzi
  • Projektowanie asystentów skupionych na zadaniach dla wewnętrznych operacji
  • Dodawanie przeglądu przez człowieka, logiki awaryjnej i obsługi błędów

Prywatne Przepływy Pracy z Wyszukiwaniem

  • Podstawy generowania wspomaganego wyszukiwaniem dla dostępu do wewnętrznej wiedzy
  • Przygotowanie dokumentów do podziału, indeksowania i wyszukiwania
  • Podłączanie lokalnego magazynu wektorowego do aplikacji opartej na Ollama
  • Poprawa trafności i jakości odpowiedzi dzięki lepszym wzorcom wyszukiwania

Praktyki Bezpieczeństwa, Zarządzania i Zgodności

  • Granice przetwarzania danych i rozważania dotyczące prywatności
  • Kontrola dostępu, logowanie i wsparcie audytu
  • Bezpieczeństwo promptów, kontrola wyjść i zabezpieczenia
  • Punkty kontrolne zarządzania dla regulowanego wdrażania i działania

Wzorce Integracji w Przedsiębiorstwach

  • Udostępnianie lokalnych możliwości AI poprzez wewnętrzne API
  • Integracja asystentów z wewnętrznymi aplikacjami i usługami
  • Wsparcie przypadków użycia asystentów, zadań wsadowych i automatyzacji przepływów pracy
  • Utrzymywanie rozwiązań w granicach kontrolowanej sieci

Ocena Lokalnych Rozwiązań AI

  • Ocena jakości, niezawodności i spójności
  • Testowanie pod kątem wymagań biznesowych, politycznych i bezpieczeństwa
  • Porównywanie opcji modeli dla konkretnych zadań przedsiębiorstwa
  • Ustanowienie praktycznego cyklu poprawy dla wewnętrznych zespołów

Praktyczne Laboratorium Implementacji

  • Budowanie prywatnego asystenta z Ollama i otwartym modelem
  • Dodawanie wyszukiwania po zatwierdzonych wewnętrznych dokumentach
  • Wprowadzanie prostych działań agentowych i kontroli bezpieczeństwa
  • Przegląd wdrożenia, operacji i punktów kontrolnych zarządzania

Planowanie Wdrożenia i Następne Kroki

  • Przegląd kluczowych decyzji projektowych i wdrożeniowych
  • Identyfikacja typowych pułapek w projektach regulowanej AI
  • Planowanie przypadków pilotażowych i uzgadnianie interesariuszy
  • Definiowanie roadmapy dla bezpiecznego wdrożenia lokalnej AI

Wymagania

  • Podstawowa znajomość koncepcji AI i rozwoju oprogramowania
  • Znajomość narzędzi wiersza poleceń, kontenerów lub lokalnych środowisk deweloperskich
  • Podstawowe doświadczenie w skryptowaniu lub programowaniu

Grupa docelowa

  • Programiści i zespoły techniczne budujące prywatne rozwiązania AI na wewnętrznej infrastrukturze
  • Specjaliści ds. bezpieczeństwa, zgodności i platform wspierających AI w regulowanych środowiskach
  • Liderzy techniczni w sektorze finansów, opieki zdrowotnej, rządu i obrony, oceniający wdrożenie AI na miejscu
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie