Bądźmy w kontakcie

Plan Szkolenia

Podstawy bezpiecznego lokalnego AI

  • Znaczenie lokalnego AI oraz rozwiązań on-prem w środowiskach regulowanych
  • Sztuczna inteligencja oparta na chmurze versus wewnętrzne wdrożenia dla przetwarzania wrażliwych danych
  • Powszechne przypadki użycia w przedsiębiorstwach dla prywatnych asystentów i wsparcia przepływów pracy
  • Kluczowe elementy architektury bezpiecznego lokalnego AI

Podstawy Ollama i modeli open source

  • Jak Ollama wpisuje się w stos programistyczny dla rozwiązań lokalnych
  • Pobieranie, uruchamianie i zarządzanie modelami lokalnie
  • Wybór modeli w zależności od wielkości, jakości, sprzętu i licencji
  • Dopasowanie opcji modelu do praktycznych zadań biznesowych

Przygotowanie środowiska on-prem

  • Przygotowanie hosta, stacji roboczej i serwerów
  • Instalacja i konfiguracja Ollama do wnioskowania lokalnego (local inference)
  • Korzystanie z kontenerów oraz wewnętrznego narzędzia developerskiego
  • Weryfikacja dostępu przez API oraz podstawowej gotowości operacyjnej

Efektywne korzystanie z modeli lokalnych

  • Uruchamianie promptów i kształtowanie wyjścia dzięki instrukcjom systemowym
  • Wielokrotne używanie szablonów do spójnego wykonywania zadań korporacyjnych
  • Zarządzanie wersjami modeli oraz wewnętrznymi artefaktami
  • Podstawowa optymalizacja wydajności dla wdrożeń na CPU i GPU

Budowanie praktycznych przepływów pracy typu agentic

  • Co sprawia, że przepływ pracy jest „agentic” w kontrolowanym środowisku
  • Proste wzorce planowania, korzystania z narzędzi i pętli odpowiedzi
  • Koncepcja asystentów skupionych na zadaniach dla operacji wewnętrznych
  • Dodawanie ludzkiej weryfikacji, logiki awaryjnej (fallback) oraz obsługi błędów

Prywatne przepływy pracy oparte na wyszukiwaniu informacji (Retrieval)

  • Zasady generowania z wykorzystaniem wyszukiwania (RAG) dla dostępu do wewnętrznej wiedzy
  • Przygotowanie dokumentów do segmentacji, indeksowania i wyszukiwania
  • Łączenie lokalnego magazynu wektorowego z aplikacją opartą na Ollama
  • Poprawa trafności i jakości odpowiedzi dzięki lepszym wzorcom wyszukiwania

Bezpieczeństwo, rządzenie (governance) i zgodność regulacyjna

  • Zasady przetwarzania danych i aspekty prywatności
  • Kontrola dostępu, rejestrowanie zdarzeń (logging) oraz wsparcie dla audytów
  • Bezpieczeństwo promptów, kontrole wyjścia i zapobiegawcze mechanizmy ochronne (guardrails)
  • Punkty kontrolne rządzenia dla wdrożeń i eksploatacji w środowiskach regulowanych

Wzorce integracji korporacyjnej

  • Odsłanianie możliwości lokalnego AI przez wewnętrzne interfejsy API
  • Integracja asystentów z aplikacjami i usługami wewnętrznymi
  • Wsparcie przypadków użycia dla asystentów, przetwarzania wsadowego (batch) oraz automatyzacji przepływów pracy
  • Zapewnienie działania rozwiązań wyłącznie wewnątrz kontrolowanych granic sieciowych

Ewaluacja rozwiązań lokalnego AI

  • Ocena jakości, niezawodności i spójności
  • Testowanie wobec wymagań biznesowych, politycznych oraz bezpieczeństwa
  • Porównywanie opcji modeli dla konkretnych zadań korporacyjnych
  • Konkretyzowanie cyklu ciągłych ulepszeń dla zespołów wewnętrznych

Szkolenie praktyczne (Hands-On Lab)

  • Budowa prywatnego asystenta z wykorzystaniem Ollama i modelu open source
  • Dodawanie mechanizmu wyszukiwania informacji do zatwierdzonych dokumentów wewnętrznych
  • Wprowadzenie prostych akcji typu agentic oraz kontroli bezpieczeństwa
  • Przegląd kwestii wdrożenia, operacji oraz punktów kontrolnych rządzenia (governance)

Planowanie wdrożenia i kolejne kroki

  • Przegląd kluczowych decyzji projektowych i wdrożeniowych
  • Identyfikacja typowych pułapek w projektach AI podlegających regulacjom
  • Planowanie przypadków użycia pilotażowych oraz uzgadnianie celów z interesariuszami
  • Definiowanie roadmapy dla bezpiecznego wdrożenia lokalnego AI

Wymagania

  • Podstawowa wiedza na koncepcje sztucznej inteligencji oraz dewelopment oprogramowania
  • Znajomość narzędzi wiersza poleceń, konteneryzacji lub środowisk lokalnego developmentu
  • Podstawowe doświadczenie ze skryptami lub programowaniem

Grupa docelowa

  • Programiści i zespoły techniczne budujące prywatne rozwiązania AI na wewnętrznej infrastrukturze
  • Specjaliści od bezpieczeństwa, zgodności regulacyjnej (compliance) oraz platform wspierających wdrożenia AI w środowiskach regulowanych
  • Liderzy techniczni z sektora finansowego, medycznego, rządowego i obronnego oceniający możliwość wdrożenia AI w ramach infrastruktury wewnętrznej
 21 godzin

Liczba uczestników


Cena za uczestnika (netto)

Propozycje terminów

Powiązane Kategorie