Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Plan Szkolenia
Podstawy bezpiecznego lokalnego AI
- Znaczenie lokalnego AI oraz rozwiązań on-prem w środowiskach regulowanych
- Sztuczna inteligencja oparta na chmurze versus wewnętrzne wdrożenia dla przetwarzania wrażliwych danych
- Powszechne przypadki użycia w przedsiębiorstwach dla prywatnych asystentów i wsparcia przepływów pracy
- Kluczowe elementy architektury bezpiecznego lokalnego AI
Podstawy Ollama i modeli open source
- Jak Ollama wpisuje się w stos programistyczny dla rozwiązań lokalnych
- Pobieranie, uruchamianie i zarządzanie modelami lokalnie
- Wybór modeli w zależności od wielkości, jakości, sprzętu i licencji
- Dopasowanie opcji modelu do praktycznych zadań biznesowych
Przygotowanie środowiska on-prem
- Przygotowanie hosta, stacji roboczej i serwerów
- Instalacja i konfiguracja Ollama do wnioskowania lokalnego (local inference)
- Korzystanie z kontenerów oraz wewnętrznego narzędzia developerskiego
- Weryfikacja dostępu przez API oraz podstawowej gotowości operacyjnej
Efektywne korzystanie z modeli lokalnych
- Uruchamianie promptów i kształtowanie wyjścia dzięki instrukcjom systemowym
- Wielokrotne używanie szablonów do spójnego wykonywania zadań korporacyjnych
- Zarządzanie wersjami modeli oraz wewnętrznymi artefaktami
- Podstawowa optymalizacja wydajności dla wdrożeń na CPU i GPU
Budowanie praktycznych przepływów pracy typu agentic
- Co sprawia, że przepływ pracy jest „agentic” w kontrolowanym środowisku
- Proste wzorce planowania, korzystania z narzędzi i pętli odpowiedzi
- Koncepcja asystentów skupionych na zadaniach dla operacji wewnętrznych
- Dodawanie ludzkiej weryfikacji, logiki awaryjnej (fallback) oraz obsługi błędów
Prywatne przepływy pracy oparte na wyszukiwaniu informacji (Retrieval)
- Zasady generowania z wykorzystaniem wyszukiwania (RAG) dla dostępu do wewnętrznej wiedzy
- Przygotowanie dokumentów do segmentacji, indeksowania i wyszukiwania
- Łączenie lokalnego magazynu wektorowego z aplikacją opartą na Ollama
- Poprawa trafności i jakości odpowiedzi dzięki lepszym wzorcom wyszukiwania
Bezpieczeństwo, rządzenie (governance) i zgodność regulacyjna
- Zasady przetwarzania danych i aspekty prywatności
- Kontrola dostępu, rejestrowanie zdarzeń (logging) oraz wsparcie dla audytów
- Bezpieczeństwo promptów, kontrole wyjścia i zapobiegawcze mechanizmy ochronne (guardrails)
- Punkty kontrolne rządzenia dla wdrożeń i eksploatacji w środowiskach regulowanych
Wzorce integracji korporacyjnej
- Odsłanianie możliwości lokalnego AI przez wewnętrzne interfejsy API
- Integracja asystentów z aplikacjami i usługami wewnętrznymi
- Wsparcie przypadków użycia dla asystentów, przetwarzania wsadowego (batch) oraz automatyzacji przepływów pracy
- Zapewnienie działania rozwiązań wyłącznie wewnątrz kontrolowanych granic sieciowych
Ewaluacja rozwiązań lokalnego AI
- Ocena jakości, niezawodności i spójności
- Testowanie wobec wymagań biznesowych, politycznych oraz bezpieczeństwa
- Porównywanie opcji modeli dla konkretnych zadań korporacyjnych
- Konkretyzowanie cyklu ciągłych ulepszeń dla zespołów wewnętrznych
Szkolenie praktyczne (Hands-On Lab)
- Budowa prywatnego asystenta z wykorzystaniem Ollama i modelu open source
- Dodawanie mechanizmu wyszukiwania informacji do zatwierdzonych dokumentów wewnętrznych
- Wprowadzenie prostych akcji typu agentic oraz kontroli bezpieczeństwa
- Przegląd kwestii wdrożenia, operacji oraz punktów kontrolnych rządzenia (governance)
Planowanie wdrożenia i kolejne kroki
- Przegląd kluczowych decyzji projektowych i wdrożeniowych
- Identyfikacja typowych pułapek w projektach AI podlegających regulacjom
- Planowanie przypadków użycia pilotażowych oraz uzgadnianie celów z interesariuszami
- Definiowanie roadmapy dla bezpiecznego wdrożenia lokalnego AI
Wymagania
- Podstawowa wiedza na koncepcje sztucznej inteligencji oraz dewelopment oprogramowania
- Znajomość narzędzi wiersza poleceń, konteneryzacji lub środowisk lokalnego developmentu
- Podstawowe doświadczenie ze skryptami lub programowaniem
Grupa docelowa
- Programiści i zespoły techniczne budujące prywatne rozwiązania AI na wewnętrznej infrastrukturze
- Specjaliści od bezpieczeństwa, zgodności regulacyjnej (compliance) oraz platform wspierających wdrożenia AI w środowiskach regulowanych
- Liderzy techniczni z sektora finansowego, medycznego, rządowego i obronnego oceniający możliwość wdrożenia AI w ramach infrastruktury wewnętrznej
21 godzin