Dziękujemy za wysłanie zapytania! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Dziękujemy za wysłanie rezerwacji! Jeden z członków naszego zespołu skontaktuje się z Państwem wkrótce.
Plan Szkolenia
Podstawy Bezpiecznej Lokalnej AI
- Co oznacza lokalna i on-prem AI w regulowanych środowiskach
- AI w chmurze a wdrożenie wewnętrzne dla wrażliwych obciążeń
- Typowe przypadki użycia w przedsiębiorstwach dla prywatnych asystentów i wsparcia przepływów pracy
- Kluczowe komponenty bezpiecznej lokalnej architektury AI
Podstawy Ollama i Otwartych Modeli
- Jak Ollama wpisuje się w lokalny stos deweloperski
- Pobieranie, uruchamianie i zarządzanie modelami lokalnie
- Wybór modeli na podstawie rozmiaru, jakości, sprzętu i licencji
- Dopasowanie opcji modeli do praktycznych zadań biznesowych
Przygotowanie Środowiska On-Prem
- Przygotowanie hosta, stacji roboczej i serwera
- Instalacja i konfiguracja Ollama do lokalnego wnioskowania
- Używanie kontenerów i wewnętrznych narzędzi deweloperskich
- Weryfikacja dostępu do API i podstawowa gotowość operacyjna
Efektywna Praca z Lokalnymi Modelami
- Uruchamianie promptów i kształtowanie wyników za pomocą instrukcji systemowych
- Ponowne wykorzystywanie szablonów do spójnych zadań przedsiębiorstwa
- Zarządzanie wersjami modeli i wewnętrznymi artefaktami
- Podstawowe dostrajanie wydajności dla wdrożeń CPU i GPU
Budowanie Praktycznych Agentowych Przepływów Pracy
- Co sprawia, że przepływ pracy jest agentowy w kontrolowanym środowisku
- Proste wzorce do planowania, używania narzędzi i pętli odpowiedzi
- Projektowanie asystentów skupionych na zadaniach dla wewnętrznych operacji
- Dodawanie przeglądu przez człowieka, logiki awaryjnej i obsługi błędów
Prywatne Przepływy Pracy z Wyszukiwaniem
- Podstawy generowania wspomaganego wyszukiwaniem dla dostępu do wewnętrznej wiedzy
- Przygotowanie dokumentów do podziału, indeksowania i wyszukiwania
- Podłączanie lokalnego magazynu wektorowego do aplikacji opartej na Ollama
- Poprawa trafności i jakości odpowiedzi dzięki lepszym wzorcom wyszukiwania
Praktyki Bezpieczeństwa, Zarządzania i Zgodności
- Granice przetwarzania danych i rozważania dotyczące prywatności
- Kontrola dostępu, logowanie i wsparcie audytu
- Bezpieczeństwo promptów, kontrola wyjść i zabezpieczenia
- Punkty kontrolne zarządzania dla regulowanego wdrażania i działania
Wzorce Integracji w Przedsiębiorstwach
- Udostępnianie lokalnych możliwości AI poprzez wewnętrzne API
- Integracja asystentów z wewnętrznymi aplikacjami i usługami
- Wsparcie przypadków użycia asystentów, zadań wsadowych i automatyzacji przepływów pracy
- Utrzymywanie rozwiązań w granicach kontrolowanej sieci
Ocena Lokalnych Rozwiązań AI
- Ocena jakości, niezawodności i spójności
- Testowanie pod kątem wymagań biznesowych, politycznych i bezpieczeństwa
- Porównywanie opcji modeli dla konkretnych zadań przedsiębiorstwa
- Ustanowienie praktycznego cyklu poprawy dla wewnętrznych zespołów
Praktyczne Laboratorium Implementacji
- Budowanie prywatnego asystenta z Ollama i otwartym modelem
- Dodawanie wyszukiwania po zatwierdzonych wewnętrznych dokumentach
- Wprowadzanie prostych działań agentowych i kontroli bezpieczeństwa
- Przegląd wdrożenia, operacji i punktów kontrolnych zarządzania
Planowanie Wdrożenia i Następne Kroki
- Przegląd kluczowych decyzji projektowych i wdrożeniowych
- Identyfikacja typowych pułapek w projektach regulowanej AI
- Planowanie przypadków pilotażowych i uzgadnianie interesariuszy
- Definiowanie roadmapy dla bezpiecznego wdrożenia lokalnej AI
Wymagania
- Podstawowa znajomość koncepcji AI i rozwoju oprogramowania
- Znajomość narzędzi wiersza poleceń, kontenerów lub lokalnych środowisk deweloperskich
- Podstawowe doświadczenie w skryptowaniu lub programowaniu
Grupa docelowa
- Programiści i zespoły techniczne budujące prywatne rozwiązania AI na wewnętrznej infrastrukturze
- Specjaliści ds. bezpieczeństwa, zgodności i platform wspierających AI w regulowanych środowiskach
- Liderzy techniczni w sektorze finansów, opieki zdrowotnej, rządu i obrony, oceniający wdrożenie AI na miejscu
21 godzin