Etyka i zarządzanie autonomicznymi agentami AI - Plan Szkolenia

Fundamenty etyki w systemach autonomicznych

• Definiowanie autonomii w agentach AI
• Wiodące teorie etyczne stosowane do zachowań maszyn
• Perspektywy interesariuszy i projektowanie uwzględniające wartości

Ryzyka społeczne i zastosowania o wysokich stawkach

• Agenci autonomiczni w ochronie publicznej, zdrowiu i obronności
• Współpraca człowieka z AI i granice zaufania
• Scenariusze nieoczekiwanych konsekwencji i wzmacniania ryzyka

Krajobraz prawny i regulacyjny

• Przegląd ustawodawstwa i trendów w polityce dotyczącej AI (Europejski Akt o AI, NIST, OECD)
• Odowiedzialność, odpowiedzialność prawna i osobowość prawna agentów AI
• Globalne inicjatywy w zakresie zarządzania i istniejące luki

Wyjaśnialność i przejrzystość podejmowania decyzji

• Wyzwania związane z autonomicznym podejmowaniem decyzji typu „czarna skrzynka”
• Projektowanie agentów z wyjaśnialnym i audytowalnym zachowaniem
• Narzędzia i ramy przejrzystości (np. karty modeli, karty danych)

Spójność, kontrola i odpowiedzialność moralna

• Strategie spójności AI dla zachowań agentów
• Paradygmaty kontroli: human-in-the-loop vs. human-on-the-loop
• Współodpowiedzialność projektantów, użytkowników i instytucji

Ocena i łagodzenie ryzyka etycznego

• Mapowanie ryzyka i analiza krytycznych awarii w projektowaniu agentów
• Systemy zabezpieczeń i mechanizmy awaryjnego zatrzymania
• Badanie stronniczości, dyskryminacji i sprawiedliwości

Projektowanie zarządzania i nadzoru instytucjonalnego

• Zasady odpowiedzialnego zarządzania AI
• Modele wielostronnego nadzoru i audytów
• Projektowanie ram zgodności dla agentów autonomicznych

Podsumowanie i dalsze kroki