DOI RECORD
Governance für KI-Agenten: Ein risikobasierte Perspektive für Transparenz und Nachvollziehbarkeit
Abstract
Zusammenfassung Unternehmen setzen zunehmend Agentische KI ein: LLM-basierte Agenten planen Aufgaben, nutzen Werkzeuge, koordinieren sich in Multi-Agenten-Workflows und greifen in Geschäftsprozesse ein. Mit wachsender Autonomie steigen Anforderungen an Transparenz, Nachvollziehbarkeit und Rechenschaft – insbesondere im Lichte risikobasierter Vorgaben des EU AI Act. Forschung und Praxis adressieren diese Anforderungen bislang jedoch fragmentiert: Responsible-AI- und Governance-Frameworks bleiben häufig auf Prinzipien- und Prozess-Ebene, während technische Arbeiten einzelne Mechanismen (z. B. Logging, Observability, Policy-Enforcement) vorschlagen, ohne deren Passung zu Audit- und Accountability-Erwartungen systematisch zu bewerten. Der Beitrag führt eine strukturierte Literaturübersicht nach Webster und Watson (2002) durch und synthetisiert 33 peer-reviewte Studien (2022–2026) konzeptzentriert. Die Ergebnisse (i) präzisieren, wie Traceability, Auditability und Accountability als zusammenhängende Evidenz- und Verantwortungskette in der Literatur konzeptualisiert werden, (ii) präsentieren Mechanismen entlang architektureller Ebenen und Lifecycle-Phasen und (iii) zeigen wiederkehrende Mismatch-Muster: fehlende Audit-Festigkeit von Evidenz, unzureichende stakeholder-spezifische Erklärbarkeit und unklare Zurechnung in Multi-Agenten-Settings. Darauf aufbauend wird eine risiko-informierte Governance-Perspektive entwickelt, die Traceability-Infrastruktur, Governance-Controls und Verantwortungsmodelle miteinander verknüpft und damit die Gestaltung prüfbarer Agentischer KI in Unternehmen unterstützt.