DOI RECORD
Erklärbare KI zwischen wahrgenommener Nützlichkeit und objektiven Leistungsverbesserungen – Ein Online-Experiment zu einem XAI-basierten Literatursuchsystem
Abstract
Zusammenfassung Künstliche Intelligenz (KI) wird oft als intransparent und unverständlich wahrgenommen, was zum Entstehen des Forschungsgebiets der erklärbaren KI (XAI) geführt hat. Zugrunde liegt die Annahme, dass XAI Transparenz erhöhen und damit die Bereitschaft zur Nutzung von KI-Systemen steigern kann. Dieser Artikel präsentiert eine between-subjects Online-Studie ( n = 260), in der wortbasierte XAI-Erklärungen für die Suchergebnisse eines Literatursuchsystems evaluiert werden. Die Teilnehmenden wurden zufällig einer von zwei Gruppen (mit bzw. ohne XAI-Erklärungen) zugewiesen und bewerteten, wie gut die Suchergebnisse des Literatursuchsystems zur Suchanfrage passten. Darüber hinaus wurde u. a. die für die Bewertung der Ergebnisse benötigte Zeit, die wahrgenommene Leichtigkeit des Bewertungsprozesses, die eingeschätzte Kompetenz und die Belastung erhoben. Die Gruppe, die die XAI-Erklärungen nutzte, bewertete zudem, für wie hilfreich und verständlich sie diese halten. Die Ergebnisse zeigen, dass die XAI-Erklärungen zwar aus subjektiver Sicht als sehr hilfreich und verständlich wahrgenommen werden, es jedoch keine objektiven Belege dafür gibt, dass die Experimentalgruppe besser abschneidet als die Kontrollgruppe. Die möglichen Gründe hierfür und ihre Implikationen für die XAI-Forschung sowie die Praxis werden diskutiert. Darüber hinaus werden zukünftige Forschungsrichtungen aufgezeigt.