XAI-Demonstrator

Die Anwendung Erklärbarer Künstlicher Intelligenz praktisch vermitteln

Zunehmend unterstützt Künstliche Intelligenz (KI) die Entscheidungsfindung in Unternehmen und für Privatpersonen. Aktuelle Studien zeigen jedoch, dass automatisierte Entscheidungen durch Algorithmen in Deutschland kritisch betrachtet werden[1] – selbst dann, wenn die Algorithmen nachweisbar zu besseren Ergebnissen führen als menschliche Entscheider. Der Grund: Die Komplexität von intelligenten Systemen führt in vielen Fällen dazu, dass algorithmische Entscheidungen aus Sicht des Menschen durch eine „Black Box“ getroffen werden und nicht mehr nachvollzogen und validiert werden können. Das Forschungsfeld Erklärbare Künstliche Intelligenz (engl. Explainable Artificial Intelligence, XAI) setzt an diesem Punkt an und zielt darauf ab, automatisiert für Menschen verständliche Erklärungen zu generieren, welche die von KI-Systemen im Einzelfall getroffenen Entscheidungen für den Anwender nachvollziehbar und verständlich machen. Doch was macht XAI überhaupt und wie kann diese helfen eine Grundlage für angemessenes Vertrauen gegenüber dem KI-System schaffen?

Diese Fragen anhand praktischer Anwendungsfälle zu beantworten, um so sowohl Studierenden als auch der breiten Bevölkerung das noch eher unbekannte Forschungsfeld der Erklärbaren Künstlichen Intelligenz näherzubringen, ist Ziel des XAI-Demonstrators, welcher an der Universität Ulm entwickelt wird. Das Projekt wird gefördert von der Péter Horváth-Stiftung.

Im Rahmen des Projekts soll ein Demonstrator entwickelt werden, der die Methoden und Konzepte von XAI anhand von leicht verständlichen Anwendungsbeispielen (Use Cases) der Allgemeinheit zugänglich macht. Nutzer können in zwei Use-Cases selbst die Hilfe eines KI-Systems in Anspruch nehmen, deren Empfehlungen und Entscheidungen live durch eine XAI erklärt werden. Somit lassen sich die Methoden und Konzepte von XAI spielerisch und anwendungsbezogen kennenlernen. Der XAI-Demonstrator soll als Demonstrationsobjekt für die Lehre, zur Wissensvermittlung über XAI in Unternehmen und Verwaltung sowie zur Ansprache einer breiten Öffentlichkeit dienen. Darüber hinaus soll der Demonstrator wissenschaftlich genutzt werden, um Nutzerfeedback zu erfassen, neue XAI-Ansätze zu testen und insbesondere deren Wirkung auf den Anwender zu evaluieren. Ziel dabei ist, einen wissenschaftlichen Beitrag zur stärkeren Fokussierung der XAI-Forschung auf den Menschen zu leisten.

Fördergeber: Péter Horváth-Stiftung

Projektzeitraum: Juni 2020 – Januar 2021

 


[1] Fischer & Petersen (2018): Was Deutschland über Algorithmen weiß und denkt, Bertelsmann Stiftung (Hrsg.).

 

Transfer

Der XAI-Demonstrator ermöglicht es, die Funktionsweise diverser XAI-Algorithmen in Aktion zu sehen und dadurch das Grundprinzip und Anwendungmöglichkeiten von XAI praktisch und verständlich näher gebracht zu bekommen. Ziel des XAI-Demonstrators ist es sowohl Studenten eine bestmögliche Lernerfahrung als auch Praxispartnern einen verständlichen Überblick über geeignete Einsatzmöglichkeiten von XAI bereitzustellen. Zudem soll mit Hilfe des XAI-Demonstrators die Wirkung von XAI auf den Endnutzer erforscht werden.