XAI-Demonstrator

Die Anwendung Erklärbarer Künstlicher Intelligenz praktisch vermitteln

Zunehmend unterstützt Künstliche Intelligenz (KI) die Entscheidungsfindung in Unternehmen und für Privatpersonen. Allerdings werden automatisierte Entscheidungen durch Algorithmen kritisch betrachtet werden – selbst dann, wenn die Algorithmen nachweisbar zu besseren Ergebnissen führen als menschliche Entscheider. Der Grund: Die Komplexität von intelligenten Systemen führt in vielen Fällen dazu, dass algorithmische Entscheidungen aus Sicht des Menschen durch eine „Black Box“ getroffen werden und nicht mehr nachvollzogen und validiert werden können. Das Forschungsfeld Erklärbare Künstliche Intelligenz (engl. Explainable Artificial Intelligence, XAI) setzt an diesem Punkt an und zielt darauf ab, automatisiert für Menschen verständliche Erklärungen zu generieren, welche die von KI-Systemen im Einzelfall getroffenen Entscheidungen für den Anwender nachvollziehbar und verständlich machen (siehe auch: www.erklaerbare-ki.de). Doch was macht XAI überhaupt und wie kann diese helfen eine Grundlage für angemessenes Vertrauen gegenüber dem KI-System schaffen?

Diese Fragen anhand praktischer Anwendungsfälle zu beantworten, um so sowohl Studierenden als auch der breiten Bevölkerung das noch eher unbekannte Forschungsfeld der Erklärbaren Künstlichen Intelligenz näherzubringen, ist Ziel des XAI-Demonstrators, welcher an der Universität Ulm entwickelt wurde. Das Projekt wurde gefördert von der Péter Horváth-Stiftung.

Fördergeber: Péter Horváth-Stiftung

Projektzeitraum: Juni 2020 – Januar 2021

Weiterführende Links

Zum XAI-Demonstrator: https://www.erklaerbare-ki.de/xai-demonstrator

Zur technischen Dokumentation: https://xai-demonstrator.github.io/xai-demonstrator

Zum Github-Repository: https://github.com/XAI-Demonstrator/xai-demonstrator


Transfer

Der XAI-Demonstrator macht Methoden und Konzepte von XAI anhand von leicht verständlichen Anwendungsbeispielen (Use Cases) der Allgemeinheit zugänglich. Nutzer können in zwei Use Cases selbst die Hilfe eines KI-Systems in Anspruch nehmen, deren Empfehlungen und Entscheidungen live durch eine XAI erklärt werden.

Damit ermöglicht es der XAI-Demonstrator, die Funktionsweise diverser XAI-Algorithmen in Aktion zu sehen und dadurch das Grundprinzip und Anwendungmöglichkeiten von XAI praktisch und verständlich näher gebracht zu bekommen. Der XAI-Demonstrator wird als Demonstrationsobjekt für die Lehre, zur Wissensvermittlung über XAI in Unternehmen und Verwaltung sowie zur Ansprache einer breiten Öffentlichkeit verwendet. Darüber hinaus wird der Demonstrator wissenschaftlich genutzt , um Nutzerfeedback zu erfassen, neue XAI-Ansätze zu testen und insbesondere deren Wirkung auf den Anwender zu evaluieren.