Künstliche Intelligenz (KI) nimmt einen immer größeren Platz in unserem Leben ein. Von Chatbots, Spam-Filtern und Shopping-Empfehlungen für Privatpersonen bis hin zu Betrugserkennung bei Finanzdienstleistern und Marketingmaßnahmen für Unternehmen – hinter vielem steckt bereits KI. Die zunehmende Verbreitung von KI-Systemen eröffnet ungeahnte Möglichkeiten. Jedoch stehen Anwendungsbereiche, in denen kritische Entscheidungen getroffen werden – wie etwa im Controlling von Unternehmen oder wenn es um die Kreditwürdigkeit von Privatpersonen geht – unter kritischer Beobachtung. Grund ist die Undurchsichtigkeit von KI. Tatsächlich zeigen Studien, dass viele Europäer*innen Entscheidungen von KI-Systemen mit Unbehagen gegenüberstehen. Und das selbst dann, wenn die Algorithmen nachweislich bessere Ergebnisse liefern als menschliche Expert*innen. In kritischen Anwendungsbereichen ist es wichtig zu verstehen, wie KI-Ergebnisse zustande kommen. An diesem Punkt setzt das Themenfeld Explainable Artificial Intelligence (XAI) an: Gegenstand der Forschung sind Methoden, welche die Ergebnisse und die Funktionsweise von KI-Systemen für menschliche Anwender*innen verständlich machen.

Im Fokus stehen dabei folgende Themenbereiche:

• Methoden zur Nachvollziehbarkeit von KI-Ergebnissen
• Nutzerzentriertes Design von XAI-Anwendungen

#XAI #Trust #Explainability #Responsibility #Design Science #AI Made in Germany

Projekte

• Erklärbare KI im Controlling
• Guess the city
• Persönlicher Inflationsrechner
• Skill-Kompass
• XAI Demonstrator
• XAI Studio
• XAI-as-a-Service (XAIaaS)
• XAI in der Weiterbildung (XPERT)
• XAI und Human-in-the-Loop (X-Loop)