Desinformationen bergen in der heutigen, von digital vernetzten Öffentlichkeiten geprägten Zeit ein hohes Schadenspotential für das demokratische Gemeinwohl und das Vertrauen in Staat und demokratische Institutionen. Jüngste technologische Fortschritte und die stark steigende Datenverfügbarkeit im Bereich digitaler Desinformationen ermöglichen, dass Künstliche Intelligenz (KI) sehr präzise digitale Desinformationen erkennen kann. KI-Modelle wie bspw. Large Language Models (LLMs), die zur Erkennung digitaler Desinformation eingesetzt werden, sind aufgrund ihrer Komplexität für Nutzerinnen und Nutzer jedoch „Black Boxes“. Nutzerinnen und Nutzer können nicht nachvollziehen und validieren, wie und warum ein KI-Modell zu Prognosen zu digitalen Desinformationen kommt. Insbesondere bleibt den Nutzerinnen und Nutzern verborgen, anhand welcher Muster ein KI-Modell digitale Desinformation erkennt.

An diesem Punkt setzt das Forschungsprojekt „Erklärbare KI zum Lernen über digitale Desinformation“ (EKILED) an. Im Projekt sollen interaktive Ansätze der erklärbaren Künstlichen Intelligenz (engl. Explainable Artificial Intelligence; kurz XAI) erforscht werden, die das implizite Wissen von KI-Modellen zur Erkennung von Desinformationen didaktisch wertvoll für Nutzerinnen und Nutzer offenlegen und aufbereiten. Konkret soll der EKILED-Demonstrator entwickelt werden, der Schülerinnen und Schülern (primäre Zielgruppe) durch interaktive XAI Ansätze als Reflexionspartner beim Erkennen digitaler Desinformationen dient. Dieser soll flächendeckend zur Verfügung gestellt werden, damit Lehrkräfte niederschwellig befähigt werden, einen aufgeklärten Umgang mit digitalen Desinformationen zu vermitteln.

Kooperationspartner: Karlsruher Institut für Technologie, Universität Bamberg, DASU – Transferzentrum für Digitalisierung, Analytics & Data Science Ulm Eduversum GmbH

Projektzeitraum: 15. März 2026 – März 2029