Desinformationen bergen in der heutigen, von digital vernetzten Öffentlichkeiten geprägten Zeit ein hohes Schadenspotenzial für das demokratische Gemeinwohl und das Vertrauen in Staat und demokratische Institutionen. KI-Modelle, die zur Erkennung digitaler Desinformation eingesetzt werden, sind aufgrund ihrer Komplexität für Nutzerinnen und Nutzer jedoch „Black Boxes": Die Nachvollziehbarkeit des KI-Ergebnisses ist nicht gegeben und KI-Prognosen können nicht direkt validiert werden. Insbesondere bleibt verborgen, anhand welcher Muster ein KI-Modell digitale Desinformation erkennt. Dies erschwert es, das implizite Wissen der KI für Bildungszwecke nutzbar zu machen.
Das Forschungsprojekt EKILED hat zum Ziel, interaktive XAI-Ansätze (Explainable Artificial Intelligence) zu erforschen, die das implizite Wissen von KI-Modellen zur Erkennung von Desinformationen didaktisch wertvoll für Nutzerinnen und Nutzer offenlegen und aufbereiten. Konkret soll der EKILED-Demonstrator entwickelt werden, der Schülerinnen und Schülern durch interaktive XAI-Ansätze als Reflexionspartner beim Erkennen digitaler Desinformationen dient. Das Vorhaben setzt dabei auf die Schutzstrategie, dass bereits in der Schule Aufklärung über digitale Desinformationen stattfindet und entsprechende Medien- und Digitalkompetenzen gestärkt werden, um gesellschaftliche Resilienz und Vertrauen in die Demokratie frühzeitig zu verankern.
Im Ergebnis kann der EKILED-Demonstrator als interaktives Lernsystem verstanden werden, das Schülerinnen und Schülern spielerisch ermöglicht, Muster digitaler Desinformation zu erkennen und zu verstehen. Der Demonstrator soll flächendeckend zur Verfügung gestellt werden, damit Lehrkräfte niederschwellig befähigt werden, einen aufgeklärten Umgang mit digitalen Desinformationen zu vermitteln. Langfristig trägt EKILED damit zur gesellschaftlichen Resilienz und Stärkung der Demokratie bei und stellt eine Orientierungshilfe für den verantwortungsvollen Einsatz vertrauenswürdiger und erklärbarer KI in Bildungskontexten dar.
Forschungspartner: Universität Bamberg, Karlsruher Institut für Technologie (KIT)
Entwicklungspartner: DASU – Transferzentrum für Digitalisierung, Analytics & Data Science Ulm
Anwendungspartner: Eduversum GmbH
Projektzeitraum: März 2026 – März 2029
Das Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen der Förderrichtlinie „Vertrauen in Demokratie und Staat: Digitale Desinformation erkennen und abwehren“ gefördert und von der Universität Ulm koordiniert.