KI-Kompetenz für die angemessene Nutzung von LLMs
Forschungsprojekt
Forschungsprojekt
Prof. Dr. Steffen Zimmermann
+49 (0) 7 31 50-3 23 00
steffen.zimmermann(at)uni-ulm.de
Dr. Kilian Züllig
+49 (0) 7 31 50-3 23 19
kilian.zuellig(at)uni-ulm.de
Large Language Models (LLMs) wie ChatGPT haben sich innerhalb kürzester Zeit als feste Bestandteile der Wissensarbeit etabliert. Ihre niederschwellige Bedienung über natürliche Sprache senkt Einstiegshürden drastisch – birgt zugleich aber ein zentrales Risiko: Die intuitive Nutzung kann die Unzuverlässigkeit solcher Systeme verschleiern und dazu führen, dass NutzerInnen fehlerhafte KI-Ausgaben unkritisch übernehmen - was als Overreliance bezeichnet wird.
Als zentraler Mechanismus für einen angemessenen Umgang mit KI rückt zunehmend die KI-Kompetenz in den Fokus – das Verständnis der Funktionsweise und Grenzen solcher Systeme, das NutzerInnen befähigt, KI-Ausgaben gezielt zu hinterfragen. Trotz wachsenden Interesses bleiben zwei Fragen weitgehend offen: Erstens ist unklar, ob sich Interventionen zur Steigerung von KI-Kompetenz tatsächlich in verändertem Verhalten niederschlagen – oder ob eine Lücke zwischen Wissen und Handeln bestehen bleibt. Zweitens fehlt belastbare Evidenz dazu, wie nachhaltig die Effekte solcher Interventionen über die Zeit wirken.
Das Projekt adressiert diese Lücken mit verhaltensorientierten, experimentellen Studien. Ziel ist ein theoretisch wie empirisch fundiertes Verständnis der Wirkmechanismen solcher Interventionen – als Grundlage für die Gestaltung effektiver und persistenter Formate.
Die erwarteten Erkenntnisse sind über den unternehmerischen Kontext hinaus gesellschaftlich relevant: Ein kompetenter Umgang mit KI berührt auch Fragen der Meinungsbildung und der Auseinandersetzung mit KI-generierten Inhalten in einer zunehmend KI-geprägten Informationsumgebung.
Fördergeber: Nachwuchsakademie ProTrainU - Ulm Postdoc Research Grant 2026
Projektzeitraum: 2026-2027