Klassische Empfehlungssysteme (z. B. bei Streaming-Diensten oder Online-Shops) empfehlen NutzerInnen auf Basis eines Algorithmus Inhalte oder Produkte, dessen Funktionsweise für diese jedoch eine Black Box darstellt und auf den sie keinen aktiven Einfluss nehmen können. Demgegenüber rückt in der aktuellen Forschung ein neues Paradigma in den Vordergrund: sogenannte konversationsbasierte Empfehlungssysteme (Conversational Recommender Systems), die einen echten Austausch zwischen Mensch und System ermöglichen. NutzerInnen können dabei Präferenzen äußern, Vorschläge ablehnen oder konkretisieren und den Empfehlungsprozess so aktiv mitgestalten. Dieser interaktive Ansatz zielt darauf ab, die inhärente Intransparenz klassischer Empfehlungsalgorithmen zu überwinden – mit dem Ziel, Empfehlungen nicht nur treffsicherer, sondern für NutzerInnen auch nachvollziehbarer und vertrauenswürdiger zu machen.

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zu solchen dialogbasierten und steuerbaren Empfehlungssystemen gegeben werden. Anschließend soll ein Szenario entworfen werden, in dem diese Art von Empfehlungssystem einen klaren Mehrwert gegenüber einem klassischen System schafft.

Literaturhilfe: Jannach, D., Manzoor, A., Cai, W., & Chen, L. (2021). A Survey on Conversational Recommender Systems. ACM Computing Surveys, 54(5), 1–36.

https://doi.org/10.1145/3453154

Large Language Models (LLMs) haben in den vergangenen Jahren enorme Fortschritte erzielt und werden heute in einer Vielzahl von Anwendungsbereichen eingesetzt. Nichtsdestotrotz leiden sie nach wie vor unter einem zentralen Problem: der Tendenz zur Halluzination, also der Generierung von sachlich falschen, jedoch überzeugend formulierten Antworten. Als vielversprechender Lösungsansatz haben sich Retrieval-Augmented Generation (RAG)-Systeme etabliert, bei denen dem Sprachmodell zur Laufzeit relevante externe Wissensquellen bereitgestellt werden, um die Qualität und Faktentreue der generierten Antworten zu verbessern. Wie gut das jedoch funktioniert, hängt unmittelbar von der Qualität dieser Wissensquellen ab: Sind die Daten unvollständig, veraltet, widersprüchlich oder schlecht strukturiert, kann das System trotzdem inhaltlich falsche Antworten liefern. Darüber hinaus bleiben NutzerInnen häufig im Unklaren über die Qualität der zugrundeliegenden Daten – eine Transparenzlücke, die das Vertrauen in RAG-basierte Systeme zusätzlich erschwert. Deswegen wird die zugrundeliegende Datenqualität damit zu einer zentralen, in der bisherigen Forschung jedoch oft unterschätzten Herausforderung beim Einsatz von RAG-Systemen.

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zu Herausforderungen und Limitationen von RAG-Systemen gegeben werden – darunter Fragen der Datenqualität, der Aktualität von Wissensquellen sowie der Zuverlässigkeit abgerufener Informationen. Anschließend soll ein eigenes Szenario entworfen werden, in dem der Einsatz eines RAG-Systems sinnvoll ist und aufgezeigt wird, welche dieser Herausforderungen dabei besonders relevant werden und wie ihnen begegnet werden kann.

Literaturhilfe: Müller, L., Holstein, J., Bause, S., Satzger, G., & Kühl, N. (2025). Data Quality Challenges in Retrieval-Augmented Generation. Proceedings of the 26th International Conference on Information Systems (ICIS), Nashville, USA.

https://aisel.aisnet.org/icis2025/da_bus/da_bus/9/

Das große Versprechen der Mensch-KI-Zusammenarbeit ist Komplementarität: Gemeinsam sollen Mensch und KI bessere Ergebnisse erzielen, als jeder von beiden allein erreichen könnte. In der Praxis gelingt das aber überraschend selten – häufig ist das Team am Ende nur so gut wie der jeweils stärkere Partner. Die Frage, wann und wie echte Komplementarität entsteht, gehört zu den zentralen offenen Themen der Forschung.

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zu Human-AI Complementarity und hybrider Intelligenz gegeben werden. Dabei soll aus der Literatur herausgearbeitet werden, unter welchen Bedingungen komplementäre Teamleistung entsteht. Anschließend soll beispielhaft ein konkretes System vorgestellt werden, das diese Bedingungen umsetzt und so eine echte Zusammenarbeit von Mensch und KI ermöglicht.

Literaturhilfe: Hemmer, P., Schemmer, M., Vössing, M., & Kühl, N. (2021). Human-AI Complementarity in Hybrid Intelligence Systems: A Structured Literature Review. PACIS 2021 Proceedings.

https://aisel.aisnet.org/pacis2021/78

Meist wird Mensch-KI-Zusammenarbeit nur danach beurteilt, wie gut das unmittelbare Ergebnis ist. Eine spannende und gerade im Bildungskontext wichtige Frage ist aber: Wie können Menschen durch die Arbeit mit KI selbst dazulernen und besser werden? Während klassische KI-Systeme primär auf Effizienz und Ergebnisoptimierung ausgerichtet sind, eröffnet die gezielte Gestaltung von Mensch-KI-Interaktionen eine weitere Dimension: KI als persönlicher Lernbegleiter. Solche Systeme beschränken sich nicht darauf, fertige Lösungen zu liefern, sondern erklären Vorgehensweisen, geben gezieltes Feedback und passen sich dem individuellen Wissensstand der Lernenden an. Gerade für weniger erfahrene Lernende oder Beschäftigte bietet das erhebliches Potenzial – etwa in der beruflichen Weiterbildung oder in der Bildung –, da KI-Systeme dort kontinuierlich und individuell unterstützen können, wo traditionelle Lehrformate an ihre Grenzen stoßen.

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zu Lern- und Wissenstransfereffekten in der Mensch-KI-Zusammenarbeit gegeben werden, mit besonderem Blick auf Bildungs- und Qualifizierungskontexte. Anschließend soll ein Szenario entworfen werden, wie KI in einem Lern- oder Ausbildungssetting eingesetzt werden kann, damit sie nachhaltig den Aufbau von Wissen und Kompetenzen fördert, statt ihn zu untergraben.

Literaturhilfe: Spitzer, P., Kühl, N., & Goutier, M. (2022). Training Novices: The Role of Human-AI Collaboration and Knowledge Transfer. Workshop on Human-Machine Collaboration and Teaming (HM-CaT 2022), ICML 2022. (ergänzend: arXiv:2207.00497)

Artificial Intelligence (AI) hat den Menschen bei der Diagnose von Röntgenbildern oder beim Schachspiel überholt. Gleichzeitig liest man Schlagzeilen, weil AI-Systeme unsachgemäß eingesetzt werden und diskriminierende Entscheidungen treffen. Beispielsweise wenn Bewerbungen mit Hilfe eines AI-Systems gefiltert werden und als Ergebnis nur BewerberInnen des männlichen Geschlechts ausgewählt werden. Daher hat die Berücksichtigung von Fairness und Bias bei der Entwicklung solcher Systeme bereits erheblich an Bedeutung gewonnen. Es gibt verschiedene Möglichkeiten zu definieren, wann ein AI-System fair ist, unter anderem das Konzept der „Counterfactual Fairness“.

Im Rahmen dieser Arbeit soll ein umfassender Überblick über die wissenschaftliche Literatur zu Counterfactual Fairness gegeben werden. Anschließend soll ein eigenes Szenario entworfen werden, das aufzeigt, wie Counterfactual Fairness zur Fairness (mit Schwerpunkt auf Nachvollziehbarkeit) von AI-Systemen beitragen könnte.

Literaturhilfe: Kusner et al. (2017). Counterfactual fairness. Advances in neural information processing systems.

https://proceedings.neurips.cc/paper/2017/file/a486cd07e4ac3d270571622f4f316ec5-Paper.pdf

Large Language Models (LLMs) werden zunehmend in gesellschaftlich und wirtschaftlich relevanten Anwendungsbereichen eingesetzt, etwa in der Entscheidungsunterstützung, im Wissensmanagement oder in automatisierten Dialogsystemen. Gleichzeitig ist häufig nur begrenzt bekannt, auf welchen – oftmals sehr großen und heterogenen – Datensätzen diese Modelle trainiert wurden. Dadurch besteht die Gefahr, dass LLMs bestehende gesellschaftliche Verzerrungen reproduzieren oder verstärken, selbst wenn diese nicht explizit in den Trainingsdaten enthalten sind.

Mit der Verbreitung von Retrieval-Augmented-Generation-Systemen (RAG) verschärft sich diese Problematik zusätzlich, da Verzerrungen nicht nur aus dem Sprachmodell selbst, sondern auch aus den angebundenen externen Datenquellen resultieren können. Bias und Fairness werden damit zu zentralen Herausforderungen datengetriebener generativer KI-Systeme.

Im Rahmen dieser Arbeit soll ein strukturierter Überblick über die wissenschaftliche Literatur zu Bias Detection und Bias Mitigation in generativen KI-Systemen gegeben werden. Dabei sollen bestehende Ansätze zur Erkennung und Reduktion von Verzerrungen in Large Language Models und RAG-Systemen dargestellt und kritisch eingeordnet werden. Besonderes Augenmerk liegt auf den zugrunde liegenden Ursachen von Bias, etwa der Zusammensetzung und Intransparenz der Trainingsdaten, der Modellarchitektur sowie der Auswahl und Struktur externer Datenquellen in RAG-Systemen. Abschließend sollen offene Forschungsfragen sowie Implikationen für den verantwortungsvollen Einsatz solcher Systeme in sensiblen Anwendungsbereichen diskutiert werden.

Literaturhilfe: Dai, S., Xu, C., Xu, S., Pang, L., Dong, Z., & Xu, J. (2024). Bias and Unfairness in Information Retrieval Systems: New Challenges in the LLM Era. Proceedings of the 30th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD ’24), 6437–6447.

https://dl.acm.org/doi/pdf/10.1145/3637528.3671458

Mit dem zunehmenden Einsatz komplexer KI-Systeme wächst der Bedarf an nachvollziehbaren und vertrauenswürdigen Entscheidungen. Während viele Ansätze der Explainable Artificial Intelligence (XAI) auf nachträgliche Erklärungen setzen, rückt zunehmend die Idee der Explainability by Design in den Fokus, bei der Erklärbarkeit bereits bei der Gestaltung von Modellen und Architekturen berücksichtigt wird.

Im Rahmen dieser Arbeit soll ein Überblick über die wissenschaftliche Literatur zu Explainability by Design gegeben werden. Dabei sollen erklärbare Modell- und Systemarchitekturen vorgestellt und den klassischen post-hoc-Erklärmethoden gegenübergestellt werden. Abschließend soll diskutiert werden, in welchen Anwendungsfällen Explainability by Design einen Mehrwert bietet.

Literaturhilfe: Swamy, V., Frej, J., & Käser, T. (2025). Viewpoint: The Future of Human-Centric Explainable Artificial Intelligence (XAI) is not Post-Hoc Explanations. Journal of Artificial Intelligence Research, 84, Article 2.

https://www.jair.org/index.php/jair/article/view/17970/27222

Mit dem zunehmenden Einsatz generativer KI-Systeme in immer mehr Anwendungsbereichen stellt sich eine grundlegende Frage: Wie lässt sich die Qualität ihrer Ausgaben systematisch und skalierbar bewerten? Klassische Evaluationsmethoden – etwa menschliche Annotation oder regelbasierte Metriken wie BLEU oder ROUGE – stoßen angesichts der Vielfalt, Offenheit und semantischen Tiefe generativer Inhalte zunehmend an ihre Grenzen. Als vielversprechender Ansatz hat sich in der jüngeren Forschung das Paradigma „LLM-as-a-Judge" etabliert: Dabei werden große Sprachmodelle als automatisierte EvaluatorInnen eingesetzt, um die Ausgaben von KI-Systemen zu bewerten – sei es generierter Text, Programmcode, Antworten von Dialogagenten oder sogar Aktionen autonomer Systeme. Damit verbunden sind jedoch erhebliche methodische Herausforderungen: Können Sprachmodelle als faire, konsistente und unverzerrte EvaluatorInnen fungieren, oder reproduzieren sie eigene Verzerrungen in ihren Bewertungen?

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zum LLM-as-a-Judge-Ansatz gegeben werden. Dabei sollen sowohl die methodischen Grundlagen als auch zentrale Herausforderungen – etwa Position Bias, Verbosity Bias und Selbstbevorzugung – herausgearbeitet werden. Anschließend soll ein konkretes Szenario entworfen werden, in dem KI-basierte EvaluatorInnen sinnvoll eingesetzt werden können, und kritisch diskutiert werden, wo die Grenzen dieses Ansatzes liegen.

Literaturhilfe: Zheng, L., Chiang, W.-L., Sheng, Y. et al. (2023). Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena. Advances in Neural Information Processing Systems, 36. arxiv.org/abs/2306.05685

Obwohl KI-Systeme in vielen Anwendungsbereichen nachweislich präzisere Vorhersagen treffen als menschliche ExpertInnen, zeigt die Forschung ein bemerkenswertes Phänomen: Menschen neigen häufig dazu, algorithmischen Empfehlungen zu misstrauen und stattdessen menschlichen Urteilen den Vorzug zu geben – ein Verhalten, das als „Algorithm Aversion" bezeichnet wird. Gleichzeitig existiert das entgegengesetzte Phänomen der „Algorithm Appreciation", bei dem NutzerInnen algorithmischen Empfehlungen sogar stärker vertrauen als menschlichen. Welche Faktoren – etwa Aufgabenkontext, Erklärbarkeit, transparente Kommunikation von Unsicherheit oder bisherige Erfahrungen mit dem System – das Vertrauen in algorithmische Empfehlungen beeinflussen, ist insbesondere für den verantwortungsvollen Einsatz von KI in Entscheidungsprozessen von zentraler Bedeutung.

Im Rahmen dieser Arbeit soll zunächst ein strukturierter Überblick über die wissenschaftliche Literatur zum LLM-as-a-Judge-Ansatz gegeben werden. Dabei sollen sowohl die methodischen Grundlagen als auch zentrale Herausforderungen – etwa Position Bias, Verbosity Bias und Selbstbevorzugung – herausgearbeitet werden. Anschließend soll ein konkretes Szenario entworfen werden, in dem ein LLM-as-a-Judge-Ansatz zur Bewertung von KI-Ausgaben sinnvoll eingesetzt werden kann, und kritisch diskutiert werden, welche Anforderungen an die Gestaltung des Bewertungsprozesses zu stellen sind, um verlässliche und unverzerrte Ergebnisse zu erzielen.

Literaturhilfe: Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. doi.org/10.1037/xge0000033

Viele KI-Systeme werden nicht nur einmal entwickelt, sondern können durch menschliches Feedback laufend verbessert werden. In Human-in-the-Loop-Systemen markieren NutzerInnen Fehler, korrigieren Vorschläge, geben neue Beispiele oder bringen Fachwissen ein, damit das System besser zum jeweiligen Anwendungskontext passt. Damit dieses Feedback hilfreich ist, müssen die Systeme jedoch so gestaltet sein, dass NutzerInnen verstehen, wann und warum die KI falsch liegen könnte und welche Art von Rückmeldung benötigt wird. Eine wichtige Rolle spielen dabei verständliche Erklärungen, geeignete Feedbackmöglichkeiten und klare Interaktionsprozesse, die auch nicht-technischen NutzerInnen Orientierung geben. Entscheidend ist daher nicht nur, dass Menschen „im Loop“ sind, sondern wie dieser Loop gestaltet ist, damit Nutzerfeedback tatsächlich zur Verbesserung von KI-Systemen beitragen kann.

Im Rahmen dieser Arbeit soll anhand eines strukturierten Literaturüberblicks gezeigt werden, welche Gestaltungsprinzipien für Human-in-the-Loop-Systeme erforderlich sind, damit NutzerInnen KI-Systemen sinnvolles Feedback geben können. Darauf aufbauend soll herausgearbeitet werden, welche Rolle Erklärbare KI, interaktives Lernen und nutzerfreundliche Feedbackmechanismen dabei spielen.

Literaturhilfe: Mosqueira-Rey, E., Hernández-Pereira, E., Alonso-Ríos, D., Bobes-Bascarán, J., & Fernández-Leal, Á. (2023). Human-in-the-loop machine learning: a state of the art. Artificial Intelligence Review, 56(4), 3005-3054.

https://doi.org/10.1007/s10462-022-10246-w

KI kann große Datenmengen auswerten, Muster erkennen und daraus beeindruckend gute Vorhersagen ableiten. Doch ein gefundener Zusammenhang bedeutet nicht automatisch, dass das eine auch die Ursache für das andere ist. Ein anschauliches Beispiel: Wenn Menschen, die regelmäßig ein Glas Wein trinken, in manchen Datensätzen länger leben, heißt das nicht zwingend, dass Wein gesund ist. Möglicherweise unterscheiden sich diese Menschen auch in anderen Punkten, etwa durch ein höheres Einkommen, bessere medizinische Versorgung oder mehr soziale Kontakte. Genau darin liegt eine zentrale Herausforderung datengetriebener Entscheidungen: KI kann häufig gut vorhersagen, was wahrscheinlich passieren wird, aber nicht ohne Weiteres erklären, warum es passiert. Kausale KI-Ansätze setzen hier an, indem sie helfen sollen, Ursache-Wirkungs-Zusammenhänge besser zu erkennen und daraus belastbarere Empfehlungen abzuleiten.

Im Rahmen dieser Arbeit soll anhand eines strukturierten Literaturüberblicks gezeigt werden, warum klassische KI-Modelle häufig nur Korrelationen erkennen und daraus keine verlässlichen Aussagen über Kausalität ableiten können. Zudem soll herausgearbeitet werden, wie Ansätze aus causal machine learning genutzt werden, um KI-basierte Entscheidungen und Empfehlungen belastbarer zu machen.

Literaturhilfe: Feuerriegel, S., Frauen, D., Melnychuk, V., Schweisthal, J., Hess, K., Curth, A., ... & van der Schaar, M. (2024). Causal machine learning for predicting treatment outcomes. Nature Medicine, 30(4), 958-968.

https://doi.org/10.1038/s41591-024-02902-1

Zeitreihenprognosen sind für viele Anwendungsfelder relevant, etwa für Energieverbrauch, Aktienkurse, Absatzplanung, Lieferketten, Wetterdaten oder Nachfrageentwicklungen. In all diesen Bereichen geht es darum, aus vergangenen Entwicklungen möglichst gute Einschätzungen für die Zukunft abzuleiten. Dafür gibt es unterschiedliche Methoden – von einfachen statistischen Verfahren bis hin zu modernen Machine-Learning- und KI-Ansätzen. Diese Methoden unterscheiden sich darin, welche Daten sie benötigen, wie gut sie Trends oder saisonale Muster erkennen, wie leicht sie verständlich sind und für welche praktischen Fragestellungen sie besonders geeignet sind. Gleichzeitig ist nicht jedes komplexe Modell automatisch besser, denn Prognosen hängen stark von Datenqualität, Anwendungsfeld und Prognosehorizont ab.

Im Rahmen dieser Arbeit soll anhand eines strukturierten Literaturüberblicks gezeigt werden, welche zentralen Methoden für Zeitreihenprognosen existieren, wie sie sich unterscheiden und welche Vor- und Nachteile sie aufweisen. Darauf aufbauend soll herausgearbeitet werden, für welche praktischen Anwendungsfelder einzelne Methoden besonders geeignet sind und welche Kriterien bei der Auswahl einer passenden Prognosemethode berücksichtigt werden sollten.

Literaturhilfe: Kontopoulou, V. I., Panagopoulos, A. D., Kakkos, I., & Matsopoulos, G. K. (2023). A Review of ARIMA vs. Machine Learning Approaches for Time Series Forecasting. Future Internet, 15(8), 255.

https://doi.org/10.3390/fi15080255

Quantencomputing gilt als eine der spannendsten Zukunftstechnologien, weil es bestimmte komplexe Probleme deutlich schneller oder auf völlig neue Weise lösen könnte als klassische Computer. Lange Zeit war die Nutzung von Quantentechnologien vor allem auf Forschung und experimentelle Laborumgebungen beschränkt. In den vergangenen Jahren wurden jedoch erhebliche technologische Fortschritte erzielt, sodass eine schrittweise kommerzielle Nutzung zunehmend realistischer erscheint. Für Unternehmen ist dabei weniger die technische Funktionsweise entscheidend, sondern die Frage, welche konkreten Anwendungsmöglichkeiten Quantencomputing eröffnet. Besonders relevant sind Bereiche, in denen sehr viele mögliche Lösungen verglichen, komplexe Systeme simuliert oder große Datenmengen analysiert werden müssen, etwa Logistik, Finanzmärkte, Produktionsplanung, Risikoanalysen oder Materialentwicklung.

Im Rahmen dieser Arbeit soll anhand eines strukturierten Literaturüberblicks gezeigt werden, welche wirtschaftlich relevanten Anwendungsfälle für Quantencomputing diskutiert werden und welche Potenziale sich daraus für Unternehmen ergeben. Darauf aufbauend soll herausgearbeitet werden, in welchen Bereichen Quantencomputing besonders vielversprechend erscheint und welche Grenzen einer praktischen Nutzung derzeit bestehen.

Literaturhilfe: Descazeaux, I. (2025). Mapping the narratives of quantum computing in IS: A literature re-view. Proceedings of the 46th International Conference on Information Systems.

https://aisel.aisnet.org/icis2025/quantum/quantum/5

Generative KI wird immer häufiger genutzt, um Texte zu schreiben, Ideen zu entwickeln, Informationen zusammenzufassen oder Entscheidungen vorzubereiten. Dadurch kann sie den Arbeits- und Studienalltag deutlich erleichtern und die Produktivität steigern. Gleichzeitig stellt sich die Frage, ob Menschen zentrale Fähigkeiten weniger trainieren oder langfristig verlieren, wenn sie solche Aufgaben zunehmend an KI-Systeme auslagern. Dies könnte besonders problematisch sein, wenn Kompetenzen wie kritisches Denken, Problemlösungsfähigkeit, Urteilsvermögen oder fachliches Lernen geschwächt werden. Deshalb ist es wichtig zu verstehen, unter welchen Bedingungen GenAI als hilfreiche Unterstützung wirkt und wann ihre Nutzung zu einem Verlust wichtiger Kompetenzen führen kann.

Im Rahmen dieser Arbeit soll anhand eines strukturierten Literaturüberblicks gezeigt werden, ob und wie die Nutzung Generativer KI zum Verlust oder zur Schwächung wichtiger Kompetenzen, also zu deskilling, beitragen kann. Darauf aufbauend soll herausgearbeitet werden, welche Fähigkeiten besonders betroffen sein könnten und wie GenAI so eingesetzt werden kann, dass sie Lernen und Kompetenzentwicklung unterstützt, statt sie zu ersetzen.

Literaturhilfe: Ferdman, A. (2026). AI deskilling is a structural problem. AI & SOCIETY, 41(4), 3001-3013.

https://doi.org/10.1007/s00146-025-02686-z