Wenn Roboter über Ethik
diskutieren

Neuer Juniorprof. für erklärbare Künstliche Intelligenz

Fahrerassistenzsysteme, Bild- und Gesichtserkennung oder virtuelle Helfer wie „Alexa“: Künstliche Intelligenz (KI) gehört schon heute zu unserem Alltag. Doch wie kommen diese Systeme zu ihren Entscheidungen und Bewertungen? Der neue Juniorprofessor Felix Lindner will KI nicht nur erklärbar machen, sondern ihr auch eine ethische Dimension verleihen. Sein Roboter „Immanuel“ kann sogar mit menschlichen Probanden über moralische Dilemmata diskutieren.

„Ist es moralisch vertretbar, einen alten, kranken Mann anzulügen, damit er seine Medikamente nimmt?“ Sachlich und bestimmt trägt Immanuel dieses Dilemma dem Probanden vor. Die Gesprächspartner sitzen sich in einem heimeligen Wohnzimmer gegenüber, und ab und zu kommentiert Immanuel die Ausführungen des Probanden. Meist nimmt er die Gegenposition ein, wobei seine philosophische Bildung deutlich wird. Doch Immanuel, der diesen Namen wohl nicht zufällig trägt, ist weder Philosophieprofessor noch Moraltheologe. Er ist ein Roboterkopf, der freundlich und ein bisschen mechanisch mit seinen blauen Augen klimpert.

IMMANUEL - The Ethical Reasoning Robot

External content

To use this content (Source: www.xyz.de ), please click to Accept. We would like to point out that by accepting this iframes data to third parties transmitted or cookies could be stored.

You can find further information in our Privacy policy.

Erschaffen hat ihn Juniorprofessor Felix Lindner zu Forschungszwecken. „Ein großes Thema in der Ergründung Künstlicher Intelligenz ist die Maschinenethik. Darunter versteht man das Bestreben, ethische Prinzipien aus der Philosophie zu formalisieren, damit sie in der KI genutzt werden können“, erklärt der geisteswissenschaftlich interessierte Informatiker. Seit vielen Jahren unterhält Lindner enge Kontakte zu Philosophen im dänischen Kopenhagen, „Denn selbstverständlich gibt es nicht nur eine Philosophie: Handlungen können aus unterschiedlichen Perspektiven bewertet werden“, so der KI-Forscher. An dieser Stelle setzt der Informatiker mit seiner Juniorprofessur für erklärbare Künstliche Intelligenz an: Der Mensch soll verstehen, wie die KI zu ihrer Bewertung der Situation kommt. Dies wird besonders relevant, wenn Algorithmen beispielsweise die Kreditwürdigkeit einer Person bewerten. „Wird Künstliche Intelligenz erklärbar, lassen sich auch viel leichter Fehler oder etwa die Diskriminierung von Personengruppen aufdecken. Auf längere Sicht dürfte das Vertrauen in solche Systeme steigen“, erläutert Lindner.

Forschung zwischen Philosophie und Informatik

Hinter der Gesprächssituation in Immanuels Wohnzimmer steht die Frage, ob sich Probanden von ihrer Bewertung des Dilemmas durch den Roboter abbringen lassen – oder ob sie vielleicht sogar in ihrer Position bestärkt werden. „Nach dem Kategorischen Imperativ ist es verwerflich zu lügen, weshalb der alte Mann auf keinen Fall angeschwindelt werden darf, damit er seine Medikamente einnimmt. Denn man kann nicht wollen, dass Lügen zur Regel wird“, erklärt Lindner. Allerdings hätten so argumentierende Probanden meist Probleme, ihre Sichtweise zu begründen – und profitierten daher besonders von der Diskussion mit Immanuel. Neben Gesprächsaufzeichnungen fließen von den Teilnehmenden ausgefüllte Fragebögen, in denen sie die Interaktion mit dem Roboter beurteilen, in die Auswertung des Experiments ein.

Roboterkopf Immanuel
Der Roboterkopf Immanuel kann in verschiedenen Stimmlagen mit Probanden diskutieren

Zur Person

Felix Lindner

Dr. Felix Lindner (Jahrgang 1982) forscht und lehrt seit Oktober als Juniorprofessor für Erklärbare Künstliche Intelligenz an der Universität Ulm. Die vom Land und von der Universität Ulm eingerichtete Juniorprofessur ist am Institut für Künstliche Intelligenz angesiedelt. Felix Lindner hat an der Universität Hamburg Informatik studiert und in der dortigen Forschungsgruppe für Wissens- und Spracherwerb über soziale Robotik promoviert. Vor seinem Wechsel nach Ulm war Lindner seit 2015 Akademischer Rat an der Universität Freiburg.

Diese Beispiele zeigen: Felix Lindner bewegt sich gerne zwischen den wissenschaftlichen Welten. Bereits seine Promotion im Bereich soziale Robotik war an der Schnittstelle von Informatik und Philosophie angesiedelt. Diese Interdisziplinarität will der KI-Experte auch in die Forschung und Lehre an der Universität Ulm tragen. Seit dem Wintersemester ist Felix Lindner auch als Dozent an der Uni Ulm aktiv. Sein aktuelles Projekt für Informatik-Studierende geht von einer Datenbank mit fiktiven Noten aus. Nun sollen die Teilnehmenden dafür sorgen, dass das System Begründungen für diese Bewertungen generiert („Wärst du häufiger zur Vorlesung gekommen, hättest du eine bessere Note“). Die Herausforderung: „Die Studierenden sollen nicht losprogrammieren, sondern das Problem verstehen und es auf Formalismen der theoretischen Informatik reduzieren“, so Lindner. Bei der Lektüre philosophischer Texte zum Thema greift er den angehenden Informatikern jedoch unter die Arme und richtet Lesegruppen ein. Vielleicht findet sich im Lesezirkel ja auch eine Beschäftigungen für den Roboter Immanuel? Als Tutor könnte er mit den Studierenden über philosophische Texte diskutieren und ethische Fragestellungen erörtern. Derzeit wartet die Künstliche Intelligenz im Büro von Felix Lindner auf ihr neues Wohnzimmer. Denn das eigens für den Juniorprofessor eingerichtete Labor wurde vom Wasserschaden an der Uni in Mitleidenschaft gezogen. Doch KI ist geduldig – bis die Renovierungsarbeiten abgeschlossen sind, begrüßt Immanuel Besucher mit einem freundlichen Zwinkern.

Text: Annika Bingmann

Fotos: pixabay, Elvira Eberhardt

Video: RoboticsResearch