»Technologie befindet sich nie in einem Vakuum«

Frau Dr. Jobin, wird Künstliche Intelligenz die Welt retten – oder uns beherrschen?
»Die KI wird das tun, was wir Menschen aus und mit ihr machen – sie selbst macht erstmal gar nichts. Sie braucht Elektrizität, Hardware, Software, damit sie überhaupt funktionieren kann.«

Also haben Sie keine Angst vor Untergangsszenarien?
»Es gibt natürlich Gefahren, aber die liegen nicht in Roboteraufständen oder in zu intelligenter KI. Ein Risiko ist, dass KI eingesetzt wird, wo sie nicht eingesetzt werden soll. Ein Beispiel hierfür sind die hochumstrittenen autonomen Waffensysteme im Rüstungssektor. Eine KI kann Effizienzgewinne bringen – aber es gibt viele Situationen, in denen Effizienz nicht der wichtigste Wert ist.«

Inwieweit muss KI und der Umgang mit ihr an Schulen und Universitäten gelehrt werden – auch außerhalb der technischen Fächer?
»Kritisches Denken, Selbstreflexion und Informationsbeurtei- lung waren immer schon wichtig – es wird noch dringender, diese Dimensionen nicht zu vernachlässigen. Die große Veränderung ist nicht die KI, sondern sie hat bereits stattgefunden, als sich der Zugang zum Internet demokratisiert hat. Denn Lehrstätten, die Wissen vermitteln, haben im Zeitalter des Informationsüberflusses andere Aufgaben als zu früheren Zeiten der Informationsknappheit. Wobei das Ziel solcher Aufgaben unverändert bleibt: Informationen akkurat bewerten zu können und auf vorhandenem Wissen aufzubauen, um fundierte Entscheidungen zu treffen.«

Wie gehen Sie selbst mit KI um?
»Ich habe keine Berührungsängste, es ist ja mein Forschungsthema, und ich benutze sie auch aktiv. Trotzdem habe ich Vorbehalte, aber diese sind nicht primär technologisch, sondern drehen sich eher um die politökonomischen und ethischen Aspekte. Zum Beispiel darum, wie intransparent es ist, was mit den Daten geschieht, und natürlich die enorme Umweltbelastung und der ökologische Fußabdruck.«

Sie sagen, der Begriff »Intelligenz« sei irreführend, wenn es um generative KI geht. Wie meinen Sie das?
»Im besten Fall simuliert generative KI wie beispielsweise ChatGPT die menschliche Sprache. Aber sie funktioniert überhaupt nicht wie menschliches Denken. Das System berechnet ja nur Wahrscheinlichkeiten, dass bestimmte Silbenteile in einem gewissen Satzformat vorkommen können, sodass es dann plausibel klingt. In diesem Sinne sind eigentlich alle Antworten von Large Language Models Halluzinationen, selbst wenn sie vom Menschen gelesen als sinnvoll erscheinen.«

Viele Menschen sind dennoch beeindruckt davon, was ChatGPT und Bildgeneratoren wie Midjourney bereits heute zu wissen und verstehen scheinen. Weshalb möchte man das so gerne glauben?
»Die technische Leistung ist ja auch eindrücklich. Und wahrscheinlich können wir uns immer noch nicht die Größenordnung dieser digitalen Inhalte vorstellen. Das ist eine riesige Masse an Informationen, durch die es einfacher wird, neue, ähnliche Datensätze zu generieren. Man wird immer staunen können darüber, was ein System liefern kann. Aber ein Problem bei generativer KI ist ja auch, was sie eben nicht liefern kann, was fehlt – das ist in der Informationsüberflut viel schwieriger festzustellen.«

Was fehlt denn?
»Themen, Formate, Stimmen, Perspektiven, die ohnehin bereits weniger sichtbar sind, kaum oder gar nicht im Internet vorkommen und dann auch weniger reproduziert werden. Auch eine Onlinesuchmaschine löst dieses Problem nicht, aber sie zeigt mir an, wenn es wenige oder keine Resultate gibt. ChatGPT generiert trotzdem Text.«

Viele Menschen sagen: Die Daten, auf deren Grundlage diese Wahrscheinlichkeiten berechnet werden, sind doch neutral, es spricht also nichts gegen eine Nutzung.
»Erstens sind Daten nie neutral. Zweitens kann ein KI-System nur mit jenen Daten arbeiten, die ihm zur Verfügung stehen. Und man kann nicht die gesamte Welt und all ihre Möglich keiten modellieren. Ich spreche mich jedoch nicht grundsätzlich gegen eine Nutzung aus. Aber sie hängt von vielen Faktoren ab. In welchen Fällen Informationsverarbeitung an eine Maschine delegiert wird, soll deshalb eine bewusste Entscheidung sein, kein dogmatischer Grundsatz. KI ist nicht immer die Lösung. Manchmal lohnt es sich zu überlegen: Könnte man die menschlichen und maschinellen Ressourcen vielleicht besser anders einsetzen, um das Problem zu lösen?«

Können Sie zum Schluss etwas Gutes über KI sagen?
»Was ich toll finde ist, dass gerade in der öffentlichen Forschung oft nicht direkt ein Business Case daraus gemacht wird, sondern das ganze Wissen rund um KI weitergebracht wird. Denn solche Systeme erschaffen und verbessern zu wollen, ist eine löbliche Motivation. Es geht letztlich nicht darum, ob KI gut oder schlecht ist, sondern anzuerkennen, dass sie weder noch und beides gleichzeitig sein kann – und sich zu fragen, wie wir damit umgehen.« 

Text: Christine Liebhardt
Foto: Johannes Glöggler