Fakultät Ingenieurwissenschaften, Informatik und Psychologie

Erklärbarkeit, Fairness und Akzeptanz intelligenter Systeme (EFA)

Der erfolgreiche Einsatz von Verfahren der Künstlichen Intelligenz, insbesondere maschinellem Lernen, sowie aktuelle Entwicklungen in Bereichen wie Sensorik, Compressed Sensing, Big Data und Digitalisierung führen zu einer zunehmenden Verbreitung intelligenter Systeme. Letztere sind modell- und datengetrieben und werden durch ihre Fähigkeiten, ihre Umgebung wahrzunehmen sowie selbständig zu lernen, zu entscheiden und zu handeln, zunehmend autonom. Daher werden intelligente Systeme zukünftig immer mehr Entscheidungsgewalt in vielen Bereichen unseres gesellschaftlichen und wirtschaftlichen Lebens ausüben. Sie nutzen dafür große Datenmengen, um z.B. Kunden automatisch in verschiedene Konsumententypen zu gruppieren, die Kreditwürdigkeit eines Antragstellers einzuschätzen oder Prognosen für Geschäftsprozesse zu treffen und notwendige Handlungen abzuleiten. Die damit verbundenen Risiken liegen auf der Hand und werden derzeit breit diskutiert.

Derzeit ist die Akzeptanz intelligenter Systeme aufgrund ihrer Unfähigkeit, Entscheidungen bzw. Aktionen dem menschlichen Benutzer zu erklären, noch stark limitiert. Es ist oft weder nachvollziehbar, wie eine automatisierte Entscheidung zustande gekommen ist (Erklärbarkeit) noch, ob diese fair im Sinne rechtlicher, moralischer und ethischer Kriterien ist (Fairness). Aufgrund der Wirkmacht intelligenter Systeme werden Erklärbarkeit, Fairness und Akzeptanz für deren Nutzung und Verbreitung aber essentiell sein.

Ziel des Kompetenzzentrums ist es, Erklärbarkeit, Fairness und Akzeptanz intelligenter Systeme interdisziplinär wissenschaftlich zu untersuchen und Beiträge zu deren Erforschung und Weiterentwicklung zu leisten.

Sprecherin

Weiterer Vorstand

EFA Projekte

ED3 - Enabling data-driven decisions

Entscheidungen werden trotz des Vorliegens durch Business Analytics gewonnener Erkenntnisse in knapp der Hälfte aller Fälle auf Grundlage subjektiver Kriterien getroffen. Gründe sind Verhaltensweisen aufgrund fehlender Akzeptanz und unbewusste Vorurteile und Verzerrungen (Biases). Im Forschungsprojekt wurden Implikationen zur Steigerung der Akzeptanz und Reduktion von Biases abgeleitet und für KMU mittels IT-Demonstrator und Schulungsmaßnahmen aufbereitet.

https://ipri-institute.com/forschungsprojekte/ed%C2%B3/

Einsatz von Sprachassistenzsystemen in der Wertschöpfung von kleinen und mittleren Unternehmen (KMU) des Maschinen- und Anlagenbaus

Übergeordnetes Ziel des Forschungsprojekts ist es, dazu beizutragen, die Möglichkeiten der digitalen Transformation besser ausschöpfen zu können. Forschungsziel ist die Identifikation und Bewertung von nutzenstiftenden Einsatzszenarien von Sprachassistenzsystemen. Mitunter wird analysiert, welche Akzeptanzhürden mit dem Einsatz von Sprachassistenzsystemen einhergehen.

https://ipri-institute.com/forschungsprojekte/smart-speaker/

Lernpfade und Lernprozesse individualisieren durch KI-Methoden

Die grundlegende Projektidee basiert auf den nicht zuletzt im Rahmen der Corona-Krise gemachten Erfahrungen, dass die Heterogenität der Studierenden eine deutlich stärker auf die einzelne Person angepasste Bereitstellung von Lerninhalten oder Lernunterstützung benötigen, als dies im Rahmen traditioneller Lehrformate möglich ist. Insbesondere Studienanfänger im Master mit Fach- oder Hochschulwechsel benötigen individualisierte Angebote, um die heterogene Ausgangslage in Vorkenntnissen und Erfahrungen auszugleichen. Dies gilt in noch stärkerem Maße für Weiterbildungsstudiengänge oder international ausgerichtete Angebote.

In dem Vorhaben 2LIKE werden individualisierte digitale Lernangeboten auf zwei verschiedenen Ebenen entwickelt: Auf der Makroebene bieten individualisierte Lernpfade die Möglichkeit zum Ausgleich von Defiziten oder zur kompetenzorientierten Vertiefung von Lerninhalten und auf der Mikroebene unterstützt personalisiertes Feedback einzelne Lernprozesse individuell. Beide Adaptivitätsansätze nutzen KI- unterstützte Methoden und Best-Practices automatisierter Lehr- und Lernsysteme. Konkrete individualisierte digitale Lernangebote werden zunächst für eine einführende Veranstaltung im MSc Cognitive Systems und dem neuen MSc Künstliche Intelligenz umgesetzt, der gezielt die Heterogenität der Eingangsqualifikation adressiert. Die erarbeiteten KI-Lerninhalte und die erworbenen Erkenntnisse sollen im Rahmen von Zertifikatsstudienangeboten (von kompakten Nuggets im Sinne eines Micro-Learning bis hin zu Diplomas of Advanced Studies) anderen Akteuren in der Hochschullehre angeboten werden. Dieses Angebot kann auch einen Beitrag zur nachhaltigen Finanzierung der entwickelten Methoden leisten.

Zur Realisierung des Vorhabens steht Expertise aus den Bereichen Informatik, Lehr-Lernforschung, der School of Advanced Professional Studies (SAPS, berufsbegleitende Master-Studiengänge) und dem produktiven Betrieb von Lehr-/Lerninfrastruktur zur Verfügung.

Die Leitung des Projekts liegt bei Frau Professorin Dr. Birte Glimm, Institut für Künstliche Intelligenz, sowie bei Prof. Dr. Stefan Wesner, Kommunikations-und Informationszentrum / Institut für Organisation und Management von Informationssystemen.

https://www.uni-ulm.de/in/ki/research/projekte/2like-lernpfade-und-lernprozesse-individualisieren-durch-ki-methoden/

Institute der Informatik

Datenbanken und Informationssysteme 
(Prof. Reichert, Prof. Scherp)
Künstliche Intelligenz 
(Prof. Glimm)
Medieninformatik 
(Prof. Ropinski)
Medizinische Systembiologie 
(Prof. Kestler)
Neuroinformatik 
(Prof. Braun, Prof. Neumann, apl. Prof. Schwenker)
Software Engineering und Programmiersprachen 
(Prof. Tichy)
Verteilte Systeme 
(Prof. Kargl)

Institute der Mathematik

Finanzmathematik 
(Prof. Stelzer)
Numerische Mathematik 
(Prof. Urban)
Optimierung und Operations Research 
(Prof. Bruhn-Fujimoto, Prof. Rautenbach)
Statistik 
(Prof. Beyersmann)

Institut für Psychologie und Pädagogik

Allgemeine Psychologie 
(Prof. Huckauf)
Angewandte Emotions- und Motivationspsychologie 
(Prof. Herbert)
Klinische Psychologie und Psychotherapie
 (Prof. Baumeister)
Angewandte Kognitionspsychologie 
(Prof. Ernst)
Human Factors 
(Prof. Baumann)

Institute der Wirtschaftswissenschaften

Business Analytics 
(Prof. Klier, Prof. Seiter, Prof.  Zimmermann)
Rechnungswesen und Wirtschaftsprüfung 
(Prof. Anzinger, Prof. Marten)
Volkswirtschaftslehre 
(Prof. Ludwig)

Technische Hochschule Ulm

Servicerobotik 
(Prof.  Schlegel)