Die Verbindung von Recht und Code: Algorithmische Fairness durch optimalem Transport erreichen

 

Diskriminierung durch Algorithmen wird immer mehr als gesellschaftliches und rechtliches Problem wahrgenommen. Zwar sind diverse Fairnesskriterien für algorithmische Entscheidungsprozesse vorgeschlagen worden, aber diese widersprechen sich zum Teil philosophisch und/oder mathematisch. In einem vor kurzem veröffentlichten Fachartikel hat der Ulmer Mathematiker Emil Wiedemann gemeinsam mit seinen Koautoren Meike Zehlike (Informatik, MPI für Softwaresysteme Saarbrücken) und Philipp Hacker (Jura, Europa-Universität Frankfurt/O.) einen neuen Algorithmus entwickelt. Dieser ermöglicht eine stetige Interpolation zwischen zwei widerstrebenden Fairnesskriterien, nämlich individueller und gruppenbezogener Fairness. Dabei wird unter individueller Fairness üblicherweise das Prinzip verstanden, nach dem Individuen mit ähnlichen Merkmalen auch ähnlich behandelt werden sollen, wohingegen Gruppenfairness darauf anhebt, dass die Wahrscheinlichkeit einer positiven Entscheidung nicht von der Zugehörigkeit zu einer bestimmten demographischen Gruppe abhängt.

Ein Beispiel: Bei der Entscheidung über die Vergabe eines Kredits wird die Kreditwürdigkeit eines Individuums anhand eines Scores beurteilt (z.B. SCHUFA). Dieser Score wird wiederum aufgrund von Merkmalen wie Einkommen, Kreditgeschichte, Familienstand etc. berechnet. Hier kann man leicht einsehen, wie die beiden genannten Fairnesskriterien einander widersprechen können: Individuelle Fairness verlangt, dass Menschen mit ähnlichen Merkmalen auch mit ähnlicher Wahrscheinlichkeit einen Kredit erhalten. Gruppenfairness dagegen verlangt, dass verschiedene demographische Gruppen die gleichen Chancen auf einen Kredit haben. Falls nun aber eine demographische Gruppe (z.B. Menschen mit Migrationshintergrund) in der Vergangenheit diskriminiert worden ist, wird diese Gruppe im Mittel voraussichtlich schlechtere Kreditscores erhalten als die privilegierte Mehrheit. Das Konzept der gruppenbezogenen Fairness erfordert dann eine wohlwollendere Beurteilung diskriminierter Individuen im Vergleich mit nicht-diskriminierten, was wiederum dem Prinzip der individuellen Fairness widerspricht. Umgekehrt kann das Prinzip der individuellen Fairness zur Stützung des Status quo führen, der durch vergangene und anhaltende Ungerechtigkeiten zustande gekommen sein mag.

Individuelle und gruppenbezogene Fairness sind aus zwei Gründen relevant: Erstens werden sie nicht nur ausführlich in der algorithmischen Fairnessforschung, sondern auch in juristischen Debatten diskutiert. Die Autoren haben dementsprechend einen Algorithmus vorgeschlagen, der Verfahren des maschinellen Lernens mit aktuellem Antidiskriminierungsrecht in Einklang bringt. Zweitens können die beiden Fairnesskriterien streng mathematisch formuliert werden, was eine stetige Interpolation zwischen individueller und gruppenbezogener Fairness ermöglicht. 

Diese Interpolationsmethode beruht auf der Theorie des optimalen Transports, die in der gegenwärtigen mathematischen Analysis eine wichtige Rolle spielt. Der Algorithmus ermöglicht es also dem Entscheidungsträger, weltanschauliche Haltungen zwischen den beiden Extrempositionen eines vollkommenen Egalitarismus einerseits und des Festhaltens am Status quo andererseits einzunehmen.

Die Autoren diskutieren drei Beispiele (Kreditvergabe; Studienzulassungen; Versicherungsverträge) und erläutern die rechtlichen und politischen Folgen. In Situationen, in denen Gruppenfairness stärker berücksichtigt werden sollte, kann der Entscheidungsträger die individuell fairen Scores in gruppenbezogen faire Scores transformieren, die statistisch gesehen eine Gleichbehandlung aller Gruppen nach sich ziehen. Dabei müssen allerdings rechtliche Vorgaben zur positiven Diskriminierung beachtet werden. Gibt es andererseits legitime Gründe, verschiedene Gruppen auch unterschiedlich zu behandeln, dann kann der Entscheidungsträger an individuell fairen Scores festhalten, auch wenn dadurch das Prinzip der Gruppenfairness verletzt wird. Diese Ungleichbehandlung muss dann ggf. aber auch gerichtsfest begründet werden. 

Der Artikel „Matching Code and Law: Achieving Algorithmic Fairness with Optimal Transport“ ist im Fachjournal Data Mining and Knowledge Discovery erschienen.

Kontakt

Prof. Dr. Emil Wiedemann

Institut für Angewandte Analysis

Helmholtzstraße 18, Raum E.10
89069 Ulm

Tel: +49  (0)731/50-23560
Email: Emil.wiedemann (at) uni-ulm.de

Weitere Themen aus der Fakultät für Mathematik und Wirtschaftswissenschaften

Amerikanische Mathematiker rufen ihre Kollegen auf, nicht mit der Polizei zusammenzuarbeiten. Sie meinen, das verleihe einem rassistischen System wissenschaftlichen Anstrich. Mathematik ist Klarheit. Sie kann Aspekte unserer mehrdeutige Welt beschreiben, ist selbst aber eindeutig. Wahr ist in der Mathematik nur was bewiesen werden konnte. Dadurch wirkt sie losgelöst von der  aufgeregten Wirklichkeit, wie wir sie gerade auf den Straßen der Vereinigten Staaten sehen, wo George Floyds Tod  erst Demonstrationen und schließlich Denkmalstürze auslöste. Doch nun hat eine Gruppe von Mathematikern ihre beschauliche Wissenschaft in diesen Sturm hineingerissen. mehr lesen

In Ulm wird derzeit der Nahverkehr an Samstagen kostenlos angeboten. Die Einführung der Maßnahme hatte zwei zentrale Motive. Die Promotion des Nahverkehrsangebotes und die Belebung der Innenstadt. Ziel der wissenschaftlichen Begleitforschung ist es, die Eignung des kostenlos angebotenen Nahverkehrs zur Erreichung dieser Ziele zu untersuchen. Es wird untersucht, ob ein temporär kostenlos angebotener ÖPNV ein wirksames Instrument zur Förderung des Nahverkehrs ist und damit einen Beitrag zu nachhaltiger Mobilität darstellen kann. mehr lesen

Die Erwartungen der Bürger an den im Alter realisierbaren Lebensstandard weichen erfahrungsgemäß häufig von der Realität ab. Es gibt daher viele Argumente für eine frühzeitige, verständliche und realistische Darstellung des zu erwartenden Ruhestandseinkommens. Hierzu bedarf es einer einfach zugänglichen Quelle für die relevanten Informationen zum Stand der eigenen individuellen Vorsorge – mehr lesen

Das gemeinsame Projekt “BNTextillabor“ der Universität Ulm und der Technische Universität Berlin hat sich die Forschung zu einem nachhaltigeren Modekonsum bei Jugendlichen zum Ziel gesetzt. Im Projektzeitraumsoll das Konsumverhalten von Jugendlichen untersucht werden und mit Hilfe von verschiedenen Interventionen ein stärkeres Bewusstsein geschaffen und Konzepte für einen nachhaltigeren Textilkonsum entwickelt werden. mehr lesen

In Rahmen eines fortgeschrittenen CSE-Projektes sollte der Einsatz von einem Leap Motion Controller (LMC) im Bereich der Biomechanik überprüft werden. Der LMC ist ein Computer-Hardware-Sensorgerät, das analog zu einer Maus, Hand- und Fingerbewegungen als Eingabe unterstützt, aber keinen Handkontakt oder Berührung erfordert. Dieser Sensor soll helfen eine Handbewegung aufzunehmen, die anschließend in das AnyBody Modeling System™ (AMS) übertragen wird. mehr lesen

Für Arbeitslose ab dem 50. Lebensjahr ist die Gefahr der Langzeitarbeitslosigkeit besonders hoch. ForscherInnen am Institut für Business Analytics der Universität Ulm haben daher einen neuen, innovativen Ansatz entwickelt, um diese Zielgruppe mithilfe sozialer Medien bei der Arbeitssuche zu unterstützen: die digitale Peergruppenberatung (DIGIPEG). mehr lesen

Auf Zukunftsgebieten ganz vorne mitspielen: Die neuen Masterstudiengänge der Universität Ulm für „Mathematical Data Science“ und „Künstliche Intelligenz“ bilden Spezialisten für den Arbeitsmarkt der Zukunft aus. Zum Wintersemester 2021/22 gehen die ersten Studierenden an den Start. Interessierte können sich ab sofort informieren und vom 1. Juni bis zum 15. Juli bewerben beziehungsweise einschreiben.  mehr lesen

Diskriminierung durch Algorithmen wird immer mehr als gesellschaftliches und rechtliches Problem wahrgenommen. Zwar sind diverse Fairnesskriterien für algorithmische Entscheidungsprozesse vorgeschlagen worden, aber diese widersprechen sich zum Teil philosophisch und/oder mathematisch. Ein neuer Algorithmus wurde entwickelt, der eine stetige Interpolation zwischen zwei widerstrebenden Fairnesskriterien, nämlich individueller und gruppenbezogener Fairness ermöglicht. mehr lesen

Die tomographische Rekonstruktion der 3D Mikrostruktur realer Materialien ist sehr zeit- und kostenintensiv. Deshalb sind mathematische Modelle erforderlich, um den Einfluss der Mikrostruktur auf mechanische Materialeigenschaften systematisch zu untersuchen. Sie erlauben die Simulation virtueller, aber dennoch realistischer 3D Mikrostrukturen am Computer. Die mechanischen Eigenschaften dieser Strukturen werden anschließend mit numerischer Simulation bestimmt. Einen vielversprechenden Ansatz stellt insbesondere die Verwendung von KI-Methoden zur Beschleunigung der numerischen Simulation des Bruchverhaltens von Titanaluminiden dar. Die zur Etablierung dieses Ansatzes erforderliche Methodenentwicklung ist Gegenstand des Projektes SMILE. mehr lesen