Rechtfertigung durch lernende Systeme

Künstliche Intelligenz wird zunehmend zur Ausübung von Hoheitsgewalt eingesetzt. Die komplexe Entscheidungslogik lernender Systeme lässt sich im Einzelfall allerdings kaum rekonstruieren. Für den auf Rechtfertigung angelegten Rechtsstaat wird dies zum unmittelbaren Problem, denn die klassischen Instrumente juristischer Begründungen drohen hier, an ihre funktionalen Grenzen zu stoßen. Darauf hat der europäische Gesetzgeber reagiert: Die 2024 erlassene KI-Verordnung verpflichtet die Betreiber solcher Systeme erstmals zu aussagekräftigen Erläuterungen, lässt aber offen, was diese beinhalten müssen und wie sie sich zur rechtsstaatlichen Begründungspflicht verhalten.
Hier setzt Arian Henning an: Die Begründungslehre hat die Kluft zwischen Herstellung und Darstellung rechtlicher Entscheidungen traditionell überbrückt, indem sie nicht auf die tatsächlichen Determinanten der Entscheidung, sondern auf die normative Rekonstruktion der entscheidungserheblichen Gründe abstellt. Könnte sich dieser Gedanke auf algorithmische Entscheidungen übertragen lassen? Eine Antwort auf diese Frage führt das Recht an die Schnittstelle zur Informatik. Deren Verfahren der Erklärbarkeit sind mit den Anforderungen rechtsstaatlicher Rechtfertigung nicht ohne Weiteres kompatibel. Der Autor übersetzt deshalb die zentralen Verfahrensfunktionen der Begründung in die Logik algorithmischer Erklärungsmodelle und entwickelt einen normativen Rahmen für eine neue Begründungsarchitektur.
Ein verhaltenswissenschaftliches Experiment mit 4.250 Teilnehmenden überprüft dieses Konzept im Verwaltungsverfahren. Es zeigt einen bislang kaum dokumentierten Befund: Kontrafaktische Erklärungen führen bei algorithmischen Entscheidungen zu überproportionalen Fairnessgewinnen und verringern das Fairnessdefizit gegenüber menschlichen Entscheidungen signifikant.
Die Arbeit verbindet damit eine normative Theorie der Erklärbarkeit mit empirischer Evidenz dafür, welche Erklärungen Fairness und Akzeptanz algorithmischer Staatsentscheidungen stärken. Sie wurde mit dem Wissenschaftspreis der Deutschen Stiftung für Recht und Informatik sowie dem Promotionspreis der Bucerius Law School ausgezeichnet.