Das unlesbare Herz und der gläserne Code

Eine rechtsphilosophische Kolumne: Wir misstrauen der künstlichen Intelligenz, weil wir ihre Entscheidungen nicht verstehen – und übersehen dabei, dass auch das menschliche Urteil aus einer Black Box stammt. Diese Kolumne fragt, warum wir dem unlesbaren Herzen mehr vertrauen als dem gläsernen Code und weshalb die Verantwortung dennoch niemals an eine Maschine delegiert werden darf.

I. Das Paradoxon des Vertrauens
Wir misstrauen der Maschine, weil sie eine Black Box ist. Wir vertrauen dem Menschen, weil er ein Mensch ist. Das ist das grosse Missverständnis der Moderne. Das menschliche Gehirn ist die dunkelste aller Kammern. Der Richter entscheidet, doch niemand weiss, wie die Gewichtung in seinem Kopf vollzogen wurde. Einem menschlichen Richter wird das Streben nach Gerechtigkeit zugestanden. Doch seine inneren Motive bleiben verborgen. War es tiefe juristische Einsicht – oder schlicht Müdigkeit, schlechte Laune und unbewusstes Vorurteil? Im Rechtszug überprüfen wir niemals die Seele des Richters. Wir überprüfen ausschliesslich den Urteilstext. Solange dieser formal den bekannten Regeln der juristischen Kunst entspricht, gilt das Urteil als rechtmässig. Wir vertrauen einem unlesbaren, unüberprüfbaren Herzen. Das ist die Naivität unserer Rechtskultur.

II. Die gläserne Rationalität
Die künstliche Intelligenz ist anders. Sie hat kein Bewusstsein, kein emotionales Erleben, kein Mitgefühl. Sie rechnet nur. Aber sie ist gläsern. Das Black-Box-Problem neuronaler Netze ist kein metaphysisches Mysterium, sondern eine Frage mathematischer Komplexität. Im Gegensatz zum menschlichen Gehirn lässt sich die Maschine sezieren. Man kann sie wissenschaftlich analysieren, im Labor auf systematische Verzerrungen (Bias) testen und gezielt korrigieren. Ein Luxus, der uns beim Menschen verwehrt bleibt. Eine Richter-KI übersieht keine Norm, vergisst keinen Präzedenzfall und ignoriert kein Argument der Verteidigung. Doch wir weigern uns, ihr Macht zu übertragen. Wir fürchten die leidenschaftslose Rationalität des Gestells. Wir bevorzugen das unberechenbare Menschenherz gegenüber dem mathematisch berechenbaren, aber kalten Code. Weil das Technische uns zwingt, von Menschlichkeit abzusehen.

III. Die Rache des Schachtürken
Im 18. Jahrhundert versetzte Wolfgang von Kempelens Schachtürke die Welt in Erstaunen. Eine mechanische Puppe schien genial Schach zu spielen. Doch im Kasten sass ein Zwerg und zog die Fäden. Es war die Illusion einer Maschine, die in Wahrheit menschlich war. Heute erleben wir das Gegenteil: den umgekehrten Schachtürken. Wir blicken auf vermeintlich objektive, rationale KI-Systeme. Doch im Inneren der mathematischen Modelle verbirgt sich nichts als das verstaubte Archiv unserer eigenen Vorurteile. Die Maschine lernt aus historischen Daten der Vergangenheit. Sind diese Daten durch menschliche Diskriminierung vergiftet, perpetuiert der Algorithmus diese mit mathematischer Präzision. So spiegelt uns die Maschine nur wider. Sie vergrössert das Zerrbild unserer eigenen moralischen Mängel.

IV. Das Können ohne Wissen
Wir haben uns in einer Black-Box-Zivilisation eingerichtet, wie Hermann Lübbe sie beschreibt. Wir bedienen Apparate und nutzen Verfahren, ohne sie rational zu verstehen. Technisierung bedeutet das Beiseiteschieben von Rücksichten. Sie ist das Vergessen des ursprünglichen Sinns zugunsten eines rein operativen Funktionierens. Wir operieren mit Buchstaben und Symbolen wie im Schachspiel. In den komplexen Systemen der Moderne ist unser intuitives Urteil, das in einfachen Kausalitätsmustern verhaftet ist, hoffnungslos überfordert. Wir brauchen die Maschine als Denkprothese. Der „Prothesengott“ steigert seine Leistung ins Ungeheure. Doch die Gefahr des „Automation Bias“ ist real: Wir neigen dazu, dem Urteil der Apparatur blind zu folgen.

V. Die Unteilbarkeit der Schuld
Gerechtigkeit ist kein Rechenprozess. Ein Algorithmus erfährt keinen moralischen Stress und keine Entscheidungsnot. Die Maschine leidet nicht unter den Konsequenzen ihrer Wahl; sie bleibt unberührbar und unpersönlich. Deshalb kann sie niemals ein echtes Gegenüber sein. Der ethische Konflikt ist zutiefst persönlich und lässt sich nicht an ein System delegieren. Wenn der Algorithmus entscheidet und irrt, wer übernimmt die Verantwortung? Der Softwareentwickler, der Betreiber, der Staat? Die Verantwortung ist unteilbar. Sie muss beim Menschen bleiben. Die Herrschaft im Spiel der Information muss beim Menschen liegen, wenn das Recht mehr sein soll als das fehlerfreie Funktionieren eines Programms.

Literaturverzeichnis

• Bolz, Norbert: Das Gestell. Wilhelm Fink Verlag, München 2012.
• Hartmann, Matthias (Hrsg.): KI & Recht kompakt. Springer Vieweg, Wiesbaden 2020.
• Reder, Michael / Koska, Christopher (Hrsg.): Künstliche Intelligenz und ethische Verantwortung. transcript Verlag, Bielefeld 2024.
• Schmiedchen, Frank et al. (Hrsg.): Künstliche Intelligenz und Wir. Springer-Verlag, Berlin/Heidelberg 2026.
• Streicher, Hans Werner: Die öffentliche Verwaltung im KI-Zeitalter. Digital – Intelligent – Effizient. Springer Gabler, Wiesbaden 2026.