Künstliche Intelligenz erfindet unsere Voreingenommenheit nicht. Sie übernimmt die Auswahl, Auslassungen und Machtverhältnisse menschlicher Wissensordnungen, verdichtet sie zu Wahrscheinlichkeiten und überführt sie in technische Verfahren. So wird aus dem oft flüchtigen Vorurteil eine skalierbare Infrastruktur: messbar, reproduzierbar und institutionell wirksam.
In der Debatte über künstliche Intelligenz herrscht ein Konsens. Die Maschine soll transparent, fair und kontrollierbar bleiben. Der Luzerner Ethiker Peter G. Kirchschläger bindet ihren Einsatz an Menschenrechte und menschliche Verantwortung. Die Zürcher Bioethikerin Effy Vayena rückt verantwortliche Innovation und eine Regulierung in den Vordergrund, die technische Entwicklung nicht bloss nachträglich beaufsichtigt. Dagmar Fenner, Schulphilosophin an der Universität Basel, versteht digitale Ethik als die Prüfung dessen, was KI leisten darf, welche Risiken sie hervorbringt und wie ihre Anwendung unter menschlicher Kontrolle bleiben kann. Diese Positionen unterscheiden sich im Ton, doch sie teilen eine Grundüberzeugung: Technik darf nicht zum herrschaftsfreien Raum werden.
Der Konsens ist vernünftig, geradezu bis zur Harmlosigkeit. Und doch verbirgt sich in seiner Sprache eine Verkürzung. Sobald von voreingenommener, unfairer oder manipulativer KI die Rede ist, klingt es, als sei mit der Maschine eine neue Quelle der Parteilichkeit in die Welt getreten, als habe es vor dem Algorithmus ein unbeflecktes Wissen gegeben, als seien Bibliotheken neutrale Speicher, Archive vollständige Gedächtnisse und Institutionen leidenschaftslose Verwalter der Wahrheit gewesen. Das waren sie nie!
Die künstliche Intelligenz hat den Bias nicht erfunden. Sie hat ihn geerbt. Sie macht ihn schneller, billiger und wirksamer. Darin liegt ihre Gefahr. Darin liegt aber auch ihre Erkenntnisleistung. Im Spiegel der Maschine begegnet der Mensch keinem fremden Defekt. Er erkennt die Ordnung seiner eigenen Vorurteile, nun in mathematischer Vergrösserung.
Die verlorene Unschuld, die es nie gab
Die Klage über die voreingenommene Maschine lebt von der Fiktion eines unverdächtigen Davor. Vor der KI, so scheint es, habe Wissen noch unter verlässlicher menschlicher Aufsicht gestanden. Fachleute prüften, Redaktionen gewichteten, Gerichte urteilten, Bibliotheken sammelten. Dann trat der Algorithmus auf und öffnete die Einfallstore für Verzerrungen, Präferenzen und Interessen.
Diese Klage ist älter als jede Maschine. Schon Sokrates misstraute der Schrift. Sie täusche, liess Platon ihn im Phaidros sagen, Erinnerung nur vor, wo sie ihr bloss als Krücke diene, ein Pharmakon, Gift und Gegenmittel in einem Wort. Was der Papyrus dem mündlichen Gedächtnis antat, wiederholte der Kodex an der Schriftrolle, die Druckerpresse am Kodex, die Datenbank an der Bibliothek. Jede neue Verdichtungstechnik des Wissens wurde als Sündenfall gegen eine vorausgehende Reinheit beklagt. Diese Reinheit hielt der Nachprüfung nie stand.
Jede Sammlung beginnt mit einer Ausscheidung. Wer ein Buch in eine Bibliothek aufnimmt, lässt andere draussen. Wer ein Dokument archiviert, erklärt ein anderes für entbehrlich. Wer einen Lehrplan schreibt, entscheidet, welche Vergangenheit erinnerungswürdig ist. Wer eine Diagnose stellt, ordnet einen Menschen Kategorien zu, die von einer Fachgeschichte geprägt sind. Wissen entsteht nicht dadurch, dass alles gesammelt wird. Es entsteht durch Auswahl. Auswahl ist niemals unschuldig.
Die Bibliothek gilt gern als steinerne Metapher des Weltwissens. In Wahrheit ist sie ein geronnener Entscheidungsprozess. Hinter jedem Regal stehen Erwerbungsbudgets, politische Ordnungen, sprachliche Grenzen, wissenschaftliche Moden und moralische Verbote. Ganze Kulturen haben ihre Erfahrungen mündlich überliefert und deshalb in den grossen Archiven Europas kaum Spuren hinterlassen. Andere konnten schreiben, aber nicht publizieren. Wieder andere wurden publiziert, jedoch nicht gesammelt. Was später als Kanon erscheint, ist der Siegerkranz einer langen Selektionsgeschichte.
Kein Mensch verkörpert deshalb die Summe menschlichen Wissens. Keine Bibliothek, keine Universität, kein Staat und kein Modell tun es. Diese Summe ist eine theologische Figur in säkularer Verkleidung: der Traum von einem Speicher, dem nichts entgeht. Wirkliches Wissen existiert dagegen nur in Ausschnitten, Perspektiven und Verfahren, mit eigenen Standorten, Sprachen und blinden Flecken. Es bleibt verteilt, umkämpft, revisionsbedürftig. Wenn KI die Totalität des Wissens nicht enthält, bezeichnet dies kein spezifisches Versagen der KI, sondern die Bedingung jeder Wissensform.
Der Mensch im Passiv
Die zeitgenössische KI-Ethik weiss selbstverständlich, dass Daten und Algorithmen aus Auswahl und Entscheidungen hervorgehen. Dennoch gleitet ihre öffentliche Sprache häufig in eine eigentümliche Verantwortungsverschiebung. Die KI ist voreingenommen. Die KI gewichtet schlecht. Die KI erfindet. Die KI manipuliert. Der Mensch, der auswählt, finanziert, trainiert, einsetzt und profitiert, verschwindet grammatisch im Hintergrund. So entsteht das Passiv der Verantwortung.
Technik besitzt keine Vorurteile im menschlichen Sinn. Sie hegt keine Abneigung. Ein Modell kann dennoch Gruppen systematisch benachteiligen, ohne jemanden zu hassen. Es kann eine politische Perspektive bevorzugen, ohne eine Überzeugung zu besitzen. Es kann Unwahrheiten erzeugen, ohne zu lügen, denn zur Lüge gehören die Kenntnis der Wahrheit und der Wille zur Täuschung – über beides verfügt die Maschine nicht. Was sie produziert, kann dennoch falsch, schädlich oder ungerecht sein. Die moralische Qualität liegt daher nicht in ihrem Innenleben, sondern in der menschlich organisierten Wirkung. Das entlastet die Technik nicht, sondern verschärft die Verantwortung jener, die sie entwickeln, einsetzen und kontrollieren.
Die Rede vom Bias beschreibt zunächst ein messbares Muster: Bestimmte Fälle werden systematisch anders behandelt als andere. Erst danach beginnt die ethische Analyse. Sie muss Datenherkunft, Zielgrössen, Fehlertoleranzen und Machtverhältnisse untersuchen. Sie muss benennen, welches Unternehmen das Modell angepasst hat, welche Behörde es einsetzt, wer von seinem Einsatz profitiert und wer seinen Resultaten widersprechen kann. Ohne diese institutionelle Zuordnung verwandelt sich Bias in ein Maschinenhoroskop. Man schreibt dem technischen Objekt einen Charakter zu und erspart sich die Untersuchung der Organisation.
Ein KI-System verarbeitet zudem nicht einfach die Welt. Schon sein Rohstoff ist industriell sortiert. Daten werden beschafft, bereinigt, beschriftet und gewichtet. Menschen bewerten Antworten, setzen Sicherheitsregeln und definieren unerwünschte Resultate. Hinzu kommen Geschäftsmodelle, Haftungsängste und politische Vorgaben. Die Maschine verarbeitet eine kuratierte Welt unter den Bedingungen eines bestimmten Zwecks. Entscheidend ist deshalb, wer den Trog füllt, wer die Nahrung mischt und wem die Herde gehört.
Vom Kanon zum Korpus
Trainingsdaten erscheinen als neuartige Quelle der Verzerrung. Dabei setzt das digitale Korpus eine alte Kulturtechnik fort. Der Kanon war das Trainingsset der voralgorithmischen Gesellschaft. Er legte fest, welche Stimmen gebildete Menschen kennen sollten, welche Begriffe als vernünftig galten und welche Erfahrungen ausserhalb des Sagbaren blieben.
Auch menschliche Urteilskraft arbeitet mit Wiederholung, Ähnlichkeit und sozialer Bestätigung. Ein Arzt erkennt Krankheitsbilder, weil er viele Fälle gesehen hat. Eine Richterin beurteilt Plausibilität vor dem Hintergrund beruflicher Erfahrung. Ein Redaktor spürt, was als relevante Nachricht gilt, weil er die Routinen seines Milieus verinnerlicht hat. Diese Fähigkeiten sind wertvoll. Neutral sind sie nicht. Erfahrung ist ein Archiv, das seinen Besitzer vergessen lässt, wer es angelegt hat.
Vorurteile sind deshalb nicht bloss moralische Fehltritte schlechter Menschen. Sie sind auch Abkürzungen endlicher Erkenntnis. Der Mensch muss typisieren, weil er nicht jeden Fall voraussetzungslos betrachten kann. Er bildet Kategorien, weil die Welt sonst in Einzelheiten zerfällt. Das ethische Problem beginnt dort, wo solche Vereinfachungen unsichtbar werden, sich gegen Korrektur sperren oder mit Macht verbunden sind.
Das neunzehnte Jahrhundert stattete diese Typisierung mit einem Apparat aus. Adolphe Quetelet verdichtete Körpermasse, Sterbetafeln und Verbrechensraten zum homme moyen, dem statistischen Durchschnittsmenschen, an dem sich fortan Abweichung bemessen liess. Was als Beschreibung begann, kippte in Norm: Wer vom Mittelwert abwich, geriet in den Verdacht der Anomalie. Francis Galton baute darauf seine Eugenik. Die Kategorienmaschine war erfunden, lange bevor sie Silizium brauchte. Ein Sprachmodell tut, was Quetelet mit Tabelle und Feder tat: Es ordnet Menschen in Klassen, um sie berechenbar zu machen, nur schneller, umfassender und mit dem Anschein einer Objektivität, die schon Quetelet für sich beanspruchte.
Hier verändert KI die Lage grundlegend. Sie erzeugt Vorurteile nicht aus dem Nichts, aber sie verwandelt sedimentierte Urteile in Infrastruktur. Was früher als unausgesprochene Erwartung in einem Büro, einer Redaktion oder einem Gericht wirkte, kann nun millionenfach reproduziert werden. Menschlicher Bias war oft lokal, langsam und widersprüchlich. Technischer Bias kann zentral, augenblicklich und konsistent sein. Konsistenz klingt nach Gerechtigkeit. Doch auch ein falscher Massstab lässt sich vollkommen gleichmässig anwenden.
Die Maschine ist somit weder blosser Spiegel noch selbstständiger Urheber. Ein gewöhnlicher Spiegel gibt zurück, was vor ihm steht. Ein Modell tut mehr. Es verdichtet Vergangenes zu Wahrscheinlichkeiten und macht diese für neue Entscheidungen verfügbar. Es ist ein Spiegel mit eingebauter Verwaltung. Es zeigt nicht nur die Ordnung der Vergangenheit. Es hilft, die Zukunft nach ihr zu sortieren.
Darum genügt es nicht zu sagen, KI bilde menschliche Vorurteile ab. Sie kann sie verstärken, entpersonalisieren und institutionalisieren. Der Ursprung bleibt menschlich. Auch die Skalierung geschieht nicht von selbst. Jemand entscheidet, das System dort einzusetzen, wo seine Wahrscheinlichkeiten über Kredite, Bewerbungen, Versicherungen, Ermittlungen oder Sichtbarkeit mitentscheiden.
Neutralität ist kein Zustand
Die Ethikdebatte verlangt zu Recht Objektivität, Fairness und Neutralität. Doch diese Begriffe sind keine technischen Eigenschaften, die sich einem System wie Bauteile einfügen lassen. Fairness ist keine Schraube. Neutralität ist kein Werkzustand. Objektivität ist kein Datenformat. Alle drei sind Verfahren der Selbstkorrektur.
Objektiv ist nicht, wer ohne Perspektive sieht. Ein solches Wesen existiert nicht. Objektivität entsteht, wenn Perspektiven offengelegt, Methoden geprüft, Ergebnisse angefochten und Fehler berichtigt werden können. Fair ist nicht, wer alle Menschen identisch behandelt. Identische Behandlung kann bestehende Ungleichheit befestigen. Fairness verlangt eine begründete Entscheidung darüber, welche Unterschiede relevant sind und welche nicht. Neutral ist nicht, wer keine Werte hat. Schon die Entscheidung, welche Schäden vermieden werden sollen, enthält eine Wertung. Neutralität bezeichnet im besten Fall die Pflicht, sachfremde Interessen vom Urteil fernzuhalten.
Diese Ideale sind keine verlorenen Paradiese. Sie sind anstrengende Praktiken. Wissenschaft organisiert Zweifel. Das Recht organisiert Widerspruch. Der Journalismus organisiert Prüfung. Demokratische Politik organisiert den Streit legitimer Interessen. Keine dieser Institutionen ist unfehlbar. Ihr Wert liegt darin, dass sie Revisionswege geschaffen haben.
Genau daran muss KI gemessen werden. Nicht an der absurden Forderung, perspektivlos zu sein, sondern an ihrer Korrigierbarkeit. Ein System ist ethisch nicht deshalb überlegen, weil es neutral zu rechnen behauptet. Es wird vertretbarer, wenn seine Zwecke benannt, seine Fehler sichtbar, seine Ergebnisse anfechtbar und seine Betreiber verantwortlich sind. Die zentrale Eigenschaft einer verantwortbaren KI ist nicht Reinheit, sondern Revisionsfähigkeit.
Damit gewinnt auch der Ruf nach verantwortlicher Innovation Kontur. Verantwortung darf nicht erst nach der technischen Fertigstellung als moralisches Etikett aufgeklebt werden. Sie muss in Beschaffung, Entwicklung, Zulassung und Betrieb eingebaut sein. Das verlangt keine abstrakte Werteprosa, sondern Zuständigkeiten, Prüfverfahren und wirksame Rechte für Betroffene. Menschenrechte werden technisch erst dort relevant, wo sie eine Organisation zwingen, eine Entscheidung zu erklären, zu überprüfen und nötigenfalls zurückzunehmen.
Auch schlechte Quellen sind kein Naturereignis. Modelle entstehen nicht durch das unterschiedslose Hineinschütten des Internets in einen mathematischen Behälter. Quellen können gefiltert, Daten gewichtet, Modelle nachtrainiert und Ausgaben bewertet werden. Wie gut dies geschieht, bleibt Gegenstand berechtigter Kritik. Doch gerade die Möglichkeit solcher Eingriffe zeigt: Nicht das Datenmeer entscheidet. Menschen bauen Schleusen.
Wo diese Schleusen verborgen bleiben, entsteht der Mythos maschineller Naturgewalt. Dann erscheint der Output wie Wetter: möglicherweise gefährlich, aber ohne Adresse. Ethik beginnt jedoch mit der Adresse.
Die Institution
Die entscheidende Veränderung durch KI liegt weniger in einer neuen Form des Vorurteils als in einer neuen Form seiner Institutionalisierung. Klassische Institutionen hatten Gebäude, Ämter, Aktenzeichen und Zuständigkeiten. Man wusste wenigstens ungefähr, wo eine Entscheidung gefallen war. Algorithmische Institutionen sind diffuser. Ein Modell wird von einem Unternehmen entwickelt, mit Daten unbekannter Herkunft trainiert, von einem Dienstleister angepasst und von einer Behörde eingesetzt. Wenn ein Fehler geschieht, zerfällt die Verantwortung entlang der Lieferkette.
Auch das ist keine neue Erfahrung, nur eine beschleunigte. Als Herman Hollerith 1890 die amerikanische Volkszählung mit Lochkarten auswertete, schrumpfte die Auswertezeit von acht Jahren auf wenige Wochen. Zweiundsechzig Millionen Karten liefen durch das Zählwerk, jede ein Mensch, reduziert auf gestanzte Merkmale. Niemand fragte mehr, wer die Rubriken der Karte entworfen und welche er weggelassen hatte. Die Maschine lieferte Summen, keine Verantwortlichen. Was Hollerith für die Bevölkerungsstatistik leistete, leistet das Sprachmodell für das Wissen: Es beschleunigt die Verdichtung und verschweigt dabei die Hand, die zuvor gelocht hat.
Diese Zerstreuung ist politisch bequem. Der Entwickler verweist auf den Anwender. Der Anwender verweist auf das Modell. Die Behörde verweist auf Effizienz. Das Unternehmen verweist auf Geschäftsgeheimnisse. Am Ende bleibt die betroffene Person vor einem Ergebnis stehen, das niemand gewollt haben will und dennoch alle ermöglicht haben.
Nicht die Maschine wird zum moralischen Subjekt. Die Organisation wird zum moralischen Nebel.
Deshalb reicht es nicht, ein System auf Bias zu testen, als handle es sich um Schadstoffe in einem Produkt. Geprüft werden muss die gesamte Entscheidungskette: Ziel, Datenauswahl, Schwellenwerte, Überwachung, Eingriffskompetenz und Begründungspflicht. Ein technisch verbessertes Modell kann in einer schlechten Institution weiterhin Unrecht produzieren. Umgekehrt kann ein unvollkommenes Modell in einer verantwortungsvollen Institution nützlich sein, wenn Menschen seine Grenzen kennen, Fälle überprüfen und Betroffene wirksam widersprechen können.
Menschliche Aufsicht darf dabei nicht zur rituellen Handauflegung verkommen. Ein Sachbearbeiter, der fast immer der Empfehlung folgt, legitimiert nicht die Maschine. Er wird zu ihrem biologischen Bestätigungsknopf. Verantwortung verlangt reale Entscheidungsmacht, ausreichende Zeit, Fachwissen und die Befugnis, einen automatisierten Prozess zu stoppen. Sonst dient der Mensch nur als Haftungsbeilage eines technischen Verfahrens.
Die Verantwortung
Die Warnungen der Philosophinnen, Philosophen, Ethikerinnen und Ethiker vor Übervertrauen, Kontrollverlust und Entmündigung bleiben notwendig. Maschinen besitzen kein moralisches Urteilsvermögen. Sie können Verantwortung weder verstehen noch tragen. Gerade deshalb dürfen wir sie sprachlich nicht zu Urhebern jener Defizite erheben, die aus menschlichen Ordnungen stammen. Wer die Voreingenommenheit der KI anklagt, darf die Voreingenommenheit ihrer Welt nicht zum neutralen Hintergrund erklären.
KI ist weder Orakel noch Dämon. Sie ist eine Verdichtungsmaschine sozialer Vergangenheit. In ihr werden Texte, Bilder, Klassifikationen, Auslassungen und Machtverhältnisse zu operativen Wahrscheinlichkeiten. Gefährlich wird sie dort, wo diese Wahrscheinlichkeiten ohne Einspruchsmöglichkeit in Entscheidungen übergehen. Erkenntnisreich wird sie dort, wo messbare Modellfehler sichtbar machen, was in menschlichen Routinen lange als Erfahrung, Bauchgefühl oder gesunder Menschenverstand getarnt war.
Darin liegt die eigentliche Kränkung durch KI, die vierte in einer bekannten Reihe. Sigmund Freud zählte deren drei: Kopernikus vertrieb den Menschen aus dem Zentrum des Kosmos, Darwin aus dem Zentrum der Schöpfung, die Psychoanalyse selbst aus dem Zentrum des eigenen Bewusstseins, das kein Herr mehr im eigenen Haus sei. Die Maschine fügt eine vierte Kränkung hinzu: Sie vertreibt den Menschen aus dem Zentrum seiner Urteilskraft, die sich als Statistik der eigenen Vergangenheit entpuppt. Die Maschine ist nicht weniger objektiv als der Mensch, der sie gebaut hat. Sie zerlegt vielmehr dessen Anspruch auf Objektivität in prüfbare Muster. Der Mensch konnte sein Vorurteil als Urteil inszenieren. Die Maschine versieht es mit Zahlen.
Aus dieser Einsicht folgt keine Apologie der Technik, sondern ein strengeres Programm der Verantwortung. Mit der Reichweite eines Systems müssen die Anforderungen an Herkunft, Zweck und Wirkung wachsen. Mit seiner Undurchsichtigkeit muss die institutionelle Zuständigkeit deutlicher werden. Mit seinem Einfluss auf Rechte und Lebenschancen müssen Begründung, Widerspruch und Korrektur an Kraft gewinnen. Die moralische Aufgabe besteht nicht darin, eine reine Maschine zu erschaffen. Sie besteht darin, menschliche Macht auch dann sichtbar, anfechtbar und begrenzbar zu halten, wenn sie sich in technischen Systemen verbirgt.
Der Bias steht vor der Maschine. In der Maschine gewinnt er Reichweite. Durch Institutionen erhält er Macht. Verantwortliche KI beginnt deshalb nicht mit der Behauptung technischer Neutralität, sondern mit der Offenlegung menschlicher Entscheidungen. Erst wenn Auswahl, Eigentum und Zuständigkeit eine Adresse haben, wird aus Ethik mehr als die beruhigende Begleitmusik der Automatisierung.
Bezugspunkte
1. Peter G. Kirchschläger: „Macht künstliche Intelligenz die Welt wirklich besser?“ Essay in Republik, 14. Juli 2026. Kirchschläger diskutiert darin KI aus ethischer Perspektive und verbindet ihren Einsatz mit Menschenrechten, Verantwortung und institutioneller Kontrolle. Artikel in Republik öffnen. Als ergänzende Quelle der Universität Luzern: Menschenrechte als Rahmen von «KI» – Universität Luzern (Universität Luzern) | 2. Effy Vayena: Anna Jobin, Marcello Ienca und Effy Vayena: „The global landscape of AI ethics guidelines“, Nature Machine Intelligence, 2019. Die Studie untersucht internationale Leitlinien zur KI-Ethik. Sie identifiziert eine Annäherung bei Prinzipien wie Transparenz, Gerechtigkeit, Schadensvermeidung, Verantwortung und Datenschutz, zugleich aber erhebliche Unterschiede bei deren praktischer Umsetzung. Studie bei Nature öffnen Für Vayenas institutionelles Forschungsprofil: Effy Vayena – ETH Zürich, Health Ethics and Policy Lab (Future Health Technologies) | 3. Dagmar Fenner: „Exkurs: Digitale Ethik“, Bundeszentrale für politische Bildung, 25. November 2025. Fenner erläutert dort, mit welchen ethischen Problemen digitale Technologien verbunden sind und wie digitale Ethik deren Entwicklung, Anwendung und gesellschaftliche Folgen beurteilt. (bpb.de) Beitrag bei der Bundeszentrale für politische Bildung öffnen. Die ausführliche Buchquelle lautet: Dagmar Fenner: Digitale Ethik. Eine Einführung. Tübingen: Narr Francke Attempto/UTB, 2025. Verlagsseite des Buches öffnen (UTB)
