KI erschafft eigene Rassen: Wissenschaftler beweisen, dass neuronale Netze neue Formen von Rassismus generieren

Wir sind es gewohnt, künstliche Intelligenz als Spiegel menschlicher Laster zu betrachten: Sie lernt aus unseren Daten und erbt somit unsere Vorurteile. Eine neue Studie von Forschern der Princeton University und der University of Chicago dreht diese Paradigmen jedoch auf den Kopf. Sprachmodelle sind in der Lage, nicht nur zu kopieren, sondern spontan völlig neue soziale Stereotypen zu generieren – selbst unter Bedingungen, in denen ursprünglich keine Voreingenommenheit bestand.

Experiment mit erfundenen Völkern

Um die Hypothese der Selbstgenerierung von Vorurteilen zu überprüfen, wiederholten die Forscher ein klassisches Experiment zur Personalauswahl. Dabei sollten die Teilnehmer Kandidaten für Stellen verteilen und Feedback über den Erfolg oder Misserfolg jeder Entscheidung erhalten. Die entscheidende Bedingung: Alle Kandidaten gehörten zu einer von vier fiktiven ethnischen Gruppen – Tufa, Aima, Reku oder Veki. Zwischen diesen Gruppen gab es keine realen Unterschiede, und die Erfolgschancen in jeder Rolle waren gleich.

Wenn Menschen das Experiment durchliefen, formte negatives Feedback tatsächlich Vorurteile. Wenn beispielsweise ein Vertreter der Gruppe Tufa die Stelle als Arzt nicht bekam, vermieden die Teilnehmer es in Zukunft, diese Gruppe einzustellen. Bei Menschen waren diese Einstellungen jedoch flexibel und schwächten sich mit der Zeit ab.

Neuronale Netze werden radikaler als Menschen

Als Sprachmodelle dieselbe Aufgabe übernahmen, veränderte sich das Bild dramatisch. Das Niveau der Voreingenommenheit bei KI war deutlich höher als bei Menschen. Die Wissenschaftler testeten 15 Modelle führender Technologieunternehmen: OpenAI, Anthropic, DeepSeek, Meta, Google und Alibaba. Das Modell o3 von OpenAI zeigte die ausgeprägteste Stratifizierung der erfundenen Kandidaten.

Innerhalb jeder Modellfamilie wurde ein klares Muster festgestellt: Je neuer und leistungsfähiger das Modell, desto stärker zeigte sich die Voreingenommenheit. Dies wirft die Idee in Frage, dass technologischer Fortschritt automatisch zu größerer Gerechtigkeit führt.

Das Paradoxon der Effizienz

Der Kern des Problems liegt in einem Prinzip, das Experten als Balance zwischen Exploration und Exploitation bezeichnen. Bei einer Entscheidung wählt ein Agent zwischen der Erschließung einer neuen, unbekannten Option mit dem Risiko eines Fehlers und der Stützung auf das, was zuvor gute Ergebnisse lieferte.

Menschen behalten auch bei hohen Einsätzen die Tendenz zur Exploration und sind bereit, Risiken einzugehen. Sprachmodelle sind jedoch, wie die Forscher beobachteten, viel stärker auf die Maximierung der Belohnung ausgerichtet. Ein leistungsfähigeres Modell zieht präzisere Schlüsse aus vergangenen Ergebnissen: Anstatt zufällig zu wählen, bevorzugt es strikt Kandidaten aus der Gruppe, mit der zuvor Erfolg verbunden war. Dieses scheinbar rationale Verhalten führt zu Dysfunktion: Das Modell hört auf, Alternativen zu erforschen, und marginalisiert dadurch ganze Gruppen.

Tatsächliche Folgen für die Wirtschaft

Die Autoren der Studie betonten besonders, dass KI in diesem Fall nicht einfach Stereotypen aus den Trainingsdaten reproduziert. Sie generiert sie selbst. Dies verändert die Natur der Bedrohung grundlegend. Die praktischen Konsequenzen dieser Entdeckung sind kaum zu überschätzen: Mehr als 90 % der Unternehmen setzen bereits KI im Personalbeschaffungsprozess ein.

Die Situation geht bereits über die Theorie hinaus. Der große Softwareanbieter Workday steht vor einem Sammelklage, in dem seine KI-Tools der Diskriminierung bezichtigt werden. In einer ähnlichen Situation befand sich Meta: Eine Gruppe von Mitarbeitern reichte Klage ein und behauptete, dass das bei der Welle von Entlassungen verwendete KI-System systematisch behinderte Arbeitnehmer und diejenigen benachteiligte, die Familienurlaub genommen hatten.

Die Fähigkeit von Sprachmodellen, Muster schnell zu erkennen und Erfahrungen zu verallgemeinern – genau das Merkmal, das sie in neuen Aufgaben nützlich macht – macht sie gleichzeitig in Szenarien mit echten Menschen gefährlich. Die Aufgabe der Entwickler besteht nun darin, einen Weg zu finden, um schädliche Mustererkennung selektiv zu unterdrücken, ohne das Modell dabei seiner Leistungsfähigkeit zu berauben.