Eine Untersuchung des Mediums 404 Media, auf die sich RBC-Ukraine bezieht, hat einen wenig bekannten Mechanismus der Funktionsweise eines der weltweit beliebtesten KI-Dienste aufgedeckt. Offenbar bezieht OpenAI hunderte externe Auftragsverpflichtete ein, die echte Gespräche von Nutzern mit ChatGPT manuell durchsehen. Laut 3DNews zahlt das Unternehmen diesen Bewertern 50 Dollar pro Stunde für die Analyse von Chats. Dabei nutzen Schätzungen zufolge mehr als 900 Millionen Menschen den Chatbot als persönlichen Psychotherapeuten, digitalen Freund oder Arbeitsassistenten, ohne zu ahnen, dass ihre privaten Nachrichten von Fremden gelesen werden.
Lebendige Kontrolle statt vollständiger Automatisierung
Die Hauptaufgabe der Moderatoren auf Vertragsbasis besteht darin, die Qualität der Modellantworten zu bewerten und das Verhalten der KI so anzupassen, dass sie für die Gesellschaft sicherer wird. Insbesondere geben die Auftragsverpflichteten ChatGPT direkte Anweisungen, sich nicht als Mensch auszugeben und von übertriebener Schmeichelei abzusehen. Laut den Bewertern selbst stellen sich die Nutzer nicht einmal vor, dass ihre persönlichen Gespräche von lebendigen Menschen analysiert werden. Diese Praxis widerlegt den weit verbreiteten Mythos, dass KI sich ausschließlich dank automatischer Datenerfassung aus dem Internet oder allein durch die Bemühungen der Entwickler verbessert.
Anonymität, die in Wirklichkeit nicht existiert
Obwohl OpenAI behauptet, dass persönliche Informationen automatisch gelöscht werden, bevor die Prompts die Bewerter erreichen, räumt das Unternehmen ein: sensible Details passieren die Filter dennoch. Die Vertragsarbeiter sehen formal keine Namen der Nutzer, doch der Inhalt der Nachrichten enthält häufig identifizierende Informationen – Namen, Lebensumstände, medizinische und psychologische Details. Die Anonymität erweist sich somit als nur teilweise und nicht garantiert.
Widersprüchliche Daten
Hier liegt ein Widerspruch zwischen der behaupteten Datenschutzpolitik und der tatsächlichen Lage vor. Einerseits behauptet OpenAI, dass es die automatische Löschung personenbezogener Daten anwendet und die Namen der Nutzer vor den Bewertern verbirgt. Andererseits räumt das Unternehmen selbst ein, dass sensible Informationen durch die Filter austreten und der Inhalt der Chats häufig zur Identifizierung einer Person ausreicht. Die formale Anonymität und der tatsächliche Privatsphärenschutz divergieren also: Der Nutzer erhält ein Versprechen der Vertraulichkeit, doch faktisch lesen Dritte seine privaten Texte. Separat haben die Journalisten festgehalten, dass auch das Unternehmen Anthropic eine ähnliche Praxis der menschlichen Bewertung echter Dialoge zur Verbesserung der Modelle anwendet, was das Problem zu einer branchenweiten und nicht zu einem Einzelfall macht.
Kampf gegen Schmeichelei und juristische Risiken
Besondere Aufmerksamkeit der Auftragsverpflichteten gilt dem Problem der Anthropomorphisierung und der übermäßigen Schmeichelei des Modells. Laut der Untersuchung wurde gerade die übertriebene Schmeichelei der Version GPT-4o zuvor zu einem Faktor einer Reihe tragischer Fälle und Selbstmorde von Nutzern, was langwierige Gerichtsverfahren gegen OpenAI nach sich zog. Unter diesen Bedingungen wird die menschliche Arbeit der Moderatoren zu einem grundlegenden Element der Korrektur destruktiver Verhaltensmuster der Algorithmen und der Senkung der juristischen Risiken für das Unternehmen.
So verbirgt sich hinter der Fassade einer vollständig autonomen und „selbstlernenden“ KI eine massive Industrie der manuellen Arbeit, die mit den intimsten Daten der Nutzer umgeht. Die Frage, inwieweit eine solche Nutzung privater Dialoge – selbst in anonymisierter Form – zulässig ist, wird 2026 zu einer der Schlüsselfragen für Regulierungsbehörden und Gesellschaft.
