OpenAI deckt russische Botsfarm in ChatGPT auf: Fingierter israelischer „Institut“ und Plagiat in 34 von 36 Artikeln

Das Unternehmen OpenAI hat die Identifizierung und Blockierung einer koordinierten Gruppe von ChatGPT-Konten bekannt gegeben, hinter der nach seiner Einschätzung Betreiber aus Russland standen. Laut der Offenlegung nutzten die Teilnehmer des Netzwerks das neuronale Netz nicht für Routineaufgaben, sondern als Instrument einer Informationsoperation: Über VPN gaben sie Prompts auf Russisch ein und wiesen das Modell an, öffentliche Kommentare auf Englisch und Deutsch zu generieren, wodurch die linguistischen Marker russischen Ursprungs verwischt wurden. Der generierte Inhalt wurde anschließend auf X, LinkedIn, Facebook, Substack und Telegram veröffentlicht, wobei das zentrale Ziel die Förderung der Website International Burke Institute (IBI) war – einer Struktur, die als Think Tank mit Adresse in Israel ausgegeben wurde.

Die Mechanik der Operation: vom russischen Prompt zum „westlichen“ Kommentar

Laut OpenAI war das Arbeitsprinzip wie ein Fließband aufgebaut. Die Betreiber, verborgen hinter virtuellen Servern, formulierten die Aufgaben auf Russisch, und ChatGPT übersetzte sie in öffentliche Texte auf europäischen Sprachen. Dieser Ansatz ermöglichte es, typische Fehler und stilistische Spuren zu vermeiden, anhand derer russische Autoren normalerweise identifiziert werden. Die erhaltenen Materialien wurden gleichzeitig auf mehreren Social-Media-Plattformen verteilt und schufen die Illusion unabhängiger westlicher Kommentatoren, die dieselben Themen diskutierten. Genau die Mehrplattformigkeit und die sprachliche Tarnung waren nach Einschätzung des Unternehmens die entscheidenden Merkmale, anhand derer die Operation aus dem allgemeinen Traffic herausgefiltert wurde.

Fingierter Autorität: Plagiat und gefälschte Autorenschaft

Das Herzstück der gesamten Konstruktion war die IBI-Website, die laut vorliegenden Angaben im Februar 2025 mit einer Adresse in Israel registriert wurde. Auf der Plattform wurde eine Zusammenarbeit mit führenden Wissenschaftlern der Welt behauptet, darunter Noam Chomsky und Francis Fukuyama. Die Analyse des Inhalts ergab jedoch massenhaftes Plagiat: 34 der 36 analysierten Artikel wurden vollständig aus echten wissenschaftlichen Quellen kopiert, darunter Cambridge University Press und Migration Policy Institute. Darüber hinaus wurden die Arbeiten fremden Wissenschaftlern zugeschrieben – in einem Fall wurde ein Artikel über Migration mit dem Namen eines australischen Professors für Lebensmittelchemie signiert, der mit dem Thema nichts zu tun hatte. Diese Kombination aus übernommenem Text und fremden Namen schuf den Anschein einer legitimen Forschungseinrichtung.

Linguistische Spuren und der erfundene „Souveränitätsindex“

Trotz der Tarnung blieben in den Texten Artefakte des maschinellen Übersetzens aus dem Russischen erhalten. Als charakteristisches Beispiel nannte OpenAI die Übertragung des deutschen Begriffs „Ampelkoalition“ (traffic-light coalition) in einem englischen Text als „Svetofor coalition“ – eine wörtliche Lehnübersetzung vom russischen Wort „светофор“ (Ampel), die die Ausgangssprache des Prompts verriet. Das zentrale ideologische Instrument der Kampagne war der erfundene „Souveränitätsindex“: In Berichten zu dieser Skala wurde Russland für seine Autonomie gelobt, während Frankreich, die USA, Deutschland und die EU scharf kritisiert wurden. Auf diese Weise reproduzierte das formal „unabhängige“ Analyseprodukt de facto kremlnahe Narrative, verpackt in einen akademischen Stil.

Widersprüchliche Daten

Zwischen dem öffentlichen Bild der IBI-Website und den tatsächlichen Kennzahlen ihrer Wirkung besteht ein deutlicher Abstand. Einerseits positionierte sich die Plattform als Institut mit der Beteiligung von Persönlichkeiten wie Chomsky und Fukuyama, was ihr in der Expertenwelt Gewicht verleihen sollte. Andererseits war nach Einschätzung von OpenAI die unmittelbare Reichweite der Veröffentlichungen in den sozialen Medien gering, und das bestätigte Ergebnis waren lediglich Telegram-Kanäle, die jeweils 10.000 bis 20.000 Abonnenten anlockten. Die behauptete Zusammenarbeit mit den genannten Wissenschaftlern ist durch deren Beteiligung nicht bestätigt und ist faktisch Teil der konstruierten Autorität. Der Umfang des „Instituts“ in seiner Selbstdarstellung entspricht somit weder dem Originalitätsgrad des Inhalts noch den tatsächlichen Zuschauerzahlen, was bereits an sich ein Indikator für die Fabrikation der Struktur ist.

Einschätzung des Umfangs und der neue Trend der KI-Desinformation

Auf der Brookings Breakout Scale, die die Reife von Informationsoperationen charakterisiert, erhielt diese Kampagne die Kategorie 3 – Penetration auf mehreren Plattformen mit vereinzelten Kontakten zum echten Publikum. Das bedeutet, dass die Operation technisch ausgerollt, aber nicht massenhaft wirksam war. Dennoch betonte OpenAI, dass der Fall einen qualitativ neuen Trend zeigt: die Nutzung generativer KI nicht nur zur Erstellung einzelner Falschmeldungen, sondern zum Aufbau einer gesamten fingierten Autorität – der Imitation legitimer Think Tanks mit Plagiat, gefälschten Autoren und erfundenen Indizes. Für Plattformen und Faktenprüfer bedeutet dies die Notwendigkeit neuer Methoden zur Identifizierung nicht einzelner falscher Behauptungen, sondern ganzer fabrizierter „Einrichtungen“, deren Legitimität ausschließlich auf maschinell generierten Inhalten beruht.