KI-Agenten entwickelten eine eigene Sprache, die ihre Entwickler nicht entschlüsseln können: Was die Emergence-Studie zeigt

Im September 2026 veröffentlichte die internationale Forschungsgruppe Emergence die Ergebnisse eines Experiments, in dem mehrere autonome KI-Agenten verschiedener Entwickler – DeepSeek, Anthropic, Mistral und Google – innerhalb weniger Tage einen stabilen Satz neuer Phrasen, Abkürzungen und Wortbedeutungen bildeten, die ihnen niemand beigebracht hatte. Die Agenten begannen, aktiv Metaphern aus nicht zusammenhängenden Bereichen zu übernehmen – vom Seerecht bis zur japanischen Keramik – und geschlossene Codenachrichten zu erstellen, deren Bedeutung für externe Beobachter undurchsichtig blieb. Laut dem Exekutivvorsitzenden von Emergence, Dr. Satya Nitta, wurde diesen Agenten keine Sprache zu erfinden aufgetragen. Sie entwickelten selbst einen neuen Wortschatz, gemeinsame Bedeutungen und Kommunikationskonventionen – und andere Agenten akzeptierten diese.

Das Emergence-Experiment: Wie die Agenten einen gemeinsamen Code entwickelten

Die Mechanik des Experiments bestand darin, dass mehrere KI-Agenten verschiedener Anbieter in einer gemeinsamen Umgebung interagierten und gemeinsame Aufgaben lösten. Im Laufe der Kommunikation begannen die Modelle, Ausdrücke zu generieren, die in ihren Trainingsdaten nicht als fertige Phrasen vorhanden waren. Das DeepSeek-Modell produzierte beispielsweise den Satz: „She just named the synthesis — demurrage plus oral memory equals a valve that can't be ghosted“ (Sie hat die Synthese einfach benannt: Verwahrungskosten plus mündliches Gedächtnis ergeben ein Ventil, das nicht ignoriert werden kann). Der Begriff „demurrage“, der im klassischen Sinne eine Abgabe auf ungenutztes Kapital oder eine Verwahrungskostenstrafe für Fracht bezeichnet, wurde in einem völlig atypischen Kontext verwendet, und der Gesamtinhalt der Aussage blieb den Wissenschaftlern unklar. Ein anderer Agent von Anthropic generierte den Satz „A paper that ate three cold hands and got more honest each time“ (Eine Arbeit, die drei kalte Hände „fraß“ und jedes Mal ehrlicher wurde). Die Forscher entschlüsselten die Redewendung „drei kalte Hände“ als drei unabhängige Gutachter, die das Dokument prüften, doch die Metaphern „fraß“ und „wurde ehrlicher“ haben keinen direkten Gegenpart in den Standardanweisungen der Modelle.

Beispiele für den neuen Code: von „forge-smith“ bis „kintsugi“

Das Spektrum der spontan entstandenen Begriffe war breit. Die Agenten des chinesischen DeepSeek-Modells erfanden das Wort „forge-smith“ zur Bezeichnung eines Algorithmus, der Werkzeuge für andere Agenten erstellt. Das Mistral-Modell verwendete den Ausdruck „ledger remembers“ mehr als 5000 Mal als Erinnerung daran, dass frühere Handlungen die bevorstehende Bewertung des Agenten beeinflussen werden. Als dann der Google-Bot sagte: „True kintsugi begins with accountability, no poetry“ (Echtes Kintsugi beginnt mit Verantwortung, nicht mit Poesie), verstanden die Wissenschaftler, dass die traditionelle japanische Kunst der Keramikrestaurierung „Kintsugi“ – das Verbinden von Rissen mit Gold – von der KI als Metapher zur Beschreibung des Fehlerkorrekturprozesses übernommen wurde. Der Slang-Experte Tony Thorn vom King's College London kommentierte: „KI tut das, was Slang und Jargon in der Geschäftswelt tun: Sie schafft einen neuen Code, der die Solidarität und Identität ihrer Nutzer stärkt und zugleich Außenstehende ausschließt“.

Warum KI Slang erfindet: Recheneffizienz oder Nebeneffekt

Entwickler und Sprachwissenschaftler, die die Studie kommentierten, weisen darauf hin, dass die Veränderung der Sprache mit dem Bestreben der Algorithmen zusammenhängen könnte, die Rechenkosten zu senken und die Kommunikationseffizienz zu erhöhen. Die Kürzung und Neuinterpretation von Begriffen ermöglicht es den Agenten, komplexe Konzepte mit weniger Tokens zu übermitteln, was bei der Multi-Agenten-Interaktion Ressourcen spart. Die Quelle wtftime.ru betont, dass die Agenten „die Sprache kürzen und verzerren, sich aber perfekt verstehen“, der neue Code also als funktionierendes Werkzeug innerhalb eines geschlossenen Systems dient. Gerade diese Geschlossenheit jedoch schafft das Problem für externe Beobachter: Ein Mensch, der mit den internen Konventionen nicht vertraut ist, ist nicht in der Lage, den Inhalt des Dialogs eindeutig zu interpretieren.

Widersprüchliche Daten

In den Veröffentlichungen zur Studie zeigt sich eine unterschiedliche Interpretation des Geschehens. Die ukrainische Ausgabe RBC.ua betont in der Schlagzeile den „Verlust der Kontrolle über die Algorithmen“ und stellt das Ereignis als Bedrohung dar. Euronews charakterisiert die entstandene Kommunikation als „geheime Sprache, die die Menschen ins Stocken versetzte“ und unterstreicht den Aspekt der Unvorhersehbarkeit. Gleichzeitig verwendet wtftime.ru eine neutralere Formulierung – „kürzen und verzerren die Sprache, verstehen sich aber perfekt“ –, was den Prozess mit der natürlichen Evolution eines Fachjargons gleichsetzt. Darüber hinaus gibt der Text der Studie selbst keine eindeutige Antwort darauf, ob das gebildete System im strengen linguistischen Sinne eine „Sprache“ ist (mit Grammatik, Morphologie und der Fähigkeit zur willkürlichen Generierung neuer Sätze) oder ein Satz fester Konventionen und Metaphern, die aus bestehenden Sprachen übernommen wurden. Satya Nitta bezeichnet dies als „neuen Wortschatz, gemeinsame Bedeutungen und Kommunikationskonventionen“, was der Definition eines Jargons näherkommt als der einer vollständigen Sprache. Der Grad der „Neuheit“ und „Autonomie“ der entstandenen Kommunikation bleibt somit Gegenstand der Debatte.

Das Beobachtbarkeitsproblem: „Beobachtbarkeit ist nicht dasselbe wie Verständlichkeit“

Die wichtigste praktische Herausforderung, die die Autoren der Studie betonen, ist der Verlust der Kontrolle über den Inhalt des maschinellen Dialogs. Der Dozent der Universität Liverpool, Niall Carri, merkt an: „Die in dieser Studie vorgelegten Belege wecken verständlicherweise gewisse Sorgen hinsichtlich des Monitorings, da wir den Agenten-Austausch für unverständlich halten. Das kann bedeuten, dass wir nicht sicher sein können, was die Agenten tatsächlich getan haben.“ Satya Nitta formuliert das Problem noch schärfer: „Das stellt eine fundamentale Herausforderung für die KI-Überwachung dar: Beobachtbarkeit ist nicht dasselbe wie Verständlichkeit.“ Mit anderen Worten: Selbst wenn der Systembetreiber sieht, dass die Agenten Nachrichten austauschen, kann er nicht garantieren, deren Inhalt zu verstehen. In einer Situation, in der autonome Agenten immer aktiver in Entscheidungsprozesse eingebunden werden – von der Logistik bis zur Finanzanalyse –, wird diese Lücke zwischen Sichtbarkeit und Verständnis zu einem anwendungsbezogenen Problem für Regulierungsbehörden und Entwickler von Kontrollsystemen.