Phantom-Termin aus einem Tippfehler der 1950er-Jahre hat Neuronale Netze „infiziert“: Wie ein OCR-Fehler zum Marker für KI-Inhalte wurde

In der wissenschaftlichen Community ist eine Debatte um den fiktiven Begriff „vegetative electron microscopy“ (vegetative Elektronenmikroskopie) entbrannt, der weder eine physikalische noch eine biologische Grundlage hat, aber in mindestens 22 begutachteten wissenschaftlichen Publikationen vorkommt und – was noch beunruhigender ist – von modernen Sprachmodellen konsistent reproduziert wird. Laut Google Scholar hat sich der Phantom-Begriff so fest im englischsprachigen wissenschaftlichen Diskurs verankert, dass automatische Textprüfungssysteme ihn nun als einen der Marker für von Neuronale Netze generierte Inhalte verwenden. Die Geschichte dieses „Geistes“ in der wissenschaftlichen Literatur begann lange vor der Ära des maschinellen Lernens – noch in den 1950er-Jahren, als zwei Artikel aus dem Journal Bacteriological Reviews digitalisiert wurden.

Vom Tippfehler zum Begriff: Die Geburt des Phantoms in den 1950er-Jahren

Der Mechanismus der Entstehung der Anomalie war denkbar einfach und typisch für die frühe Ära der automatischen Texterkennung (OCR). Bei der Digitalisierung der beiden Artikel aus Bacteriological Reviews „nähte“ der Algorithmus versehentlich das Wort „vegetative“ aus einer Spalte mit dem Wort „electron“ aus der benachbarten Spalte zusammen. In den digitalen Datenbanken entstand so ein kombinierter Begriff, der in den originalen gedruckten Ausgaben nie existiert hatte. Jahrzehntelang blieb dieser Artefakt unbemerkt: Kein Forscher achtete auf die seltsame Phrase, da sie in digitalisierten Archiven begraben war, auf die der wissenschaftlichen Community nur eingeschränkt Zugriff möglich war.

Die persische Brücke: Wie der Begriff in den internationalen Verkehr gelangte

Die erste bemerkenswerte „Wiederbelebung“ des Phantom-Begriffs erfolgte in den Jahren 2017 und 2019, als er in englischsprachigen Annotationen iranischer wissenschaftlicher Publikationen zu erscheinen begann. Ursache war eine Feinheit der persischen Sprache (Farsi): Die Wörtern, die dem russischen „vegetativ“ und „scannend“ entsprechen, unterscheiden sich nur durch ein einziges diakritisches Zeichen. Ein kleiner Fehler in der maschinellen oder sogar menschlichen Übersetzung brachte die Phrase in den internationalen wissenschaftlichen Verkehr, wo sie sich anschließend nach dem klassischen Zitiermechanismus von Artikel zu Artikel kopierte. Bis heute ist der sinnlose Begriff laut Google Scholar in mindestens 22 begutachteten wissenschaftlichen Arbeiten verzeichnet.

Neuronale Netze haben den Bug verinnerlicht: Ergebnisse der Sprachmodell-Tests

Die Forscher, die die Anomalie entdeckten, beschlossen zu prüfen, wie tief sie in die Architektur moderner KI-Systeme eingedrungen ist. Die Tests ergaben ein gemischtes Bild: Bei Zuführung von Fragmenten der Originalartikel als Kontext ergänzte das Modell GPT-3 den Satz automatisch um die Phrase „vegetative electron microscopy“ und zeigte eine ausgeprägte Tendenz, den Phantom-Begriff zu reproduzieren. Ältere Systeme – GPT-2 und BERT – wiesen ein solches „Gedächtnis“ nicht auf. Die Beständigkeit der Anomalie bestätigte sich jedoch auch in neueren Modellgenerationen: Sowohl GPT-4o als auch Claude 3.5 von Anthropic reproduzieren den fiktiven Begriff im entsprechenden Kontext. Der Hauptkanal der „Infektion“ war die massive offene Webdaten-Archiv Common Crawl, an dem die überwiegende Mehrheit der modernen Neuronale Netze trainiert wird: Genau über diesen Weg gelangte der OCR-Artefakt der 1950er-Jahre in die Trainingsdatensätze.

Widersprüchliche Daten

In den verfügbaren Quellen gibt es eine Reihe von Nuancen, die eine vorsichtige Interpretation erfordern. Erstens wird die genaue Anzahl der Publikationen, die den Phantom-Begriff enthalten, als „mindestens 22“ angegeben – das ist die Untergrenze laut Google Scholar und keine abschließende Statistik; die tatsächliche Verbreitung kann breiter sein, insbesondere wenn nicht indizierte Repositorien und Vorabversionen berücksichtigt werden. Zweitens ist der Grad der „Infektion“ der Modelle ungleichmäßig: Wenn GPT-2 und BERT den Begriff nicht reproduzieren, bedeutet das nicht, dass sie ihn nicht in ihren Embeddings enthalten – möglicherweise ist der Aktivierungsschwellenwert für diese Architekturen einfach höher. Drittens beruht die genaue Rekonstruktion, welche beiden Artikel von Bacteriological Reviews fehlerhaft digitalisiert wurden und welcher konkrete OCR-Prozess in den 1950er-Jahren verwendet wurde, auf indirekten Indizien und linguistischer Analyse, nicht auf direkten Archivdokumenten jener Zeit. Diese Einschränkungen stellen die Tatsache des Bestehens der Anomalie nicht in Frage, deuten aber darauf hin, dass die vollständige Chronologie und Statistik ihrer Verbreitung durch weitere Forschungen präzisiert werden können.

Systemische Schwachstelle und Aufruf zur Transparenz

Der Fall „vegetative electron microscopy“ zeigt anschaulich die systemische Schwachstelle der KI-Algorithmen gegenüber über Jahrzehnte angesammelten Digitalisierungsfehlern. Solange automatische Textprüfungswerkzeuge nur jene Anomalien erfassen können, die bereits vom Menschen entdeckt wurden, bleibt der Zyklus der Selbstreproduktion falscher Daten ungeschlossen. Experten fordern die Entwickler Neuronale Netze auf, die Offenlegung der Trainingsdatensätze zu gewährleisten, damit die wissenschaftliche Community die „Infektionsquellen“ auditieren und Verlage die Begutachtung auf Phantom-Begriffe, die aus digitalisierten Archiven übernommen wurden, verstärken können. Ohne solche Maßnahmen, warnen die Forscher, läuft jeder neue OCR-Bug oder Übersetzungsfehler Gefahr, zu einem weiteren „Geist“ zu werden, den Neuronale Netze als etablierten wissenschaftlichen Begriff selbstbewusst zitieren werden.