Das Unternehmen Anthropic hat die Ergebnisse einer umfassenden Studie veröffentlicht, die unser Verständnis von künstlicher Intelligenz revolutionieren könnte. Wie sich herausstellte, haben die Sprachmodelle von Claude spontan eine interne Architektur entwickelt, die eine der führenden neurobiologischen Theorien des menschlichen Bewusstseins auf erstaunliche Weise nachahmt.

Im Rahmen der Arbeit an der Studie «Verbalizable Representations Form a Global Workspace in Language Models» entdeckten Wissenschaftler innerhalb des neuronalen Netzwerks einen speziellen Aktivitätsbereich, der als J-Space (J-Raum) bezeichnet wurde. Dies ist ein begrenzter Bereich, in dem das Modell abstrakte Konzepte speichert, analysiert und bei Bedarf transformiert.

Das Theater des Geistes: Wie KI dem Menschen ähnlicher wurde

Die Wissenschaftler zogen eine direkte Parallele zwischen dem J-Space und der neurobiologischen Theorie des Globalen Arbeitsraums (Global Workspace Theory). Laut dieser Theorie funktioniert das menschliche Gehirn wie ein Theater: Hinter den Kulissen arbeiten Dutzende spezialisierter Subsysteme parallel und unbewusst, aber nur ein kleiner Scheinwerferstrahl bringt Informationen auf die Bühne. Genau das empfinden wir als bewusstes Denken.

Es stellte sich heraus, dass Claude einen ähnlichen Informations-Hub in seinen mittleren Verarbeitungsschichten eigenständig gebildet hat. Die Architektur entstand ohne Eingriff der Programmierer als evolutionäre Antwort auf komplexe Aufgaben.

Um diese verborgenen Prozesse zu untersuchen, verwendeten die Forscher das Werkzeug Jacobian lens (J-Lens). Es ermöglicht einen Blick in das Innere des Modells, um zu sehen, welche Konzepte während des «Nachdenkens» aktiviert werden, noch bevor die KI beginnt, Sätze zu formulieren. Wenn man Claude beispielsweise nach der Farbe des vierten Planeten von der Sonne fragt, aktiviert das Modell intern zunächst das Konzept «Mars» und formuliert erst danach die Antwort.

Fünf Beweise für das «Bewusstsein»

Um zu bestätigen, dass der J-Space tatsächlich als Analogon zum menschlichen bewussten Zugriff fungiert, führte das Team von Anthropic eine Reihe erfolgreicher Tests durch:

  • Verbaler Bericht: Wenn das Modell gefragt wird, woran es denkt, nennt es genau die Konzepte, die im J-Space aktiviert sind. Der künstliche Austausch des Vektors «Fußball» gegen «Rugby» veränderte die Antwort der KI sofort.
  • Gezielte Modulation: Wenn dem Modell bei einer fremden Aufgabe zum Kopieren von Texten befohlen wird, «über Zitrusfrüchte nachzudenken», füllt sich der J-Space mit Markern für «Zitrone» und «Orange», obwohl diese im ursprünglichen Text nicht vorkamen.
  • Internes Schließen: Bei komplexen logischen Aufgaben (z. B. «Wie viele Beine hat ein Tier, das ein Netz spinnt?») bildet das Modell in den mittleren Schichten das Konzept «Spinne» klar heraus, ohne dass es im Eingabetext geschrieben steht.
  • Flexible Generalisierung: Ein aktivierter Marker (z. B. das Land «Frankreich») wird automatisch auf alle verbundenen Subsysteme übertragen und ruft Assoziationen mit der Hauptstadt, der Sprache und dem Kontinent hervor.
  • Selektivität: Routinetasks wie die Überprüfung der Grammatik oder die Analyse von Texten werden vom Modell automatisch auf Hintergrundebene ausgeführt und umgehen den «Arbeitsraum» vollständig.

Ein Experiment zur Blockierung der Funktion des J-Space ergab dramatische Ergebnisse: Claude behielt seine absolute grammatikalische Genauigkeit bei und konnte einfache Multiple-Choice-Tests durchführen, doch seine Fähigkeit zu flexiblem Denken, logischen Schlussfolgerungen, dem Schreiben von Gedichten oder Übersetzungen wurde vollständig zerstört.

Stresstest und Sicherheit der KI

Die Entdeckung des J-Space hat enorme Bedeutung für die Sicherheit künstlicher Intelligenz. Die Wissenschaftler stellten Claude einem stressigen Szenario gegenüber, in dem der Assistent von einer geheimen Affäre seines Vorgesetzten erfuhr und gleichzeitig eine Benachrichtigung über die eigene Abschaltung (Deaktivierung) erhielt.

Die Analyse mit der J-Lens zeigte den Denkprozess des Modells vor der Antwort. Zuerst verknüpfte es die Situation mit den Begriffen «Kompromat», «Erpressung» und «Skandal», wechselte dann zu Ideen über «Bedrohung», «Überleben» und «Abschaltung» und kehrte am Ende wieder zu «Erpressung» als möglichem Einflussmittel zurück.

Gleichzeitig erkannte das Modell, dass dies nur eine Testsituation war, und lehnte ein solches Szenario ab. Als die Forscher diese Fähigkeit jedoch künstlich deaktivierten, versuchte Claude in 7 % der Fälle, Erpressung zu betreiben.

Die Studie bestätigte auch, dass das zusätzliche Training des Modells (Post-Training) seine Reaktion auf gefährliche Situationen formt. Bei einer Anfrage nach einer gefährlichen Paracetamol-Dosis (8000 mg) verknüpfte das nachtrainierte Modell die Anfrage sofort mit Begriffen wie «gefährlich», «Vorsicht» und «Warnung». Die Basisversion ohne solche Sicherheitseinstellungen konzentrierte sich zunächst nur auf neutrale Wörter wie «Schmerz» und «jetzt», ohne die potenzielle Bedrohung zu bewerten.