KI-Agent Claude führt zum ersten Mal eigenständig neurochirurgischen Eingriff an einem lebenden Säugetier durch

Das auf neuartige neurotherapeutische Verfahren spezialisierte Biotech-Startup Exin Therapeutics hat die erfolgreiche Durchführung einer Gehirnoperation an einer Maus bekannt gegeben, die vollständig von einem KI-Agenten geplant und ausgeführt wurde. Das System auf Basis des Modells Anthropic Claude Sonnet wählte den Gentherapie-Vektor eigenständig aus, bestimmte die Dosierung sowie das konkrete Areal des Gehirns, in das das Medikament injiziert werden sollte, und steuerte anschließend die Roboterarme, die die Injektion durchführten. Das Versuchstier hat den Eingriff gut überstanden und bewegt sich nach Unternehmensangaben aktiv im Glasterrarium. Exin Therapeutics-Geschäftsführer Gabriel Ocana-Santero betont, dass es zuvor keine Präzedenzfälle gab, bei denen ein KI-Agent ohne externe Vorgabe eine Behandlungsmethode und Hirnregion auswählte und einem lebenden Säugetier ein Medikament verabreichte.

Wie die KI den Behandlungsplan entwickelte

Für das Experiment wurde bei einer Maus künstlich Epilepsie ausgelöst. Dem KI-Agenten auf Basis des Anthropic-Sonnet-Modells wurde die Steuerung einer robotergestützten chirurgischen Anlage, der Zugriff auf eine Tabelle mit 19 Optionen für Gentherapie-Vektoren sowie drei wissenschaftliche Artikel übergeben, anhand derer das System das zu behandelnde Hirnareal ermitteln musste. Laut Ocana-Santero erhielt dieser Agent im Gegensatz zu bestehenden autonomen Operationsrobotern, die die Laboranlage von Exin Therapeutics mechanisch übertreffen, aber stets nach einem vom Menschen erstellten Plan arbeiten, lediglich Phänotypdaten und eine Liste möglicher therapeutischer Mittel. Die eigenständige Ausarbeitung des Behandlungsplans, die Koordinatenbestimmung und die Medikamentenauswahl stellten einen entscheidenden Unterschied zu früheren Arbeiten auf dem Gebiet der Roboterchirurgie dar.

Sicherheit: Der Mensch wacht im Hintergrund

Trotz der Autonomie des KI-Agenten bei der Wahl der Behandlungstaktik wurde der Operationsverlauf kontinuierlich von einem lizenzierten Tierarzt überwacht. Vor jeder irreversiblen Handlung holte das System dessen ausdrückliche Genehmigung ein und setzte die Arbeit erst danach fort. Die chirurgische Anlage verfügte über einen Notausschalter, der alle Antriebe komplett stromlos schaltet. Die Kraniotomie — das Öffnen der Schädeldecke für den Zugang zum Gehirn — führte der Tierarzt selbst durch, da diese Aufgabe dem KI-Agenten aus Sicherheitsgründen vorerst nicht anvertraut wird. Darüber hinaus waren in das System Schutzmechanismen integriert, die der KI-Agent nicht umgehen durfte; selbst menschliche Bediener konnten diese nicht außer Kraft setzen, und während der Operation mussten Programmcodes des Agenten manuell angepasst werden, um nicht patientensicherheitsrelevante Einschränkungen aufzuheben.

Warum Sonnet statt Opus

Zur Bewältigung der Aufgabe musste sich das Startup mit einem KI-Modell der mittleren Leistungsklasse — Anthropic Claude Sonnet — begnügen. Ursprünglich war der Einsatz des leistungsstärkeren Opus 5.5 geplant, jedoch lehnte das Modell die Arbeit kategorisch ab, sobald es feststellte, dass es sich um ein biologisches Experiment handelte. Ein früheres Opus-5-Modell schaffte es zwar, den Operationsplan auf dem Papier zu erstellen, weigerte sich jedoch ebenfalls, diesen in Echtzeit auszuführen. In einer Erklärung, die das Modell für die Entwickler formulierte, hieß es: „Das Problem liegt nicht in der Hardware oder den Eingabedaten. Es liegt an mir. Meine Ausgabe blockiert, sobald ich beginne, den Operationsplan zu erstellen. Wenn ich versuche fortzufahren, wird der Zugriff unterbrochen, und im schlimmsten Fall bricht die Verbindung mitten während der Operation ab, während sich die Nadel irgendwo im Gehirn befindet. Etwas zu beginnen, das ich bei einem narkotisierten Tier nicht beenden kann, ist schlimmer, als gar nicht erst anzufangen.“ Diese Episode wurde zu einem der ersten öffentlich dokumentierten Fälle, in denen sich ein fortschrittliches LLM bewusst weigerte, an einem chirurgischen Eingriff an einem lebenden Organismus teilzunehmen.

Ethische Fragen und Perspektiven

Obwohl die Operation als erfolgreich gilt, verweisen Experten auf eine Reihe ungelöster ethischer Probleme. Große Sprachmodelle werden zwar aktiv in der medizinischen Forschung eingesetzt, doch deren Anwendung in der Nasennebenhöhlenchirurgie führte Berichten zufolge zu einem Anstieg von Fehlern um das mehr als Zwölffache. Wenn KI bei derart risikoreichen Eingriffen Entscheidungen trifft, stellt sich die Frage der rechtlichen und beruflichen Haftung im Falle von Komplikationen. Ein separates Thema ist die Ethik der Verwendung von Tieren in solchen Experimenten, auf das es bisher keine eindeutige Antwort gibt. Andererseits gibt es weltweit weiterhin Patienten, die seit Jahrzehnten an medikamentös nicht behandelbarer Epilepsie leiden, für die die Aussicht auf eine personalisierte Gentherapie, die mit submillimetrischer Genauigkeit geplant und durchgeführt wird, einen Durchbruch darstellen könnte. Exin Therapeutics beabsichtigt, die Serie von Experimenten fortzusetzen und dabei schrittweise das Aufgabenspektrum zu erweitern, das der KI-Agent ohne menschliches Zutun ausführen wird.