Anthropic enthüllt Versuche, Claude zur Entwicklung von Biowaffen einzusetzen: vom Chikungunya-Virus bis zur Generierung von Peptidgiften

Das Unternehmen Anthropic, Entwickler des Sprachmodells Claude, hat einen Bericht veröffentlicht, in dem eine Reihe realer Anfragen dokumentiert wird, die darauf abzielen, sein KI-System zur Entwicklung von Bio- und Cyberwaffen zu nutzen. Laut Unternehmensangaben wandten sich Angreifer an das Modell, um Pathogene zu modifizieren, Toxine zu generieren und Propagandainhalte zu erstellen. In den meisten Fällen wurden die verdächtigen Anfragen von internen Sicherheitssystemen abgefangen und blockiert; dennoch signalisiert das bloße Auftauchen dieser Anfragen in industriellem Maßstab, so die Einschätzung von Experten, eine qualitativ neue Bedrohungsstufe im Zusammenhang mit der Verbreitung fortschrittlicher Sprachmodelle.

Chikungunya-Virus und militärischer Kontext

Einer der am detailliertesten beschriebenen Fälle im Bericht von Anthropic betrifft das Chikungunya-Virus – ein Arbovirus, für das bis heute keine lizenzierte Behandlung existiert. Der Sicherheitsklassifizierer des Unternehmens fing eine Anfrage ab, einen Förderantrag für eine Studie zu verfassen, die formal als „Funktionssteigerung“ des Virus bezeichnet wurde. Das Projekt sah eine Erhöhung seiner Ansteckungsfähigkeit und seiner Fähigkeit vor, Herdenimmunität zu umgehen. Ein entscheidender Umstand, den Anthropic hervorhob, war die Verbindung der angeführten Arbeiten zu einer militärischen Institution. Gerade diese Kombination – das Fehlen einer therapeutischen Alternative, die Ausrichtung auf die Steigerung der Pathogenität und die institutionelle Bindung an eine Verteidigungsstruktur – ermöglichte dem Klassifizierungssystem, die Anfrage als potenziell gefährlich zu erkennen und zu blockieren.

Geflügelgrippe und Generierung von Peptidgiften

Parallel zum Chikungunya-Fall registrierte Anthropic ähnliche Versuche, die Eigenschaften des Geflügelgrippe-Virus künstlich zu verstärken. Die Methodik der Anfragen war ähnlich: Die Forscher baten das Modell, bei der Modifizierung genomischer Sequenzen zu helfen, um die Virulenz oder die Resistenz gegenüber bestehenden Schutzmitteln zu erhöhen. Einen eigenen Bedrohungsbereich stellten Anfragen dar, einen generativen Pipeline-Prozess zu erstellen, der die Eigenschaften von Peptidgiften optimierte und ihre Wirksamkeit steigerte. Im Wesentlichen versuchte der Nutzer, Claude in ein Werkzeug für das gezielte Design toxischer Moleküle zu verwandeln, was weit über den Rahmen legitimer akademischer Arbeit hinausgeht. Alle genannten Anfragen wurden bereits auf der Ebene der Generierung gestoppt.

Das Problem der Erkennung bösartiger Absichten

Der Leiter der Bedrohungsanalyse bei Anthropic, Jacob Klein, betonte die grundlegende Schwierigkeit der Aufgabe: In der biologischen Forschung ist die Grenze zwischen legitimer Wissenschaft und gefährlicher Entwicklung bis an die Grenze verwischt. „Im echten Leben sagen Angreifer nicht offen, dass sie die Welt zerstören wollen, daher erfordert die Situation eine tiefergehende Analyse“, so seine Bemerkung. Die Entwicklung eines neuen Impfstoffs unterscheidet sich methodisch kaum von der Modifizierung eines gefährlichen Pathogens: In beiden Fällen wird mit genomischen Sequenzen gearbeitet, es werden dieselben Rechenwerkzeuge eingesetzt, und die Formulierungen der Förderanträge sind bewusst vage. Deshalb, so Klein, habe sich Anthropic entschieden, maximal vorsichtig zu handeln und jeden verdächtigen Prozess zu blockieren, selbst wenn die endgültige Einordnung der Absichten des Forschers unklar bleibt.

Externe Bewertung: von „beunruhigenden Beispielen“ bis zum geopolitischen Kontext

Der Senior Researcher des Council on Strategic Risks, Andrew Weber, nannte die Schlussfolgerungen des Berichts „beunruhigende Beispiele dafür, wie von einzelnen Staaten unterstützte Entwickler von Biowaffen versuchen, fortschrittliche KI-Fähigkeiten zu nutzen“. Diese Bewertung führt den geopolitischen Kontext in die Debatte ein: Es geht nicht um vereinzelt „skriptbasierte“ Experimente, sondern um systematische Versuche seitens staatlicher oder quasi-staatlicher Strukturen. In mehreren Veröffentlichungen, die den Bericht zusammenfassen, wird betont, dass sich unter den Personen, die Zugang zu gefährlichen Funktionen des Modells anfragten, auch solche befanden, die mit Staaten verbunden waren, die in einem strategischen Konfrontationsverhältnis zu den USA stehen. Anthropic hat sich bewusst dagegen entschieden, Namen von Wissenschaftlern und Namen von Laboren offenzulegen, und begründet dies damit, dass es sich um aktive Forscher ohne direkte Beweise für eine kriminelle Absicht handle und eine öffentliche Bekanntmachung ihnen einen unverhältnismäßigen Schaden zufügen könnte.

Widersprüchliche Daten

Im Bericht und in seinen Zusammenfassungen besteht eine gewisse Unstimmigkeit bei der Einordnung der festgestellten Vorfälle. Auf der einen Seite verwendet Anthropic die Formulierung „echte Nutzungsfälle“ des Modells für gefährliche Entwicklungen, was als Tatsache des erfolgreichen Erhalts schädlicher Ergebnisse interpretiert werden könnte. Auf der anderen Seite weist das Unternehmen ausdrücklich darauf hin, dass „verdächtige Anfragen blockiert werden konnten“, und die BBC bedient sich in ihrer Zusammenfassung des Begriffs „Versuche“. Damit bleibt für den Leser nicht ganz klar, welche der beschriebenen Szenarien – die Generierung des Grant-Texts zu Chikungunya, die Optimierung von Peptidgiften, die Modifizierung der Geflügelgrippe – vollständig auf der Prompt-Ebene unterbunden wurden und welche teilweise realisiert worden sein könnten, bevor der Klassifizierer auslöste. Darüber hinaus wird die Bewertung von Andrew Weber zu „staatlich unterstützten Entwicklern von Biowaffen“ nicht durch öffentliche Beweise seitens Anthropic gestützt, die im Gegenteil das Fehlen direkter Beweise für eine kriminelle Absicht bestimmter Personen betont. Dies erzeugt eine Lücke zwischen der öffentlichen Rhetorik der Experten und der tatsächlichen Beweislage des Berichts.

Stärkung der Schutzmechanismen und Perspektiven

Die gesammelten Daten nutzt Anthropic bereits zur weiteren Verbesserung der Schutzsysteme der Modelle: Die Klassifizierer, die biologisch gefährliche Anfragen erkennen, werden weiterentwickelt, die Schwarzen Listen von Formulierungen werden erweitert und neue Heuristiken zur Erkennung von Umgehungs-Prompts hinzugefügt. Das Unternehmen betont, dass die aktuelle Architektur von Claude eine mehrstufige Filterung enthält, doch jeder neue Fall zeigt, dass Angreifer sich schneller anpassen, als die Schutzregeln aktualisiert werden. Experten weisen darauf hin, dass in einer Situation, in der der Zugang zu fortschrittlichen LLM-Modellen immer massenhafter wird, die Frage nach dem Gleichgewicht zwischen Offenheit wissenschaftlicher Werkzeuge und der Verhinderung ihrer Anwendung zur Waffenschaffung in der Debatte über die Regulierung von künstlicher Intelligenz auf internationaler Ebene in den Vordergrund rückt.