Anthropic, der Entwickler der Sprachmodell-Familie Claude, treibt seit diesem Sommer im US-Kongress einen Gesetzentwurf voran, der Bundesbehörden mit der Befugnis ausstatten würde, die Freigabe und Nutzung von Systemen künstlicher Intelligenz auszusetzen, falls diese eine ernsthafte Bedrohung für die Gesellschaft darstellen. Dies berichtet das Portal Politico, auf das sich Nachrichtendienste beziehen. Die Initiative wird vom Entwickler als Instrument zur präventiven Kontrolle über die leistungsstärksten KI-Modelle positioniert und schlägt im Grunde vor, einen „Notbremse“-Mechanismus für fortschrittliche Systeme in der amerikanischen Gesetzgebung zu verankern.

Schwellenwerte, bei denen der Staat eingreifen kann

Ein Schlüsselelement des Dokuments ist eine präzise quantitative Definition einer „ernsthaften Bedrohung“. Dem Text des Gesetzentwurfs zufolge ist ein staatliches Eingreifen bei einem Risiko wirtschaftlicher Schäden in Höhe von mindestens 1 Milliarde US-Dollar oder bei der Gefahr von Todesfällen oder schweren Verletzungen von mehr als 50 Personen zulässig. Dabei muss die Bedrohung unmittelbar mit einem von drei Szenarien zusammenhängen: der Erstellung oder Verwendung von Biowaffen, dem Kontrollverlust des Entwicklers über sein Modell oder der Durchführung eines groß angelegten Cyberangriffs. Dieser Ansatz schließt laut den Autoren willkürliche Sperren aus und knüpft die Entscheidung an messbare Risikokriterien.

Unabhängige Expertise und gerichtliche Kontrolle

Die Bewertung der potenziellen Gefahr eines konkreten KI-Systms soll nicht von den Regulierungsbehörden selbst vorgenommen werden, sondern von unabhängigen Experten, die beim US-Handelsministerium registriert sind. Auf Basis der Schlussfolgerungen dieser Fachleute kann die Behörde vor Gericht die Aussetzung des entsprechenden Projekts beantragen. Somit erfolgt die tatsächliche Blockierung eines Modells nicht per direkter administrativer Anordnung, sondern über eine gerichtliche Entscheidung, wodurch die Interessen der nationalen Sicherheit und die Freiheit der technologischen Entwicklung ausbalanciert werden sollen.

Pflichten der Entwickler und Whistleblower-Schutz

Der Gesetzentwurf führt zudem eine Reihe direkter Verpflichtungen für Entwicklerunternehmen ein. Sie müssen interne Sicherheitsabteilungen einrichten, regelmäßig Berichte über die Leistung ihrer KI-Modelle veröffentlichen und die Regulierungsbehörde unverzüglich über schwere Störungen informieren. Eine separate Bestimmung des Dokuments schützt Mitarbeiter, die Informationen über Verstöße aufdecken, vor Vergeltungsmaßnahmen des Arbeitgebers, wodurch Whistleblower-Schutzmechanismen im KI-Bereich auf Bundesebene faktisch verankert werden.

Verbindung zur kalifornischen Gesetzgebung

Berichten von Politico zufolge überschneiden sich einige Bestimmungen der Anthropic-Initiative mit den 2025 verabschiedeten Gesetzen des Bundesstaates Kalifornien zur Regulierung künstlicher Intelligenz. Dies weist darauf hin, dass das Bundesdokument weitgehend auf bereits auf Ebene der Bundesstaaten erprobten Erfahrungen aufbaut. Anthropic selbst bezeichnet die vorgeschlagenen Maßnahmen als „vernünftigen Weg“ zur Kontrolle der leistungsstärksten KI-Systeme und betont, dass das Ziel der Initiative keine Einschränkung von Innovationen, sondern die Gewährleistung der Steuerbarkeit fortschrittlicher Modelle ist. Im Falle seiner Verabschiedung könnte der Gesetzentwurf eines der ersten Bundesinstrumente für direkte Eingriffe in den Betrieb kommerzieller KI-Systeme in den USA werden.