Anthropic schlägt Gesetzentwurf in den USA vor: Nur Bundesrichter dürfen fortschrittliche KI-Modelle blockieren

Anthropic, der Entwickler des Chatbots Claude, hat einen eigenen Gesetzentwurf an US-Gesetzgeber geschickt, der darauf abzielt, Risiken im Bereich der Sicherheit künstlicher Intelligenz zu regulieren. Dies berichtete die Publikation Politico, auf die sich russische Medien beziehen. Nach Angaben von Vertretern des Startups basiert das Dokument auf den Rahmenprinzipien für die Schaffung fortschrittlicher KI, die das Unternehmen seit Juni 2026 auf föderaler und regionaler Ebene in den USA über Mitglieder des amerikanischen Parlaments vorantreibt. Anthropic ist der Ansicht, dass Regeln, die für die Branche und die Gesellschaft sensibel sind, in naher Zukunft vom US-Kongress geprüft werden sollten.

Kontext: Beziehungen zu Behörden und Lobbyarbeit

Die Beziehungen von Anthropic zu den US-Behörden sind laut Berichten nicht einfach: Seit März 2026 wird das Unternehmen Berichten zufolge als Anbieter eingestuft, der eine Bedrohung für die nationale Sicherheit darstellt. Dennoch strebt das Startup einen konstruktiven Dialog mit Regierungsvertretern an. Zuvor hatte Anthropic keine öffentliche Lobbyarbeit für föderale KI-Gesetze betrieben und sich auf die Arbeit im Bundesstaat Kalifornien beschränkt, wo das Unternehmen bereits lobbyistisch tätig war.

Wichtige Bedingungen: Richter, Schadensschwelle und Risikoarten

Der zentrale Punkt des Gesetzentwurfs besteht darin, die Regierung nur dann zur Blockierung einer KI-Modellfreigabe zu ermächtigen, wenn der angenommene und unvermeidliche Schaden durch dessen Veröffentlichung mindestens 1 Milliarde US-Dollar betragen könnte oder zum Tod oder zu schweren Verletzungen von mindestens 50 Personen führen würde. Dabei darf ein Verbot der Entwicklung und Veröffentlichung eines Modells ausschließlich von einem Bundesrichter des U.S. District Court for the District of Columbia in Washington verhängt werden, wobei dessen Entscheidung auf den Ergebnissen einer unabhängigen Prüfung basieren muss. Anthropic besteht darauf, dass keine andere US-Behörde und kein Beamter in diesen Prozess eingreifen sollte. Die im Dokument berücksichtigte Liste der Risiken umfasst die Wahrscheinlichkeit der Erstellung biologischer Waffen, den Verlust der Kontrolle des Entwicklers über die Verbreitung des Modells und dessen Verwendung für Cyberangriffe. Eine solche Rhetorik findet sich laut Quellen bereits in der im letzten Jahr verabschiedeten Gesetzgebung des Bundesstaates Kalifornien zur Regulierung von KI.

Unabhängiges Audit und 72-Stunden-Berichtspflicht

Ein großer Teil des Dokuments widmet sich dem Mechanismus einer unabhängigen technologischen Prüfung. Es wird vorgeschlagen, unabhängige Prüfer, die vom US-Handelsministerium registriert werden, dazu zu berechtigen, periodische Audits des Startups und der von ihm entwickelten Modelle durchzuführen. Anthropic ist bereit, die Arbeit der Auditoren zu bezahlen, wobei das Unternehmen behauptet, dass dies die Prüfungsergebnisse nicht beeinflussen werde und die Honorare der Experten nicht von deren Ausgang abhängen sollten. Auditoren sind verpflichtet, dem Handelsministerium innerhalb von 72 Stunden nach Abschluss des Audits über die Entdeckung eines drohenden großen Risikos zu berichten. Danach erhält die Behörde das Recht, eine gerichtliche Verfügung gegen die weitere Entwicklung des gefährlichen Modells zu erwirken.

Gesetzgeberischer Kontext und Fristen

Nach Einschätzung von Experten könnte die Initiative von Anthropic anderen gesetzgeberischen Vorschlägen im amerikanischen Parlament zuvorkommen – insbesondere Regeln für die Offenlegung von Informationen über Risiken fortschrittlicher KI-Modelle, Auditverfahren und die Veröffentlichung von Berichten über kritische Vorfälle. Ein aus fragmentarischen Initiativen einzelner Bundesstaaten zusammengesetzter Gesetzentwurf ist, wie festgestellt wurde, schwieriger zu verabschieden als einheitliche föderale Regeln. Neben Anforderungen an regelmäßige Audits sollten Gesetzentwürfe den Autoren zufolge den Schutz von Whistleblowern vorsehen, die bereit sind, über unzuverlässige Entwickler zu berichten, sowie Verfahren zur Veröffentlichung von Vorfallberichten. Dabei hat bisher kein aufgezeichneter Vorfall im Bereich der KI zu Schäden von über 1 Milliarde US-Dollar oder massiven Todesfällen geführt, was die vorgeschlagenen Schwellenwerte faktisch präventiv macht.