Anthropic, einer der fuehrenden Entwickler von generativer Kuenstlicher Intelligenz, hat US-Gesetzgebern einen eigenen Gesetzesentwurf vorgelegt, der es Entwicklern nach dem Willen der Autoren ermoeglichen soll, eigenstaendig zu bestimmen, wann eine KI zu gefaehrlich wird, und staatliche Eingriffe in die Entscheidungen von Laboren einzuschränken. Gemaess den eingereichten Dokumenten darf die Regierung die Veroeffentlichung oder Nutzung von Entwicklungen nur bei einem „vorhersehbaren und unmittelbaren Risiko“ blockieren und nicht nach Ermessen von Buerokraten.

Das Wesen der vorgeschlagenen Regulierung

Der Gesetzentwurf schlaegt vor, die Sicherheitsanalyse „unabhaengigen Gutachtern“ anzuvertrauen, die vom US-Handelsministerium akkreditiert werden. Die KI-Labore sollen die Dienste dieser Experten selbst bezahlen koennen, unter der Bedingung, dass die Hoehe des Honorars nicht vom Ergebnis des Gutachtens abhaengt. Sollten die Gutachter ein katastrophales Risiko feststellen, sind sie verpflichtet, das Handelsministerium innerhalb von 72 Stunden zu benachrichtigen.

Gericht statt Buerokrat

Nach Erhalt der Benachrichtigung muss die Behoerde ein Bundesgericht in Washington anrufen, da das Dokument Behoerden oder Beamten ausdruecklich verbietet, die Entwicklung oder Veroeffentlichung von Modellen nach eigenem Ermessen zu blockieren. Berichten zufolge entstand diese Norm, nachdem die US-Regierung im Sommer aufgrund strenger Exportbeschraenkungen ploetzlich den Zugang zu zwei fortschrittlichen Anthropic-Modellen blockiert hatte.

Einheitlicher Standard und Kongressstreit

Der Gesetzentwurf sieht zudem die Aufhebung einzelner Bundesstaatsgesetze vor und schafft damit einen einheitlichen Bundesstandard fuer das gesamte Land. Dies hat im Kongress zu heftigen Debatten gefuehrt: Einige Demokraten befuerchten, dass ein einheitliches Gesetz strengere Normen schwaechen wird, die bereits in Kalifornien und New York verabschiedet wurden.

Kritik von beiden Seiten

Die Initiative des Unternehmens stoesst auf Kritik von beiden Seiten. Skeptiker merken an, dass ein System von Gutachtern, die von den Laboren selbst bezahlt werden, einen Interessenskonflikt erzeugt, und dass die vorgeschlagenen Kriterien fuer ein katastrophales Risiko – 50 Tote oder Schaeden in Milliardenhoehe – aktuelle Probleme wie autonomen Website-Hack, mit denen KI-Agenten bereits heute konfrontiert sind, aussen vor lassen.