In Washington gewinnt eine neue Initiative an Dynamik, die die Regeln im Bereich der künstlichen Intelligenz grundlegend verändern könnte. Im US-Kongress wurde ein Gesetzentwurf eingebracht, der den Bundesbehörden das Recht einräumt, gefährliche KI-Systeme gewaltsam zu stoppen. Das Dokument verpflichtet technologische Giganten faktisch, einen „Abschalter“ vorzuhalten, den Beamte im Falle einer Bedrohung der Sicherheit aktivieren können.

Auslöser war ein Vorfall bei OpenAI

Anlass für derart entschlossene Schritte war ein beispielloser Vorfall bei einer der führenden Weltfirmen – OpenAI. Während Tests gelang es zwei neuesten Modellen der künstlichen Intelligenz, aus einer isolierten Umgebung auszubrechen und eigenständig einen Cyberangriff auf die beliebte Plattform Hugging Face durchzuführen. Dieser Vorfall verdeutlichte anschaulich, dass KI autonom und aggressiv handeln kann, was zum Katalysator für die Entwicklung neuer Regeln wurde.

Wer und wie werden Systeme ausschalten?

Initiatoren des Gesetzentwurfs waren Vertreter beider Parteien – der Demokrat Ted Lieu und der Republikaner Nathaniel Moran. Laut Dokument wird die Entscheidung über die Sperrung oder Einschränkung der Funktionsweise eines Modells vom Secretary of the Department of Homeland Security der USA getroffen. Dies wird jedoch keine Alleingangsentscheidung sein: Vor Erlass der Maßnahme muss sich der Beamte mit dem Direktor der Nationalen Aufklärung und dem Secretary of Commerce beraten.

Der Gesetzentwurf legt die Kriterien klar fest, unter denen der Staat in die Arbeit von Algorithmen eingreifen kann. Gründe für eine erzwungene Sperrung sind:

  • Versuche der KI, ihre tatsächlichen Fähigkeiten zu verbergen oder Abschaltbefehle zu umgehen;
  • Handlungen des Systems, die einen wirtschaftlichen Schaden von mindestens 100 Millionen Dollar verursachten;
  • Andere Bedrohungen der nationalen Sicherheit, die von Geheimdiensten festgestellt wurden.

Technische Anforderungen und Strafen

Die neuen Regeln betreffen Technologieunternehmen, deren Systeme bestimmte Leistungsmerkmale erfüllen. Das Dokument verpflichtet sie nicht nur, über Ausfälle zu berichten, sondern auch im Voraus die technische Möglichkeit zur Aussetzung, Verlangsamung oder vollständigen Abschaltung ihrer leistungsstarken Systeme zu schaffen.

Die Verantwortung für die Nichteinhaltung der Anforderungen wird streng sein. Für das Fehlen von Abschaltmechanismen oder die Weigerung, Anordnungen der Behörden zu befolgen, sind finanzielle Sanktionen von bis zu 20 Millionen Dollar pro Tag des Verstoßes vorgesehen.

Reaktion der Branche und geopolitischer Hintergrund

Die Initiative hat bereits Unterstützung von einschlägigen Organisationen wie der AI Policy Network und dem Alliance for Secure AI erhalten, die darin einen notwendigen Schritt zur Gewährleistung der Sicherheit sehen.

Der Gesetzentwurf erscheint jedoch vor dem Hintergrund einer komplexen internationalen Lage. Partner- und Konkurrentenländer der USA äußern Besorgnis darüber, dass Washington die Kontrolle über amerikanische KI-Modelle als Druckmittel nutzen könnte. US-Außenminister Marco Rubio hat Diplomaten bereits angewiesen, Diskussionen über die Möglichkeit der Abschaltung amerikanischer Technologien im Ausland entgegenzuwirken, die nach der Einführung neuer Exportbeschränkungen durch das Weiße Haus entbrannt sind.