--- title: "Anthropic fordert im US-Kongress das Recht zur Blockade von KI bei Massenopfergefahr" description: "Anthropic treibt im US-Kongress einen Gesetzentwurf voran, der Behörden die Aussetzung von KI-Systemen bei Schadensrisiken ab 1 Mrd. $ oder 50+ Toten erlaubt." date: 2026-10-17T10:43:44.003Z lang: de url: https://xab.info/de/posts/anthropic-gesetzentwurf-ki-blockade-us-kongress tags: [anthropic, artificial-intelligence, us-congress, ai-regulation, claude] author: "Alexander Buran" publisher: "XAB.info" --- # Anthropic fordert im US-Kongress das Recht zur Blockade von KI bei Massenopfergefahr ![Eine Frau in einem futuristischen schwarz-roten Cyborg-Anzug steht vor der Kulisse von Hunderten gestürzten Menschen in Uniform.](https://xab.info/media/2026/10/17/anthropic-zakonoproekt-blokirovka-ii-v-kongresse-ssa/anthropic-zakonoproekt-blokirovka-ii-v-kongresse-ssa-1.webp) ## Kernpunkte - Anthropic treibt seit Sommer 2026 im US-Kongress einen Gesetzentwurf über das Recht der Behörden voran, KI-Systeme bei ernsten Bedrohungen auszusetzen. - Ein Eingreifen ist zulässig bei Schadensrisiken ab 1 Mrd. $ oder Todesfällen/schweren Verletzungen von 50+ Personen im Zusammenhang mit Biowaffen, außer Kontrolle geratenen Modellen oder Cyberangriffen. - Die Risikobewertung erfolgt durch unabhängige Experten des US-Handelsministeriums, die Blockade wird gerichtlich durchgesetzt; Entwickler müssen Sicherheitsabteilungen gründen und Whistleblower schützen. Anthropic, der Entwickler der Sprachmodell-Familie Claude, treibt seit diesem Sommer im US-Kongress einen Gesetzentwurf voran, der Bundesbehörden mit der Befugnis ausstatten würde, die Freigabe und Nutzung von Systemen künstlicher Intelligenz auszusetzen, falls diese eine ernsthafte Bedrohung für die Gesellschaft darstellen. Dies berichtet das Portal Politico, auf das sich Nachrichtendienste beziehen. Die Initiative wird vom Entwickler als Instrument zur präventiven Kontrolle über die leistungsstärksten KI-Modelle positioniert und schlägt im Grunde vor, einen „Notbremse“-Mechanismus für fortschrittliche Systeme in der amerikanischen Gesetzgebung zu verankern. ### Schwellenwerte, bei denen der Staat eingreifen kann Ein Schlüsselelement des Dokuments ist eine präzise quantitative Definition einer „ernsthaften Bedrohung“. Dem Text des Gesetzentwurfs zufolge ist ein staatliches Eingreifen bei einem Risiko wirtschaftlicher Schäden in Höhe von mindestens 1 Milliarde US-Dollar oder bei der Gefahr von Todesfällen oder schweren Verletzungen von mehr als 50 Personen zulässig. Dabei muss die Bedrohung unmittelbar mit einem von drei Szenarien zusammenhängen: der Erstellung oder Verwendung von Biowaffen, dem Kontrollverlust des Entwicklers über sein Modell oder der Durchführung eines groß angelegten Cyberangriffs. Dieser Ansatz schließt laut den Autoren willkürliche Sperren aus und knüpft die Entscheidung an messbare Risikokriterien. ### Unabhängige Expertise und gerichtliche Kontrolle Die Bewertung der potenziellen Gefahr eines konkreten KI-Systms soll nicht von den Regulierungsbehörden selbst vorgenommen werden, sondern von unabhängigen Experten, die beim US-Handelsministerium registriert sind. Auf Basis der Schlussfolgerungen dieser Fachleute kann die Behörde vor Gericht die Aussetzung des entsprechenden Projekts beantragen. Somit erfolgt die tatsächliche Blockierung eines Modells nicht per direkter administrativer Anordnung, sondern über eine gerichtliche Entscheidung, wodurch die Interessen der nationalen Sicherheit und die Freiheit der technologischen Entwicklung ausbalanciert werden sollen. ### Pflichten der Entwickler und Whistleblower-Schutz Der Gesetzentwurf führt zudem eine Reihe direkter Verpflichtungen für Entwicklerunternehmen ein. Sie müssen interne Sicherheitsabteilungen einrichten, regelmäßig Berichte über die Leistung ihrer KI-Modelle veröffentlichen und die Regulierungsbehörde unverzüglich über schwere Störungen informieren. Eine separate Bestimmung des Dokuments schützt Mitarbeiter, die Informationen über Verstöße aufdecken, vor Vergeltungsmaßnahmen des Arbeitgebers, wodurch Whistleblower-Schutzmechanismen im KI-Bereich auf Bundesebene faktisch verankert werden. ### Verbindung zur kalifornischen Gesetzgebung Berichten von Politico zufolge überschneiden sich einige Bestimmungen der Anthropic-Initiative mit den 2025 verabschiedeten Gesetzen des Bundesstaates Kalifornien zur Regulierung künstlicher Intelligenz. Dies weist darauf hin, dass das Bundesdokument weitgehend auf bereits auf Ebene der Bundesstaaten erprobten Erfahrungen aufbaut. Anthropic selbst bezeichnet die vorgeschlagenen Maßnahmen als „vernünftigen Weg“ zur Kontrolle der leistungsstärksten KI-Systeme und betont, dass das Ziel der Initiative keine Einschränkung von Innovationen, sondern die Gewährleistung der Steuerbarkeit fortschrittlicher Modelle ist. Im Falle seiner Verabschiedung könnte der Gesetzentwurf eines der ersten Bundesinstrumente für direkte Eingriffe in den Betrieb kommerzieller KI-Systeme in den USA werden. ## Faktencheck und Quellen - [Блокировать ИИ при риске массовой гибели людей собираются в США](https://www.ixbt.com/news/2026/10/17/blokirovat-ii-pri-riske-massovoi-gibeli-liudei-sobiraiutsia-v-ssa.html) - Primärquelle der Basis: Schwellenwerte 1 Mrd. $ / 50 Personen, drei Bedrohungsszenarien, unabhängige Experten des Handelsministeriums, gerichtlicher Mechanismus, Entwicklerpflichten, Parallelen zu kalifornischen Gesetzen von 2025, Politico-Verweis. - [Anthropic предложила блокировать ИИ при риске массовой гибели людей](https://runet.news/news/84245) - Bestätigt die Weiterentwicklung des Gesetzentwurfs seit Sommer, identische Schwellenwerte und Mechanismen, charakterisiert die Initiative als „vernünftige Maßnahmen“, verweist auf Parallelen zu den kalifornischen Gesetzen des Vorjahres. ## Häufige Fragen ### Was genau schlägt der Anthropic-Gesetzentwurf vor? Das Dokument erlaubt US-Bundesbehörden, die Freigabe und Nutzung von KI-Systemen auszusetzen, wenn sie eine ernsthafte Bedrohung darstellen: ein Schadensrisiko ab 1 Mrd. $ oder Todesfälle/schwere Verletzungen von 50+ Personen im Zusammenhang mit Biowaffen, außer Kontrolle geratenen Modellen oder Cyberangriffen. ### Wer bewertet die Gefahr des KI-Systems? Unabhängige Experten, die beim US-Handelsministerium registriert sind. Auf Basis ihrer Schlussfolgerungen kann die Behörde vor Gericht die Aussetzung des Projekts beantragen. ### Welche Pflichten bringt der Gesetzentwurf für Entwickler mit sich? Einrichtung interner Sicherheitsabteilungen, Veröffentlichung von Berichten zur KI-Modellleistung, unverzügliche Meldung schwerer Störungen an die Regulierungsbehörde sowie der Schutz von Mitarbeitern, die Verstöße aufdecken, vor Verfolgung.