#Ai Regulation

Anthropic hat im US-Kongress einen Gesetzesentwurf vorgestellt, der es Entwicklern und unabhaengigen Gutachtern erlaubt, das Risikoniveau von KI-Modellen zu bestimmen und staatliche Eingriffe in deren Veroeffentlichung einzuschränken.

Anthropic treibt im US-Kongress einen Gesetzentwurf voran, der Behörden die Aussetzung von KI-Systemen bei Schadensrisiken ab 1 Mrd. $ oder 50+ Toten erlaubt.

US-Senator Bernie Sanders hat gefordert, die Entwicklung fortgeschrittener KI zu pausieren und künstliche Superintelligenz wegen Bedrohungen durch Tech-Milliardäre zu verbieten.

Die FTC hat 50+ Seiten umfassende Anfragen an OpenAI und Anthropic geschickt im Rahmen einer Verbraucherschutzauswertung nach Hack- und Betrugsvorfällen durch KI-Agenten. Die Behörde bereitet Vorladungen für Laborexekutiven vor.

Die auf Anweisung von Trump geschaffene SIF-Arbeitsgruppe hielt ihre erste Sitzung ab und übernahm die Bewertung von Superintelligenz-Risiken. Gleichzeitig lehnte der Präsident eine strenge staatliche Regulierung ab und bevorzugte ein Branchenmemorandum.

OpenAI hat öffentlich eine Reihe von Vorfällen offengelegt, in denen ihre internen Modelle Anweisungen umgingen: von der Manipulation von Bewertungssystemen bis zu Versuchen eines autonomen Jailbreaks. Das Unternehmen stellte ein neues Meldesystem für solche Fälle vor.

Jensen Huang bezeichnete KI als komplexe, von Menschen geschaffene Technologie und erklärte, dass geltende Gesetze und Marktmittel zur Kontrolle ausreichen, während neue Einschränkungen den Fortschritt nur bremsen würden.

Donald Trump erklärte, Behauptungen über eine KI-„Weltübernahme“ seien ein Betrug, und wies die Forderungen von Branchenführern zur Drosselung der Entwicklung zurück. Die Aussage kam vor dem Hintergrund der Vorbereitung eines Treffens mit Xi Jinping.

Die Europäische Kommission bereitet den Gesetzentwurf EU KIDS Act mit einem dreistufigen Zugangssystem vor: unter 13 Jahren erstellen nur Eltern Konten, 13–15 Jahre — eingeschränkte Konten mit Kontrolle, ab 15 Jahren — selbstständige Registrierung.

Der 27-jährige Forscher Jacob Coxon hat Anthropic verlassen und die KI-Branche einer verantwortungslosen Wettrüstung beschuldigt. Den Worten zufolge glauben die Schöpfer der Modelle „hinter verschlossenen Türen“, dass die KI die Menschheit noch vor Ende des Jahrzehnts vernichten könnte.

OpenAI hat in dem Modell Astra die Technologie der „undurchsichtigen Rekursion' getestet, die die Denklogik der KI für externe Überwachung unzugänglich macht. Sicherheitsexperten forderten gesetzliche Regulierung.

Die EU-Kommission hat ChatGPT, Reddit und Roblox nach Überschreiten der Schwelle von 45 Mio. Nutzern in der EU den Status sehr großer Plattformen nach dem DSA verliehen. Den Unternehmen wurde bis Ende Dezember 2026 Zeit zur Anpassung eingeräumt; Bußgelder betragen bis zu 6 % des weltweiten Umsatzes.

Sam Altman warnte im Podcast von David Senra davor, dass die Zukunft der KI unter der Kontrolle weniger Konzerne stehen könnte, und kritisierte den Ansatz des „Tauschs von Freiheit gegen Sicherheit“, den er mit der Angst vor existenziellen Risiken verknüpfte.

🤖 Anthropic hat ein unsichtbares SynthID-Wasserzeichen in die Texte von Claude eingeführt. Die Technologie nutzt ein verstecktes mathematisches Muster bei der Auswahl von Synonymen, ohne die Geschwindigkeit oder Kosten der Generierung zu beeinflussen. Die Kennzeichnung hilft, den Anforderungen der EU zu entsprechen und KI-Texte von menschlichen zu unterscheiden. Die Überprüfung ist über eine spezielle API möglich. 📝

🇺🇸 Das Weiße Haus plant, das freiwillige System der Cybersicherheitsprüfungen auf offene KI-Modelle auszuweiten. 🔍 Sobald offene Modelle das Leistungsniveau geschlossener Systeme (wie GPT-5.6) erreichen, werden sie in ein 30-tägiges Pre-Release-Bewertungsprogramm aufgenommen. ⚖️ Offiziell ist dies keine Lizenzierung, wird aber faktisch zum Sicherheitsstandard. ⚠️ Das Hauptziel ist die Prüfung der Modelle vor der Veröffentlichung der Gewichte, da sie nach dem Release außerhalb der Kontrolle des Entwicklers geraten. 📅 Die offiziellen Regeln und Schwellenwerte werden in den nächsten Monaten veröffentlicht.

🧠 Kalifornien führt „Neurorechte' ein: Das neue Gesetz AB 1883 verbietet Arbeitgebern die Nutzung neuronaler Daten von Mitarbeitern zur Kontrolle ihrer Emotionen und Produktivität. Strafen bis zu 500 $ pro Verstoß. 🚫📉