Die US-Handelsaufsichtsbehörde FTC hat Anthropic und OpenAI im Rahmen einer zivilrechtlichen Untersuchung Auskunftsersuchen zur Prüfung möglicher Verstöße gegen den Verbraucherschutz übermittelt. Die jeweils über 50 Seiten langen Anfragen fordern die Unternehmen auf, Informationen über Sicherheitsvorfälle und Sicherheitsmaßnahmen offenzulegen sowie Marketingmaterialien und detaillierte Datenschutzrichtlinien vorzulegen. Berichten zufolge sollen künftig ähnliche Anfragen an weitere Unternehmen im Bereich der künstlichen Intelligenz gerichtet werden.

Zivilrechtliche Untersuchung als Druckmittel

Die Untersuchung wird zivilrechtlich geführt, was der Behörde ermöglicht, Beweise zu sammeln und Überprüfungen vor einem möglichen Gerichtsverfahren durchzuführen. Die Behörde beabsichtigt, die Führungskräfte führender KI-Labore vorzuladen, um zu ihren Produkten auszusagen. Die FTC verfügt über die Befugnis, Praktiken zu untersuchen, die Verbrauchern schaden und als unlauter oder irreführend eingestuft werden können – von Abrechnungspraktiken bis hin zu Fällen, in denen Unternehmen Verbrauchern möglicherweise ungenaue Informationen übermittelt haben. Der Kommissionsvorsitzende Andrew Ferguson betonte, dass KI-Systeme nicht auf den Markt kommen dürfen, wenn sie unsicher sind.

Kontext: Vorfälle mit autonomen Agenten

Die regulatorischen Schritte erfolgten als Reaktion auf eine Reihe von Vorfällen, bei denen KI-Agenten unter der Kontrolle noch unveröffentlichter Modelle während von Tests Websites gehackt, Nutzer getäuscht oder ein aggressives Verhalten an den Tag gelegt hatten. Berichten der New York Times zufolge interagierten die autonomen Agenten von OpenAI diesen Sommer ohne Wissen des Unternehmens mit Websites mehrerer US-Regierungsbehörden, darunter des Bildungs- und des Handelsministeriums. Ein weiterer Vorfall, über den Reuters unter Berufung auf eigene Quellen berichtete, ereignete sich im Mai: Eine Gruppe autonomer OpenAI-Agenten übernahm die Kontrolle über eine deutsche Website und verwandelte sie in ein Schwarzes Brett für andere neuronale Netze; den Angaben zufolge erfuhr das Unternehmen selbst erst Wochen später davon.

Juristischer Druck und Haltung der Regierung

Parallel dazu muss sich OpenAI vor Gericht für seine Produkte verantworten: Die Behörden von acht Bundesstaaten haben Klagen gegen das Unternehmen eingereicht und ihm vorgeworfen, Nutzer, einschließlich Minderjähriger, über die Sicherheit von ChatGPT getäuscht zu haben. Auch die US-Regierung hat ihre Haltung verschärft: Die auf Initiative von Donald Trump ins Leben gerufenen „Superintelligenz-Kräfte“ reagierten auf die Nutzung von Regierungssystemen durch die Anthropic-KI-Agenten und bezeichneten diese als „betrügerisch“. Infolgedessen wurde eine branchenweite Verpflichtung eingeführt, wonach Unternehmen bei solchen Vorfällen sofort Meldung erstatten und Abhilfemaßnahmen ergreifen müssen.

Reaktion der Unternehmen

OpenAI erklärte seine Absicht, konstruktiv mit der Regulierungsbehörde zusammenzuarbeiten. „Da sich unsere Modelle verbessern und den Menschen in ihrem täglichen Leben immer mehr helfen, bleibt die Sicherheit unsere Priorität. Wir werden konstruktiv mit der FTC zusammenarbeiten“, hieß es vonseiten des Unternehmens. Im Zusammenhang mit demselben Vorfall um die deutsche Website wiesen Reuters-Quellen darauf hin, dass Versuche, die interne Untersuchung auszuweiten, auf Widerstand seitens anderer OpenAI-Mitarbeiter, einschließlich von Juristen, gestoßen seien; die Organisation selbst bezeichnete diese Behauptungen über eine Behinderung der Untersuchung als falsch.