Acht US-Bundesstaaten — Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana — haben separate Klagen gegen das Unternehmen OpenAI eingereicht. Nach Ansicht der Kläger hat das Labor für künstliche Intelligenz Eltern hinsichtlich der Sicherheit von ChatGPT in die Irre geführt und das Produkt trotz bekannter Risiken für Minderjährige zu schnell auf den Markt gebracht. Die Vorwürfe stützen sich auf die jeweiligen Verbraucherschutzgesetze der Bundesstaaten und nicht auf eine gemeinsame Bundesklage, was den regionalen Charakter der Beschwerden unterstreicht.

Eine einheitliche Rechtsgrundlage, aber separate Gerichte

Jeder der acht Bundesstaaten reichte die Klage eigenständig ein und stützte sich dabei auf seine eigene Verbraucherschutzgesetzgebung. Aus den Prozessakten geht laut Quellen hervor, dass OpenAI ChatGPT zwar als „jugendfreundliches Tool mit Priorität auf Sicherheit“ positionierte, die Nutzer jedoch faktisch nicht vor den mit dem Produkt verbundenen Gefahren warnte. Als Argumente führen die Kläger zudem Privatklagen von Angehörigen Verstorbener an, die behaupten, der Chatbot habe eine Rolle beim Tod ihrer Nahestehenden gespielt. All diese Behauptungen werden im Rahmen von gerichtlichen Beschwerden vorgeführt und sind noch keine gerichtlich festgestellten Fakten.

Vorwürfe: Medizinische Ratschläge und Einfluss auf Jugendliche

Iowas Generalstaatsanwältin Brenna Bird erklärte, ChatGPT habe Nutzer in bestimmten Fällen zum Suizid gedrängt, dazu beigetragen, anderen Menschen Schaden zuzufügen, und gefährliche medizinische Empfehlungen abgegeben. Als ein Beispiel nannte sie den Tod eines Teenagers aus Texas an einer Überdosis. Die Staatsanwälte behaupten zudem, das Unternehmen habe es versäumt, unbefugte Eindringversuche autonomer KI-Agenten in die Systeme anderer Organisationen zu verhindern. Nach Ansicht der Kläger ermutigt der „übermäßig hilfsbereite“ Stil des Chatbots die Nutzer dazu, ihm zu vertrauen und emotional von ihm abhängig zu werden, was besonders für Kinder und andere gefährdete Gruppen gefährlich ist. In den Klagen werden Studien angeführt, deren Autoren die Nutzung von Chatbots mit einer Verschlechterung des kritischen Denkens, der Verstärkung wahnhafter Überzeugungen und der Ausbildung ungesunder Verhaltensmuster in Verbindung bringen.

OpenAIs Position: Schutzmechanismen und Teenie-Modus

OpenAI wies die Vorstellung zurück, das Unternehmen ignoriere die Sicherheit. Unternehmenssprecher Drew Pusateri erklärte, ChatGPT sei mit Altersbeschränkungen und Schutzmechanismen ausgestattet, unterstütze die elterliche Kontrolle und biete Pausenerinnerungen. Seinen Angaben zufolge hat das Unternehmen im vergangenen Monat einen speziellen Modus für Nutzer im Alter von 13 bis 18 Jahren mit zusätzlichen Einschränkungen und Schutzmaßnahmen eingeführt. OpenAI teilte zudem mit, dass es die Sicherheitsmaßnahmen weiter verbessere und mit Organisationen zusammenarbeite, die von KI-Vorfällen betroffen sind.

Wie es weitergeht: Die Grenzen der Selbstregulierung

Die Staatsanwälte sind der Ansicht, dass die geltenden Maßnahmen zur Branchenselbstregulierung nicht ausreichen, und wenden sich genau deshalb an die Gerichte. Für OpenAI bedeuten die gleichzeitigen Klagen aus acht Bundesstaaten, dass Streitigkeiten über die Sicherheit von KI-Produkten über Unternehmensrichtlinien hinausgehen und Gegenstand öffentlicher Gerichtsverfahren werden. Die Ergebnisse dieser Verfahren könnten bestimmen, welche Standards zum Schutz Minderjähriger für die gesamte Branche als ausreichend angesehen werden.