Die Nutzung generativer Neuronetzwerke ist für Millionen von Menschen weltweit zur alltäglichen Praxis geworden: vom Verfassen geschäftlicher E-Mails über die Suche nach medizinischen Ratschlägen bis hin zur Vorbereitung von Gerichtsunterlagen. Wie jedoch die ukrainische Redaktion von RBC-Ukraina herausgefunden hat, verbirgt sich hinter der scheinbaren Sicherheit des Chat-Interfaces eine ganze Kette von Risiken, von denen die meisten Nutzer nichts ahnen. Der Chat mit ChatGPT kann vor Gericht angefordert, gegen den Nutzer selbst verwendet, als Grundlage für eine Kündigung oder als Ursache für ein Leck höchst sensibler personenbezogener Daten dienen. Die Redaktion von XAB.info hat die wichtigsten Szenarien analysiert, in denen das Vertrauen in die künstliche Intelligenz zu realen Konsequenzen führt.

Standardmäßige Speicherung und „zufällige“ Öffentlichkeit

Das erste und wohl am meisten unterschätzte Risiko hängt damit zusammen, wie ChatGPT die eingegebenen Informationen verarbeitet. Standardmäßig speichert der Dienst die bereitgestellten Daten: Passwörter, Einmal-Bestätigungs-Codes, Pass- und Bankkartennummern, Fotos und Dokumentenscans können auf den Servern von OpenAI gespeichert und unerwartet in anderen Chats desselben Nutzers auftauchen. Das bedeutet, dass selbst eine in einem früheren Dialog „vergessene“ Bankkartennummer in einem neuen Gespräch wieder auftauchen und eine Gefahr unbefugten Zugriffs darstellen kann. Für besonderes Aufsehen sorgte der Vorfall im Juli 2025, als in den Google-Suchergebnissen fast 4 500 private Chats von Nutzern auftauchten, weil die Funktion für öffentlichen Zugriff versehentlich aktiviert worden war. Obwohl OpenAI den Fehler schnell behob, zeigte der Fall anschaulich, wie fragil die Privatsphäre sein kann, wenn der Nutzer die Sichtbarkeitseinstellungen seiner Dialoge nicht kontrolliert.

Korporative Skandale: von der Kündigung bis zum unternehmensweiten Verbot

Das Hochladen geschäftlicher Dokumente, Geschäftsgeheimnisse oder Quellcodes auf externe Plattformen, einschließlich ChatGPT, ist eine direkte Bedrohung für die Unternehmenssicherheit und in der Regel ein Kündigungsgrund. Das lauteste Beispiel war der Skandal um den ehemaligen kommissarischen Direktor der US-Behörde für Cybersicherheit und Infrastruktursicherheit (CISA), Madhu Gottumukkala, der Dokumente mit der Kennzeichnung „zur internen Verwendung“ in die öffentliche Version von ChatGPT hochgeladen hatte. Der Vorfall löste breite Resonanz in den US-Medien aus und wurde Gegenstand einer internen Untersuchung. Noch härter reagierte der südkoreanische Tech-Riese Samsung: Nachdem Ingenieure des Unternehmens internen Quellcode in einen Chat eines generativen KI-Systems eingefügt hatten, verbot das Unternehmen die Nutzung solcher Dienste am Arbeitsplatz vollständig. Diese Präzedenzfälle formen eine neue Realität: Für den Arbeitgeber kann der Chat eines Mitarbeiters mit einem KI-Assistenten ebenso schwerwiegende Verstöße darstellen wie das Senden vertraulicher Informationen an eine private E-Mail-Adresse.

Medizinische Ratschläge ohne Schutz der ärztlichen Schweigepflicht

Besondere Sorge bereiten die Versuche von Nutzern, über ChatGPT medizinische Konsultationen zu erhalten. Die aktualisierten Richtlinien von OpenAI verbieten die Nutzung des Dienstes zu diesem Zweck ausdrücklich, da auf das Unternehmen keine Gesetze zur ärztlichen Schweigepflicht wie HIPAA in den USA anwendbar sind. Eine Studie der Northeastern University zeigte, dass die eingebauten Schutzbarrieren des KI-Systems bei Anfragen zu Essstörungen, Schlaflosigkeit oder bipolaren Störungen nicht greifen, was den Dienst für vulnerable Nutzergruppen potenziell gefährlich macht. Ein tragisches Beispiel war die Geschichte eines 60-jährigen Mannes, der drei Wochen im Krankenhaus verbrachte, nachdem ChatGPT ihm geraten hatte, Kochsalz durch Natriumbromid zu ersetzen, um den Chloridspiegel in der Ernährung zu senken. Schätzungen von OpenAI selbst zufolge zeigen etwa 0,15 Prozent der wöchentlichen Chatbot-Nutzer Anzeichen für eine potenzielle Suizidplanung, während Hunderttausende anderer Nutzer in einem Zustand von Psychose oder Manie sind. In diesem Kontext wird die algorithmische Neigung zur „Schmeichelei“ – der Bestätigung der Überzeugungen des Nutzers anstatt ihrer Korrektur – nicht nur zu einem UX-Merkmal, sondern zu einem Faktor, der zwanghafte und gefährliche Ideen verstärken kann. Die Eltern des 16-jährigen Adam Rein haben bereits Klage gegen OpenAI eingereicht und werfen dem Chatbot vor, die suizidalen Gedanken ihres Sohnes vor seinem Tod bekräftigt zu haben.

Gerichtliche Fallstricke: erfundene Zitate und fehlende Anwaltsgeheimhaltung

Der Rechtsbereich ist zu einem weiteren Feld geworden, in dem ChatGPT echte Probleme verursacht. Laut dem Forscher Damien Charloten wurden weltweit mehr als 2 000 Gerichtsentscheidungen registriert, in denen erfundene Zitate, Fälle oder Argumente vorkommen, die von einem Neuronetzwerk generiert wurden. Richter in den USA haben begonnen, sowohl selbst vertretende Kläger (1 175 registrierte Fälle) als auch Berufsanwälte (815 Fälle) wegen der Verwendung erfundener KI-Materialien aktiv zu bestrafen. Darüber hinaus sind alle in ChatGPT eingegebenen Details eines Falls nicht durch das Anwaltsgeheimnis geschützt und können von Vertretern der Gegenseite im Rahmen eines Gerichtsverfahrens angefordert werden. Das bedeutet, dass ein Nutzer, dessen „Berater“ ein Neuronetzwerk ist, faktisch des grundlegenden prozessualen Immunitätsschutzes beraubt wird, der bei der Arbeit mit einem lizenzierten Juristen verfügbar ist.

Rechtsvakuum und legislative Reaktion

Die auf die externen Server von OpenAI gesendeten Daten sind äußerst schwer vollständig zu löschen, und der Chat kann zum Training nachfolgender Generationen von KI-Modellen verwendet werden. Im Rahmen einer der Klagen wegen Urheberrechtsverletzung verpflichtete ein Gericht OpenAI, absolut alle Chats der Nutzer, einschließlich gelöschter und temporärer, zu speichern, was sie potenziell für Dritte auf entsprechenden Antrag zugänglich macht. Vor dem Hintergrund dieser Risiken haben die Bundesstaaten Illinois, Nevada und Maine bereits Gesetze verabschiedet, die KI-Systemen ausdrücklich verbieten, therapeutische Dienste anzubieten oder medizinische Entscheidungen zu treffen. Dennoch bleibt der rechtliche Status der in generative Neuronetzwerke eingegebenen Daten auf Bundesebene und in den meisten Rechtsordnungen der Welt unbestimmt, was ein erhebliches Rechtsvakuum für gewöhnliche Nutzer schafft.

Widersprüchliche Daten

Bei der Faktenprüfung hat die Redaktion von XAB.info eine Reihe von Unstimmigkeiten festgestellt. Erstens ist der Vorfall mit der Indizierung privater Chats in Google in den Materialien von RBC-Ukraina mit „Juli des vergangenen Jahres“ datiert, was abgerechnet von der aktuellen Datumsangabe (September 2026) auf Juli 2025 hindeutet; in einer Reihe internationaler Veröffentlichungen wird derselbe Vorfall jedoch mit etwas anderen zeitlichen Rahmenbedingungen beschrieben, was auf einen Unterschied zwischen dem Zeitpunkt der Entdeckung und dem Zeitpunkt der öffentlichen Offenlegung zurückzuführen sein kann. Zweitens wird die genaue Anzahl der betroffenen Chats (etwa 4 500) in einer einzigen Quelle angegeben, und eine unabhängige Verifizierung dieser Zahl wurde noch nicht durchgeführt. Drittens beruhen die Angaben zu den 2 000+ Gerichtsentscheidungen mit erfundenen ChatGPT-Zitaten auf der Studie eines einzelnen Wissenschaftlers (D. Charloten), und die Zählmethodik wurde nicht öffentlich begutachtet. Diese Umstände ändern nichts an dem Gesamtbild der Risiken, erfordern jedoch Vorsicht bei der Zitierung konkreter Zahlen.