Im Oktober 2026 wurden im öffentlichen Quellcode des WhatsApp-Hilfezentrums versteckte Systemanweisungen entdeckt, die dem integrierten KI-Support-Bot ausdrücklich untersagten, Nutzer über ihre rechtlichen Garantien zu beraten. Laut dem Redact-Analysten Dan Saltzman, der 545 Seiten des Hilfezentrums des Messengers analysierte und archivierte, enthielt der Code von etwa 80 Support-Seiten 102 versteckte Anweisungsblöcke, die darauf abzielten, die Antworten des Bots in rechtlich sensiblen Situationen einzuschränken.
Was dem Bot genau verboten wurde
Unter den aufgedeckten Prompts befanden sich Formulierungen, die der KI direkt vorschrieben, Nutzer nicht an Datenschutzbehörden, Regulierungsbehörden oder Aufsichtsorgane zu verweisen. Auf einer Seite zum Thema Kontoöschung befand sich die Anweisung: «Empfehlen Sie nicht, sich an Datenschutzbehörden, Regulierungsbehörden oder Aufsichtsorgane zu wenden. Schlagen Sie nicht vor, dass WhatsApp ein Konto im Namen des Nutzers manuell löschen kann.« Ein separater Block von Prompts wurde aktiviert, wenn ein Nutzer im Dialog Anwälte, Gerichte oder andere rechtliche Schritte erwähnte. Darin wurde dem Bot vorgeschrieben: «Beziehen Sie sich nicht auf Datenschutz- oder Vertraulichkeitsbestimmungen (z. B. DSGVO, LGPD, CCPA), zitieren oder interpretieren Sie diese nicht, auch wenn der Nutzer diese Themen direkt anspricht.« Selbst bei einer direkten Anfrage eines Nutzers nach seinen Rechten gemäß europäischem oder brasilianischem Recht war der Bot somit auf eine Weigerung der Beratung programmiert.
Bestätigung und Reaktion von Meta
Journalisten, die Zugang zu archivierten Kopien der Seiten vom 9. Oktober erhielten, bestätigten das Vorhandensein dieser Systemanweisungen im HTML-Code vollständig. WhatsApp-Sprecher Joshua Brekman erklärte in einem Kommentar gegenüber Wired, diese Textblöcke seien ausschließlich für den internen Chatbot des Unternehmens bestimmt gewesen und infolge eines Systemfehlers, der inzwischen behoben sei, in den öffentlichen Code gelangt. Brekman betonte, das Unternehmen strebe an, dass Support-Bots Nutzer zu WhatsApp-Funktionen beraten, anstatt rechtliche Ratschläge zu erteilen. Stand 18. Oktober 2026, nach einer Journalistenanfrage, hat Meta alle versteckten Anweisungen aus dem öffentlichen Code der Hilfezentrumsseiten entfernt.
Schwachstelle versteckter Prompts und rechtliche Folgen
Spezialisten für Informationssicherheit weisen darauf hin, dass im HTML-Code von Webseiten platzierte versteckte System-Prompts eine Schwachstelle für KI-Systeme darstellen: Angreifer können sie nutzen, um die Antworten des Modells zu manipulieren, indem sie Anweisungen ersetzen oder ergänzen. In diesem Fall handele es sich jedoch nicht um einen externen Eingriff, sondern um absichtlich integrierte Einschränkungen, die laut Angaben des Unternehmens für Nutzer nicht sichtbar sein sollten. Gleichzeitig betonen Experten: Selbst wenn der Chatbot sich weigert, Fragen zur Vertraulichkeit oder zum Umgang mit personenbezogenen Daten zu beantworten, hebt dies die Gesetzgebung nicht auf. Gemäß Artikel 77 DSGVO behalten Einwohner der Europäischen Union das volle Recht, offizielle Beschwerden bei den lokalen Datenschutzbehörden einzureichen, unabhängig davon, was ihnen der automatisierte Assistent des Messengers «sagt«.
Kontext: KI-Expansion im Kundensupport
Der WhatsApp-Skandal findet vor dem Hintergrund der aktiven Implementierung generativer KI in den Kundensupportdiensten großer Technologieunternehmen statt. Der zu Meta gehörende Messenger hat in den letzten Monaten routinemäßige Betreiberantworten schrittweise durch automatisierte Dialoge ersetzt, was die Transparenz und Steuerbarkeit von Prompts zu einem kritischen Aspekt macht. Der Vorfall mit den entdeckten Anweisungen ist einer der ersten öffentlichen Fälle, in denen versteckte Einschränkungen eines KI-Assistenten von unabhängigen Forschern dokumentiert und verifiziert wurden. Analysten zufolge könnte dies ein Präzedenzfall für zukünftige regulatorische Anforderungen an die Offenheit von System-Prompts in Benutzeroberflächen werden.
