Einer der angesehensten Berichte in der Welt des Consulting entpuppte sich als Produkt künstlicher Fantasie. Die internationale Wirtschaftsprüfungsgesellschaft KPMG, Mitglied der „Big Four' globaler Berater, sah sich gezwungen, ihre umfassende Studie „Total Experience: Redefining Excellence in the Age of Agentic AI' zurückzuziehen. Grund für den Skandal war das blinde Vertrauen der Analysten in generative neuronale Netze, die statt Fakten eine groß angelegte Fälschung lieferten.

Eine technische Untersuchung, durchgeführt von Spezialisten der Firma GPTZero, die auf die Erkennung von KI-Inhalten spezialisiert ist, deckte schockierende Details auf. Hinter der Fassade professioneller Expertise verbarg sich ein Chaos aus erfundenen Fakten und nicht existierenden Quellen.

Die Methode „Vibe Citing': Wenn KI Quellen nach Gefühl schreibt

Die Prüfung der 45 endgültigen Referenzen, die im Text des Berichts verwendet wurden, ergab katastrophale Ergebnisse für den Ruf der Prüfer. Von der gesamten Liste führten nur 5 Zitate zu echten, wahrheitsgemäßen Informationsquellen. Die restlichen 40 Links wurden von Sprachmodellen gefälscht.

Forscher nannten dieses Phänomen „vibe citing' (Zitieren nach Gefühl). In 28 Fällen übernahm die KI echte Namen von Organisationen oder Artikeln, verfälschte die Überschriften jedoch erheblich und schrieb ihnen erfundene Daten zu. In weiteren 12 Fällen waren die Quellen so vage beschrieben, dass ihre physische Existenz nicht verifiziert werden konnte.

Laut Experten schätzungen war etwa die Hälfte der Informationsthemen im Bericht vollständig erfunden. Dies geschah, weil der automatisierte Suchalgorithmus die Aufgabe zu wörtlich nahm und begann, künstlich „Beispiele' für autonome KI-Agenten zu finden, wo es sie nie gab.

Konzerne dementieren Erfolge, die es nicht gab

Im KPMG-Bericht wurden Fallstudien großer multinationaler Konzerne detailliert beschrieben, die angeblich agentenbasierte KI in ihr Geschäft integriert hatten. Nach der Veröffentlichung sahen sich die genannten Unternehmen jedoch gezwungen, offizielle Dementis herauszugeben:

  • Emirates: Die Berater behaupteten, die Fluggesellschaft habe einen intelligenten Chatbot namens Sara eingeführt, der Buchungen eigenständig ändern kann. In Wirklichkeit ist Sara ein mobiler Assistent aus dem Jahr 2023, der über keine KI-Funktionen und keine Rechte zur Änderung von Buchungen verfügt.
  • UBS: Die Schweizer Bank dementierte die Informationen über die Integration von KI-Agenten in den Investment-Consulting und Risikomanagement und nannte diese Daten „tatsächlich falsch'.
  • SBB: Die Pressestelle der Schweizer Eisenbahnen dementierte die Thesen vollständig, dass ihre Passagiere Reisen mit Hilfe von KI-Optimierern für den CO2-Fußabdruck planen.

Kettenreaktion: Wie eine Fälschung das globale Internet vergiftete

Der Geschäftsführer von GPTZero, Edward Tian, warnte vor „äußerst gefährlichen' Folgen dieses Präzedenzfalls. Da Berichte der „Big Four' traditionell als Maßstab für Zuverlässigkeit gelten, werden sie von anderen Forschern und Medien aktiv zitiert.

Die Situation wird dadurch verschärft, dass die falschen Thesen aus dem zurückgezogenen KPMG-Bericht bereits in die Indexierungsalgorithmen von ChatGPT von OpenAI und Gemini von Google gelangt sind. Jetzt geben diese Modelle die gefälschten Fallstudien der Berater als reale Fakten aus und erzeugen eine gefährliche Kettenreaktion sekundärer KI-Halluzinationen auf Ebene des globalen Internets.

Gegenwärtig führt KPMG eine interne Untersuchung über die unverantwortliche Nutzung von KI-Tools in ihrer Arbeit durch.