Algorithmische Halluzination: Wie KI einen Witz zum „Fakt' machte

Im August 2026 ereignete sich ein Vorfall, der die Risiken der unkontrollierten Verbreitung von Informationen durch generative Modelle eindrucksvoll veranschaulicht. Der Algorithmus „AI Overview' in Googles Suchmaschine begann, Nutzern unzutreffende Daten über die Verkehrskameras des Unternehmens Flock Safety anzuzeigen. Die Künstliche Intelligenz behauptete mit großer Sicherheit, dass jede autonome Kennzeichenerkennungskamera zwischen 1 und 5 Gramm Gold sowie zwischen 0,9 und 10,4 Kilogramm Kupfer enthalte. Basierend auf diesen Daten wurde der Wert des Goldes allein in einem Gerät auf etwa 650 US-Dollar geschätzt.

Der kritische Fehler bestand darin, dass die KI keine elementare Überprüfung der physikalischen Plausibilität vornahm: Die angegebene Masse an Kupfer von mehreren Kilogramm überstieg die Masse des Geräts selbst, die lediglich 1,36 kg beträgt, um ein Vielfaches. Trotz dieses offensichtlichen Widerspruchs verbreitete der Algorithmus die Informationen weiter, was zu realen Konsequenzen führte.

Welle des Vandalismus und Kontext des Misstrauens

Die Verbreitung der Falschinformation über „Goldkameras' blieb nicht unbemerkt. Nutzer, die an die Möglichkeit eines leichten Gewinns glaubten, begannen Vandalismusakte gegen die Ausrüstung von Flock Safety zu verüben. Die Geschichte begann vor dem Hintergrund wachsender Skandale rund um das Überwachungssystem. Zuvor wurde über Missbrauch berichtet, bei dem einzelne Mitarbeiter von Strafverfolgungsbehörden das System für private Überwachungszwecke nutzten. Die öffentliche Unzufriedenheit mit der ständigen Kontrolle schuf einen fruchtbaren Boden für den Fake, der die Zerstörung der Kameras förderte.

Obwohl Menschen auch zuvor Falschinformationen verbreitet hatten (beispielsweise wurden 2020 Mobilfunkmasten ohne Hilfe von KI in Brand gesteckt), spielte der Algorithmus in diesem Fall die Rolle eines Katalysators, der der absurden Theorie den Anschein eines technischen Faktums verlieh.

Realität gegen Fiktion: Was sich in der Kamera befindet

Nachdem die Geschichte breite Resonanz gefunden hatte, sah sich Google gezwungen, die Funktionsweise seines AI Overview anzupassen. In den aktualisierten Suchergebnissen befindet sich nun eine Warnung: Die Geschichten über Gramm entnehmbaren Goldes und Kilogramm Kupfer sind ein Witz und das Ergebnis von Halluzinationen des neuronalen Netzwerks. Der tatsächliche Gehalt an Edelmetallen in solchen Geräten entspricht dem, was für jede kompakte Elektronik typisch ist.

Gold ist zwar tatsächlich in den Kameras vorhanden, aber nur in Spuren – hauptsächlich in Form mikroskopischer Beschichtungen von Kontakten, Anschlüssen und einzelnen Bauteilen von Leiterplatten. Das Gleiche gilt für Kupfer: Es wird in Leitern und Leiterbahnstrukturen verwendet, jedoch ist die Menge verschwindend gering und wird in Mikrogrammen und nicht in Kilogramm gemessen.

Widersprüchliche Daten

Es gibt Diskrepanzen bei der Einschätzung des Ausmaßes der Folgen. Einerseits bestätigen Quellen, dass der Google-Algorithmus tatsächlich falsche Daten über den Gold- und Kupfergehalt lieferte, was Vandalismus provozierte. Andererseits bleiben die genaue Anzahl der betroffenen Kameras und der gesamte materielle Schaden, der den Besitzern der Ausrüstung infolge dieses „Goldrauschs' zugefügt wurde, unbekannt. Die Geschichte schweigt über konkrete Zahlen zerstörten Eigentums und konzentriert sich auf die Tatsache des KI-Fehlers.

Verantwortung von Algorithmen im Zeitalter generativer Inhalte

Die Geschichte mit den „Goldkameras' wurde zu einem weiteren charakteristischen Beispiel für die Wiederholung und Verbreitung unzutreffender Fakten durch generative KI. Die Plattform führte keine elementare Plausibilitätsprüfung der Daten durch, was zu tatsächlichem Schaden führte. Dieser Fall wirft die Frage auf, wer für die Handlungen von Algorithmen verantwortlich sein sollte: die Entwickler, die Nutzer oder die Maschinen selbst. Während Menschen Fakes auch ohne KI-Hinweise gut verbreiten, machen die Reichweite und Geschwindigkeit neuronaler Netze solche Fehler besonders gefährlich.