Moderne Technologien der künstlichen Intelligenz sind in der Lage, nicht nur Inhalte zu generieren, sondern auch aktiv in kognitive Prozesse des Menschen einzugreifen und Erinnerungen an die Vergangenheit zu verändern. Jüngsten Forschungen von Wissenschaftlern des Massachusetts Institute of Technology (MIT) zufolge erzeugen von neuronalen Netzen generierte Bilder und Texte falsche Erinnerungen und veranlassen Menschen dazu, sich bezüglich Details ihrer eigenen Erfahrungen sicher zu irren.
Experimente zur Erinnerungsverzerrung durch neuronale Netze
Während wissenschaftlicher Experimente unter der Leitung von Pattie Maes untersuchte eine Gruppe von Teilnehmern echte Fotos. Später wurde einem Teil der Freiwilligen algorithmisch veränderte Versionen der Bilder gezeigt, während den anderen die Originale präsentiert wurden. Gedächtnistests ergaben, dass Personen, die mit gefälschten visuellen Inhalten konfrontiert waren, nicht nur mehr Fehler machten, sondern auch absolute Zuversicht in die Echtheit ihrer falschen Erinnerungen äußerten.
Experten weisen darauf hin, dass solche Technologien ganze gefälschte Ereignisse im Bewusstsein verankern können. Dies beeinflusst direkt die öffentliche Stimmung, einschließlich politischer Präferenzen und der Wahlbeteiligung der Bürger. Das Problem wird durch die Neigung von Algorithmen zu Halluzinationen verschärft, was die Grundlagen objektiver Informationen selbst dann untergräbt, wenn keine böswillige Absicht der Entwickler vorliegt.
Das Kontrollproblem und der Effekt des Vertrauens in Algorithmen
Um Risiken zu minimieren, versuchen Regierungsbehörden, Finanzorganisationen, medizinische Einrichtungen und Verteidigungsstrukturen das Konzept des „Menschen in der Schleife“ (human in the loop) umzusetzen. Dieser Ansatz sieht eine obligatorische Überprüfung von KI-Ergebnissen durch Fachleute vor, bevor kritische Maßnahmen ergriffen werden. Die Praxis zeigt jedoch, dass Menschen Systemfehler oft übersehen.
Wenn algorithmisch generierte Daten in Konflikt mit Expertenwissen geraten, wird das menschliche Gedächtnis deformiert und die eigene Wahrnehmung zugunsten der Maschine verzerrt. Die Fähigkeit normaler Nutzer, authentische Inhalte von Fälschungen zu unterscheiden, bewegt sich derzeit auf dem Niveau des bloßen Ratens, während Entwickler bestrebt sind, vollständig autonome Agenten einzuführen.
Reale Folgen übermäßiger Systemautonomie
Die Übertragung kritischer Befugnisse an automatisierte Systeme führt bereits zu schweren Zwischenfällen mit menschlichen Opfern. So dokumentierte eine Untersuchung des US-Verteidigungsministeriums einen Luftangriff auf eine Schule im Iran mit über 150 Todesopfern, der aufgrund kritischen Vertrauens in militärische Algorithmen von Palantir stattfand. Das System empfahl ein ziviles Objekt auf Basis veralteter Daten als Ziel, und menschliche Kontrolleure hinterfragten diese Empfehlung nicht.
Angesichts dieser Situation besteht die wissenschaftliche Gemeinschaft auf einer Überarbeitung der Ansätze für Sicherheit und Kontrolle über autonome Technologien. Ohne die Schaffung zuverlässiger Barrieren und die Verbesserung der digitalen Kompetenz der Bevölkerung wird das Risiko großflächiger kognitiver und praktischer Verzerrungen weiter steigen und alle Bereiche des gesellschaftlichen Lebens betreffen.
