Das Zentrum zur Bekämpfung von Desinformation (ZPD) hat eine neue Welle der massenhaften Verbreitung von gefälschten Materialien in sozialen Netzwerken registriert. Unter dem Deckmantel echter tragischer Ereignisse im Zusammenhang mit russischen Beschussaktionen veröffentlichen Bots und unseriöse Autoren Bilder, die von künstlicher Intelligenz generiert wurden.

Laut Daten des ZPD, die von RBK-Ukraine veröffentlicht wurden, dient das Ziel solcher Veröffentlichungen nicht der Information, sondern der Ausbeutung der Emotionen der Ukrainer, um Reichweiten zu manipulieren, Follower zu gewinnen und personenbezogene Daten zu sammeln.

Mechanismus der Manipulation: von „schockierendem“ Inhalt bis zum Datendiebstahl

Das Schema der Desinformationskanäle ist bis ins kleinste Detail ausgereift. Der Aktionsalgorithmus der Täter sieht wie folgt aus:

  1. Inhaltsgenerierung: Mit Hilfe von neuronalen Netzen werden auf den ersten Blick realistische Bilder erstellt. Darauf sollen angeblich getötete oder verletzte Ukrainer infolge von Angriffen auf zivile Objekte dargestellt sein.
  2. Emotionaler Auslöser: Zu den Fotos werden aggressive Bildunterschriften hinzugefügt, die Wut, Angst oder Trauer hervorrufen. Der Text fordert die Nutzer auf, sofort auf die „schreckliche Nachricht“ zu reagieren.
  3. Aufforderung zum Handeln (CTA): In der Beschreibung befindet sich die Aufforderung, auf einen externen Link zu klicken, um die „vollständige Liste der Opfer“, „Beweise“ oder „Details des Ereignisses“ zu sehen.

Experten des ZPD weisen darauf hin, dass das Klicken auf solche Links erhebliche Risiken birgt:

  • Manipulation der Reichweite: Emotionale Bilder provozieren Nutzer dazu, Reaktionen zu setzen und zu kommentieren, was die Viralität des Kanals künstlich aufbläht.
  • Datenerhebung: Verdächtige Links können auf Phishing-Websites führen, wo Anmeldeinformationen gestohlen oder vertrauliche Informationen gesammelt werden.
  • Verkehrsumleitung: Nutzer werden auf fragwürdige Telegram-Kanäle oder Ressourcen weitergeleitet, um sie anschließend für Propaganda zu nutzen.

Wie man ein generiertes Bild erkennt

Obwohl moderne neuronale Netze immer besser werden, hinterlassen sie dennoch charakteristische Spuren. Die Spezialisten des ZPD haben eine Checkliste mit Merkmalen erstellt, anhand derer sich ein KI-Fake von einem echten Foto unterscheiden lässt:

  • Anatomische Fehler: Das häufigste Problem generativer Modelle sind Hände. Achten Sie auf die Anzahl der Finger, ihre Länge und ihre Krümmung. Oft verschmelzen die Finger oder haben eine unrealistische Struktur.
  • „Wachsartiges“ Gesicht: Die Haut auf dem Foto kann zu glatt und ohne Textur wirken. Mögliche Asymmetrie der Gesichtszüge, ein seltsamer Glanz in den Augen oder verzerrte Pupillen sind ebenfalls Anzeichen.
  • Unschärfer Hintergrund: Objekte im Hintergrund verlieren oft ihre Geometrie, verschmelzen zu einem Brei oder haben unmögliche Formen.
  • Text und Symbole: Neuronale Netze kommen schlecht mit Buchstaben zurecht. Wenn auf Kleidung, Schildern oder Geräten Text vorhanden ist, ist er oft verschwommen, verzerrt oder mit nicht existierenden Symbolen geschrieben.
  • Fehlender Kontext: In der Beschreibung fehlt die Konkretisierung: Es wird kein genauer Ort, keine Zeit des Ereignisses angegeben und es gibt keinen Verweis auf die Primärquelle (z. B. das Pressezentrum der Streitkräfte der Ukraine oder lokale Behörden).

Empfehlungen zur digitalen Hygiene

Unter den Bedingungen des Informationskriegs wird kritisches Denken zum wichtigsten Schutzinstrument. Das ZPD ruft die Bürger auf, die grundlegenden Sicherheitsregeln einzuhalten:

  1. Klicken Sie nicht auf verdächtige Links, insbesondere wenn sie an emotional aufgeladene Nachrichten angehängt sind.
  2. Abonnieren Sie keine Kanäle, die ohne Faktenprüfung über Tragödien spekulieren.
  3. Überprüfen Sie die Informationen in offiziellen Quellen, bevor Sie dem Material „Gefällt mir'-Likes geben oder es weiterverbreiten.

Die Verbreitung von Fakes destabilisiert den emotionalen Zustand der Gesellschaft und lenkt die Aufmerksamkeit von echten Problemen ab. Aufgeklärtheit ist der beste Schutz gegen Manipulationen.