Am 14. Juli kündigte TikTok den Start eines umfassenden Programms zur Bekämpfung von Inhalten an, die mit künstlicher Intelligenz erstellt wurden. Die Plattform plant, die Kontrolle über algorithmischen Spam zu verschärfen, neue Kennzeichnungsinstrumente einzuführen und die digitale Kompetenz der Nutzer zu stärken. Diese Entscheidung ist eine Reaktion auf das explosionsartige Wachstum von Deepfakes und generierten Videos, die die Grenze zwischen Realität und Fiktion verwischen.

Schlag gegen Spam: 86 Millionen gelöschte Konten

Eine der Schlüsselstrategien der neuen Richtlinie ist der Kampf gegen Inhalte schlechter Qualität. Laut offiziellen Unternehmensdaten hat TikTok allein in den ersten drei Monaten des laufenden Jahres mehr als 86 Millionen gefälschte Konten gelöscht. In den kommenden Wochen plant die Plattform, neue Filter zu testen, die darauf abzielen, Konten zu identifizieren und einzuschränken, die sich auf die Massenverbreitung von KI-generierten Inhalten spezialisiert haben.

Besonderes Augenmerk wird auf sensible Themen gelegt, bei denen Desinformation den größten Schaden anrichten kann: Politik, Nachrichtenlage, Finanzberatung und Gesundheitsfragen. Tom Varghese, Leiter der Abteilung für globale KI-Politik bei TikTok, betonte, dass das Hauptziel darin besteht, den Nutzern zu helfen, generierte Inhalte zu erkennen und Technologien verantwortungsvoll zu nutzen.

Ausbildung der Nutzer und neue Transparenzstandards

Neben technischen Beschränkungen setzt TikTok auf Aufklärung. Die Plattform kündigte eine Zusammenarbeit mit der National Association for Media Literacy Education (NAMLE) und dem Deepfake-Experten Henry Aider an. Gemeinsam werden sie einen Leitfaden für die verantwortungsvolle Nutzung von KI entwickeln. Darüber hinaus wurde im App-Inneren ein spezielles Informationszentrum eingerichtet, das den Nutzern hilft, die Glaubwürdigkeit von Informationen zu bewerten und Anzeichen von KI-Inhalten zu erkennen.

In puncto Transparenz hat sich TikTok dem Exekutivrat der Coalition for Content Provenance and Authenticity (C2PA) angeschlossen. Diese Organisation entwickelt Standards zur Überprüfung der Herkunft digitaler Materialien. Seit zwei Jahren nutzt die Plattform die Technologie Content Credentials, um Videos zu kennzeichnen, die mit KI erstellt oder erheblich bearbeitet wurden. Bis heute sind weltweit mehr als 3 Milliarden Clips mit einer Kombination aus Authentifizierungstechnologien und versteckten Wasserzeichen gekennzeichnet.

Globaler Trend: Wie andere Plattformen auf KI reagieren

Die Initiativen von TikTok sind kein Einzelfall. Große Technologieunternehmen müssen sich der neuen Realität anpassen. Anfang Juli kündigte YouTube die Einführung auffälligerer Kennzeichnungen für mit KI erstellte Videos an. Die Plattform nutzt nun ein automatisiertes System: Wenn der Algorithmus den Einsatz von neuronalen Netzen feststellt, der Autor dies jedoch nicht angegeben hat, wird das Video automatisch gekennzeichnet. Bei langen Videos erscheint das Label unter dem Player, bei Shorts direkt im Video.

Auch das Unternehmen Meta hat die Regeln für Facebook und Instagram aktualisiert. Werbung, die mit KI-Tools erstellt oder bearbeitet wurde (einschließlich externer Dienste wie Photoshop oder DALL·E), wird nun automatisch mit entsprechenden Hinweisen versehen.

Gesetzliche Regulierung: Das Beispiel Vietnam

Technologische Maßnahmen werden durch legislative Initiativen ergänzt. In Vietnam wurde ein Gesetz über künstliche Intelligenz verabschiedet, das die Kennzeichnung von Audio-, Video- und Textmaterialien vorschreibt, die mit KI erstellt wurden, um das Aussehen oder die Stimme echter Menschen zu imitieren. Die Kennzeichnungen müssen leicht erkennbar sein, damit Nutzer generierte Inhalte von authentischen unterscheiden können. Dies schafft einen Präzedenzfall für eine mögliche Verschärfung der Regulierung in anderen Ländern.