In einer Ära der rasanten Entwicklung von neuronalen Netzen und generativer künstlicher Intelligenz wird das Problem der unbefugten Nutzung persönlicher Bilder immer drängender. Die Videoplattform TikTok hat mit dem Testen eines neuen Tools begonnen, das Autoren dabei helfen soll, Deepfakes zu finden, die unter Verwendung ihres Aussehens erstellt wurden. In der ersten Phase erhalten ausgewählte Content-Ersteller aus den USA Zugang zu dieser Funktion.
Wie das Verifizierungssystem funktioniert
Um Zugang zum Tool zu erhalten, müssen die Testteilnehmer einen Identitätsnachweis durchführen. Dies erfolgt über den Dienst Jumio, der vom Benutzer verlangt, ein Dokument und ein Selfie in Echtzeit zu überprüfen. Ein TikTok-Sprecher, Zachary Kizer, erklärte in einem Interview mit The Verge, dass der Dienst Jumio die Dokumente der Benutzer nicht speichert. Die Bilder werden ausschließlich zur Abgleichung des Aussehens und zur Erkennung möglicher Fälle unbefugter Nutzung verwendet.
Automatische Suche und Beschwerden
Nach erfolgreicher Überprüfung beginnt das System automatisch, Beiträge auf der Plattform auf das Vorhandensein von durch künstliche Intelligenz generierten Deepfakes zu analysieren. Die Autoren erhalten die Möglichkeit, die Scan-Ergebnisse einzusehen. Wenn das System Materialien findet, die gegen die Regeln verstoßen, können die Benutzer Beschwerden über die entsprechenden Videos oder Konten einreichen.
Branchenkontext
TikTok ist nicht der einzige Dienst, der sich an der Lösung dieses Problems beteiligt. Ein ähnliches Tool wurde zuvor von YouTube eingeführt, das den Zugang kürzlich für alle volljährigen Nutzer geöffnet hat. Die Einführung solcher Technologien zeigt, dass große Technologieunternehmen gezwungen sind, sich an neue Herausforderungen anzupassen, die durch generative KI entstehen, und Wege zur Schutz des digitalen Porträts ihrer Nutzer zu finden.
