Das Unternehmen Anthropic, Entwickler der beliebten Künstlichen Intelligenz Claude, hat die Einführung eines obligatorischen Systems zur digitalen Kennzeichnung für alle generierten Inhalte angekündigt. Diese Entscheidung, die ursprünglich durch die Anforderungen der Europäischen Union im Rahmen des AI Act diktiert wurde, wird weltweit angewendet und betrifft Nutzer auf der ganzen Welt. Das Ziel der Initiative ist die Erhöhung der Transparenz und der Kampf gegen Desinformation, doch Experten warnen vor neuen Herausforderungen für die Privatsphäre und das Urheberrecht.
Doppelsystem zur Identifizierung
Zur zuverlässigen Identifizierung generierten Materials nutzt Anthropic zwei sich ergänzende Methoden. Die erste sind unsichtbare Wasserzeichen direkt im Text. Bei der Generierung von Antworten baut der Algorithmus einen für das menschliche Auge unsichtbaren digitalen Code in die Textstruktur ein. Das Unternehmen betont, dass dieser Prozess den Inhalt, die Qualität oder die Lesbarkeit des Textes nicht verändert, das Wasserzeichen jedoch auch beim Kopieren, Einfügen und teilweisen Bearbeiten des Materials erhalten bleibt.
Die zweite Methode betrifft visuelle Dateien. Bei der Erstellung von Bildern (in den Formaten .svg, .png oder .jpg) werden verschlüsselte Metadaten nach dem offenen Standard C2PA (Coalition for Content Provenance and Authenticity) hinzugefügt. Dies ermöglicht es zu bestätigen, dass die Datei vom Dienst Claude bearbeitet wurde, und nachträgliche Änderungen am Bild zu erkennen.
Widersprüchliche Daten
Um die Effektivität der neuen Technologie gibt es Uneinigkeit. Einerseits behaupten Vertreter von Anthropic, dass ihr System die Kennzeichnung praktisch unentfernbar mache, was durch Aussagen in Quellen bestätigt wird, die darauf hinweisen, dass das Entfernen des Zeichens „nahezu unmöglich“ sei. Andererseits enthält die technische Dokumentation des Unternehmens eine Einschränkung: Das Vorhandensein oder Fehlen einer digitalen Kennzeichnung ist kein absoluter Beweis für die Herkunft des Inhalts.
Zudem besteht das Risiko des Verlusts des Zeichens. Die Kennzeichnung kann bei aggressiver Bearbeitung, Formatkonvertierung oder spezifischen Datenmanipulationen verschwinden oder unleserlich werden. Dies schafft eine Situation, in der das Fehlen eines Wasserzeichens keine menschliche Urheberschaft garantiert und dessen Vorhandensein nicht immer eindeutig auf eine vollständige KI-Generierung hinweist, wenn der ursprüngliche Text nur leicht bearbeitet wurde.
Fragen der Urheberschaft und Ethik
Ein wichtiger Aspekt der neuen Richtlinie ist die Klärung des Urheberstatus. Das Vorhandensein eines Claude-Stempels beweist lediglich, dass der Text vom Modell verarbeitet wurde – beispielsweise beim Korrekturlesen, Übersetzen oder Zusammenfassen. Das bedeutet, dass die Ideen oder der ursprüngliche Text einem Menschen gehört haben könnten, das System jedoch trotzdem das KI-Label anbringt. Dies wirft ein ethisches Dilemma auf: Wie unterscheidet man vollständig generierten Text von Text, den die KI nur leicht verbessert hat?
Das Unternehmen entwickelt auch Erkennungstools, die es Nutzern und Drittanbieterdiensten ermöglichen, das Vorhandensein von Anthropic-Wasserzeichen in Texten oder Dateien zu überprüfen. Dies soll Plattformen und Medien helfen, Inhalte, die mit Hilfe von neuronalen Netzen erstellt wurden, schneller zu identifizieren.
Folgen für Entwickler
Für Entwickler, die ihre Produkte auf Basis der Claude-API erstellen, wird Anthropic zusätzliche technische Anweisungen veröffentlichen. Dies ist notwendig, um ihnen zu helfen, die Transparenzanforderungen des EU AI Act zu erfüllen. Die Einführung von Wasserzeichen wird zum obligatorischen Standard, was die Architektur von Anwendungen beeinflussen kann, die die Claude-API nutzen, und Entwickler dazu zwingen wird, ihre Datenverarbeitungsprotokolle zu überarbeiten.
