Das Unternehmen Anthropic, Entwickler einer der führenden Sprachmodelle Claude, hat offiziell die Details zur Einführung eines Systems für unsichtbare Textmarkierungen offengelegt. Diese Technologie soll Benutzern und Regulierungsbehörden helfen, von Künstlicher Intelligenz generierte Inhalte von von Menschen verfassten Texten zu unterscheiden. Die Entscheidung ist eine Reaktion auf die verschärften Anforderungen der Europäischen Union im Bereich der KI-Regulierung sowie auf die globale Nachfrage nach Transparenz digitaler Inhalte.

Die SynthID-Technologie: Ein verstecktes mathematisches Muster

Der Kern des neuen Systems ist der Algorithmus SynthID-Text, der ursprünglich vom Team von Google DeepMind entwickelt wurde. Der Mechanismus des Wasserzeichens erfordert keine zusätzlichen Symbole, versteckte Token oder eine Änderung des visuellen Erscheinungsbildes des Textes. Stattdessen verwendet das Modell Claude einen speziellen Schlüssel für die Generierung von Zufallszahlen, um zwischen synonymen Wortvarianten zu wählen. Beispielsweise kann das Modell bei der Beschreibung des Wetters das Wort „bewölkt' oder „düster' wählen, nicht nur basierend auf dem Kontext, sondern auch gemäß einem mathematischen Muster, das eine eindeutige Signatur bildet.

Datensicherheit und Datenschutz

Die Entwickler von Anthropic betonen, dass die eingeführte Technologie die Generierungsgeschwindigkeit der Antworten nicht beeinträchtigt und die Nutzungskosten des Dienstes nicht erhöht. Ein wichtiger Aspekt ist der Datenschutz: Das versteckte Muster enthält keine persönlichen Daten der Benutzer, Informationen über Organisationen oder die Historie konkreter Dialoge. Dies ermöglicht die Kennzeichnung von Inhalten, ohne die Privatsphäre der Benutzer zu verletzen oder Schwachstellen für Datenlecks zu schaffen.

Einschränkungen und Anwendungsgrenzen

Die Wirksamkeit des Wasserzeichens hängt von der Art des Textes ab. In Situationen, die eine hohe Präzision erfordern, wie bei faktischen Daten oder Programmcode, wird der Algorithmus fast nicht angewendet, da das Modell keine Freiheit bei der Auswahl von Synonymen hat. Eine Ausnahme können willkürliche Variablennamen oder Kommentare im Code sein. Darüber hinaus entfernt eine geringfügige Bearbeitung des Textes durch einen Menschen das Wasserzeichen nicht vollständig, jedoch zerstört eine vollständige Neuformulierung mit Austausch jedes Wortes die Markierung.

Verifizierungswerkzeuge und C2PA-Standards

Zur Überprüfung des Vorhandenseins eines Wasserzeichens plant das Unternehmen die Einführung einer speziellen API. Dieses Werkzeug wird die Wahrscheinlichkeit bestimmen, dass Claude an der Erstellung des Textes beteiligt war, kann jedoch keinen bestimmten Autor identifizieren oder bestätigen, dass der Text vollständig von einem Menschen verfasst wurde. Für Multimedia-Inhalte, einschließlich Bildern in den Formaten .png, .jpg und .svg, werden kryptografische Metadaten des C2PA-Standards verwendet, was die Integrität der Dateien ohne Änderung ihres Inhalts gewährleistet.