Seit dem 2. August gelten im gesamten Hoheitsgebiet der Europäischen Union neue Vorschriften, die das digitale Umfeld grundlegend verändern. Gemäß Artikel 50 des „AI Act“ (Gesetz über künstliche Intelligenz) wird eine obligatorische Transparenz eingeführt: Verleger von Inhalten müssen Materialien, die mit Hilfe künstlicher Intelligenz erstellt wurden, kennzeichnen und Nutzer darüber informieren, wenn sie mit Chatbots und nicht mit echten Menschen kommunizieren.

Kennzeichnung von Deepfakes und generierten Texten

Die neuen Rechtsvorschriften zielen darauf ab, die Informationsökosphäre vor Desinformation zu schützen. Ab jetzt muss jeder Inhalt, bei dem KI eine Rolle spielte, mit einem speziellen AI-Symbol gekennzeichnet sein. Dies gilt für sogenannte „realistisch wirkende“ Deepfakes – Bilder, Audio- und Videomaterial, das die Realität imitiert. Wenn ein Material (sei es Musik, Kunstwerke oder eine Nachrichtenzusammenfassung) vollständig von einer künstlichen Intelligenz erstellt wurde, muss es die Kennzeichnung „AI-Generated“ („Von KI erstellt“) tragen.

Die Regulierungsbehörden haben konkrete Beispiele genannt, die unter diese Regeln fallen: Deepfake-Videos mit Politikern, von KI generierte fiktive Ereignisse, Musikstücke und Texte. Darüber hinaus müssen Systeme, die in der Lage sind, Emotionen von Nutzern zu erkennen oder deren biometrische Daten zu verarbeiten, zwingend gekennzeichnet werden.

Kontrolle der Entwickler und Haftung

Die Europäische Kommission übernimmt eine besondere Aufsicht über Anbieter von allgemeinen KI-Modellen. Organisationen, die sich mit der Entwicklung solcher Systeme befassen, müssen ihre Aktivitäten dokumentieren, Zusammenfassungen der Trainingsdaten veröffentlichen und eine strenge Politik in Bezug auf Urheberrechte einführen. Die Einhaltung dieser Anforderungen wird von den nationalen Behörden der Mitgliedstaaten überwacht.

„Das Ziel ist einfach: Jedes Mal, wenn KI eine wichtige Rolle spielt, haben Sie das Recht, dies zu wissen“, so die Position der Europäischen Kommission. Die Initiative soll Nutzern helfen, fundierte Entscheidungen zu treffen und das Vertrauen in die erhaltenen Informationen besser einschätzen zu können.

Geldstrafen und Ausnahmen

Das Gesetz sieht strenge Sanktionen für Verstöße gegen die Transparenzregeln vor. Unternehmen können mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % ihres Jahresumsatzes belegt werden. Für Einrichtungen und Agenturen der EU beträgt die Strafe bis zu 750.000 Euro. Das Prinzip der Verhältnismäßigkeit wird jedoch eine Milderung der Strafen für kleine und mittlere Unternehmen ermöglichen.

Wichtig ist, dass das Gesetz nicht auf private Inhalte wie Nachrichten in Gruppenchats sowie auf „offensichtlich künstlerische“ satirische und fiktive Werke anwendbar ist.

Reaktion der Branche

Die Einführung dieser Regeln macht Europa zum einflussreichsten Regulierer für künstliche Intelligenz weltweit. Vertreter der Branche haben bereits Bedenken geäußert und die neuen Normen als übermäßige Belastung bezeichnet, die Innovationen verlangsamen könnte. Europäische Regulatoren sind jedoch überzeugt, dass ein einheitlicher Markt mit harmonisierten Regeln die Entwicklung für KI-Anbieter im Gegenteil vereinfacht, indem er Risiken für Gesundheit, Sicherheit und Grundrechte der Bürger beseitigt.