Die Europäische Union hat einen entscheidenden Schritt bei der Regulierung künstlicher Intelligenz getan. Ab dem 2. August treten in der Region neue Regeln in Kraft, die Entwickler von KI-Systemen verpflichten, die Transparenz der Interaktion mit den Nutzern zu gewährleisten. Der Hauptfokus der Gesetzgebung liegt auf der Kennzeichnung von generierten Inhalten und der Identifizierung digitaler Assistenten.

Entsprechend den im Amtsblatt der EU veröffentlichten Dokumenten wird eine strenge Anforderung an Chatbots und Sprachassistenten eingeführt: Sie müssen so konzipiert sein, dass der Nutzer eindeutig erkennt, dass er mit einer Maschine und nicht mit einem lebenden Menschen interagiert.

Technische Anforderungen an die Kennzeichnung

Entwickler von Generativsystemen sind verpflichtet, spezielle technische Marker in die Ergebnisse ihrer Algorithmen zu integrieren. Dies betrifft Bilder, Audio, Video und Texte. Insbesondere muss jede Veröffentlichung von generierten Inhalten, die Bilder realer Personen enthalten, einen direkten Hinweis auf ihren künstlichen Ursprung tragen.

Besonderes Augenmerk wird auf Informationsmaterialien gelegt. Texte, die von KI zur Information über gesellschaftlich wichtige Ereignisse erstellt wurden, müssen gekennzeichnet werden, sofern sie nicht von einem Menschen überprüft wurden und keine konkrete Redaktion die Verantwortung dafür übernimmt. Dabei gelten die Anforderungen nicht für Systeme, die lediglich unterstützende Funktionen erfüllen, wie beispielsweise die Korrektur von Rechtschreibung oder Grammatik.

Wichtig ist zu beachten, dass fiktive Inhalte, wie zum Beispiel Bilder von Menschen, die in der Luft schweben, nicht unter die Definition von Deepfakes fallen.

Was wird der normale Nutzer sehen?

Trotz des Inkrafttretens der Regeln werden massenhafte visuelle Änderungen auf den Bildschirmen der Nutzer möglicherweise nicht sofort sichtbar sein. Gemäß Artikel 50, Absatz 2, hat die maschinenlesbare Kennzeichnung Vorrang. Entwickler implementieren Metadaten oder versteckte Wasserzeichen, die von speziellen Analysewerkzeugen und nicht vom menschlichen Auge gelesen werden.

Die Verwendung visueller Symbole der Europäischen Kommission (zur Kennzeichnung von vollständig generierten, teilweise veränderten oder mit KI-Einsatz erstellten Inhalten) bleibt im Rahmen des Verhaltenskodex freiwillig.

Übergangsfrist und Sanktionen

Für Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, ist eine Übergangsfrist vorgesehen. Die Entwickler haben zusätzliche vier Monate – bis zum 2. Dezember 2026 –, um die erforderlichen Kennzeichnungsmechanismen zu implementieren.

Das KI-Gesetz sieht strenge finanzielle Konsequenzen bei Verstößen gegen die Transparenzanforderungen vor. Bußgelder können bis zu 15 Millionen Euro betragen oder 3 % des weltweiten Jahresumsatzes des Unternehmens ausmachen.

Ab dem 2. Dezember 2026 tritt in der EU ein vollständiges Verbot für das Angebot von KI-Systemen in Kraft, die intime Bilder ohne Zustimmung der betroffenen Personen erstellen oder Materialien produzieren, die sexuelle Gewalt gegen Kinder darstellen. Für Verstöße gegen dieses Verbot sind maximale Sanktionen vorgesehen – bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes.

Strengere Vorschriften für Hochrisiko-Systeme (High-Risk AI) werden schrittweise später eingeführt: im Dezember 2027 und im August 2028.