Zensur für KI: Das russische Justizministerium verlangt von KI-Entwicklern die Sperrung von Inhalten ausländischer Agenten

Während des XIV. St. Petersburger Internationalen Juristischen Forums (PMJF-2026) hat das Justizministerium der Russischen Föderation einen Vorschlag zur Einführung strenger Filtermechanismen für inländische künstliche Intelligenz-Systeme unterbreitet. Der stellvertretende Justizminister Oleg Swiridenko erklärte, dass große Technologieunternehmen verpflichtet sein müssen, Softwarefilter zu integrieren, die dem Schutz der Souveränität und der nationalen Sicherheit dienen.

Ein zentraler Aspekt des vorgeschlagenen Regulierungsrahmens ist die Bekämpfung der Verbreitung von Informationen durch Personen, die als ausländische Agenten eingestuft wurden. Das Ministerium ist besorgt darüber, dass moderne große Sprachmodelle (LLM) in der Lage sind, Thesen aus Materialien solcher Personen automatisch zu reproduzieren, zu kompilieren und zu skalieren. Daher schlägt das Justizministerium vor, die Betreiber von KI-Plattformen, einschließlich der Dienste YandexGPT und GigaChat, zu verpflichten, solche Daten vollständig aus den Trainingsdatensätzen und den Suchergebnissen für die Nutzer zu entfernen.

Verantwortung der Entwickler und internationale Erfahrungen

Vertreter des Ministeriums schlagen vor, gesetzlich festzulegen, dass die Entwicklerfirma oder der Betreiber der Software für den von einer neuronalen Netzwerkgenerierten Inhalt verantwortlich ist. Als Sanktionsmaßnahmen werden die Einführung von administrativer, strafrechtlicher und zivilrechtlicher Haftung erwogen. Das Justizministerium wies ausdrücklich darauf hin, dass Sanktionen analog zu den Maßnahmen gegen ausländische IT-Konzerne wegen Verstößen gegen Moderationsregeln angewendet werden können.

Als Beispiel für staatliche Kontrolle über generative Algorithmen wurde das regulatorische Modell der Volksrepublik China angeführt. In der VR China tragen Anbieter generativer KI die direkte Verantwortung dafür, dass die Antworten der Systeme den offiziellen regulatorischen Sicherheitsstandards entsprechen.

Technologische Herausforderungen und die Position der Branche

Vertreter des Technologiesektors und einschlägige Experten, insbesondere Analysten der Unternehmensgruppe ComNews, weisen darauf hin, dass die praktische Umsetzung der Anforderungen des Justizministeriums mit Schwierigkeiten verbunden ist. Das mechanische Ausschließen direkter Veröffentlichungen von Ressourcen ausländischer Agenten ist technisch umsetzbar. Die Identifizierung von Nacherzählungen, Zitaten, Interpretationen oder Erwähnungen derselben Konzepte in externen Quellen erfordert jedoch eine erhebliche Komplexität der Algorithmen für die Vormoderation.

Experten warnen davor, dass eine übermäßige Filterung sich negativ auf die allgemeine Variabilität und Relevanz der Antworten der Modelle auswirken könnte, insbesondere in den humanwissenschaftlichen Bereichen. Derzeit führen führende russische KI-Entwickler die Inhaltsmoderation im Rahmen des unterzeichneten Ethikkodex für künstliche Intelligenz durch. Die bestehenden Modelle enthalten bereits grundlegende Einschränkungen für die Generierung destruktiver Inhalte und Anweisungen zur Gesetzesumgehung.

Die Einführung der vom Justizministerium vorgeschlagenen Maßnahmen erfordert die Entwicklung detaillierter untergesetzlicher Vorschriften sowie eine Verifizierung durch das Ministerium für digitale Entwicklung und das Roskomnadzor. Die Hauptaufgabe der Regulierungsbehörden besteht darin, ein Gleichgewicht zwischen den Anforderungen der nationalen Sicherheit und der Aufrechterhaltung des Tempos der technologischen Entwicklung inländischer IT-Produkte zu finden.