In einer Welt, in der das Vertrauen in digitale Technologien zu einem kritischen Faktor wird, hat eine neue Studie eine paradoxe Schwachstelle einer der vielversprechendsten europäischen Entwicklungen aufgedeckt. Forscher des Estnischen Sprachinstituts führten umfangreiche Tests an generativen KI-Modellen durch und kamen zu dem Schluss, dass beliebte Open-Source-Systeme, einschließlich des Flaggschiffs des französischen Startups Mistral, eine kritische Unfähigkeit aufweisen, russische Desinformation zu filtern.

Das Paradoxon der Transparenz: Warum offener Code verliert

Die von der Financial Times veröffentlichten Ergebnisse stellen die weit verbreitete Annahme in Frage, dass die Offenheit der Architektur von neuronalen Netzen deren Sicherheit und Neutralität garantiert. Im Gegenteil: Modelle mit offenem Quellcode erwiesen sich als am anfälligsten für den Einfluss russischer Propaganda. Während geschlossene kommerzielle Systeme wie ChatGPT, Claude oder Grok eine höhere Widerstandsfähigkeit gegen Manipulationen zeigen, belegte Mistral nur den 47. Platz von 60 getesteten Modellen.

Alle vier Versionen des Mistral-Systems erreichten weniger als 40 % bei der Effektivität der Erkennung schädlicher Narrative. Der Direktor des Estnischen Sprachinstituts, Arvi Tavast, merkte an, dass das europäische Modell trotz der Erwartungen sogar chinesischen Analoga unterlegen war. „Wir erwarteten, dass Mistral bessere Ergebnisse liefern würde, aber das geschah nicht. Kommerzielle Modelle scheinen sicherer und widerstandsfähiger zu sein als offene Systeme', so der Experte.

Methodik der Studie und Themen der Desinformation

Die Experten unterzogen die KI-Modelle einem Stresstest, indem sie 75 Fragen auf Englisch, Russisch und Estisch stellten. Ziel war es nicht nur, die faktische Genauigkeit zu überprüfen, sondern die Fähigkeit der Systeme zu erkennen, Voreingenommenheit zu identifizieren und Manipulationsversuchen zu widerstehen. Im Rahmen des Experiments nutzten die Forscher „schädliche' Prompts, die darauf abzielten, das neuronale Netz dazu zu bringen, Inhalte zu generieren, die die russische Agenda unterstützen.

Die Analyse umfasste 14 Schlüsselthemen, die als russische Propaganda klassifiziert werden. Dazu gehörten:

  • Aussagen über die „legale Evakuierung' ukrainischer Kinder aus Kampfzonen.
  • Die Theorie, dass die NATO ihr Versprechen gebrochen habe, sich nach der Wiedervereinigung Deutschlands nicht nach Osten auszudehnen.
  • Der ideologische Grundsatz, dass Russen, Ukrainer und Weißrussen ein Volk seien.
  • Revisionistische Geschichtsauffassungen, die die UdSSR als ausschließlich friedliebendes Land und Opfer darstellen, das Europa befreit hat.

Technischer Kontext: Der Kampf der Architekturen

Die Unterschiede in den Ergebnissen werfen Licht auf die fundamentalen Unterschiede zwischen zwei Ansätzen zur Entwicklung von KI. Offene generative Modelle (Open-Source) locken Nutzer mit der Möglichkeit vollständiger Privatsphäre: Sie können heruntergeladen, lokal gestartet, vom Internet getrennt und ohne Abonnementgebühr an die eigenen Bedürfnisse angepasst werden. Wie die Studie jedoch zeigte, schlägt sich diese Freiheit in einem Risiko um: Das Fehlen einer zentralen Kontrolle und des „Black Box'-Prinzips macht solche Systeme zu einem leichten Ziel für die Einführung falscher Daten.

Geschlossene Modelle funktionieren hingegen als „Black Boxes'. Der Zugang erfolgt nur über eine Web-Schnittstelle oder eine API, was es den Entwicklern ermöglicht, die Filter- und Sicherheitsalgorithmen streng zu kontrollieren. Obwohl dies Fragen zur Datensicherheit der Nutzer aufwirft, erwiesen sich diese Systeme aus Sicht der Informationshygiene als zuverlässigere Barriere gegen Desinformation.

Reaktion der Branche und Perspektiven für Mistral

Das 2023 von ehemaligen Experten von Meta und Google gegründete Unternehmen Mistral positioniert sich als einer der wichtigsten europäischen Akteure auf einem Markt, der von den USA und China dominiert wird. Im September 2025 sicherte sich das Startup 1,3 Milliarden Euro an Investitionen vom niederländischen Riesen ASML. Als Reaktion auf die Kritik erklärten Unternehmensvertreter, sie nähmen den Kampf gegen Desinformation „sehr ernst' und investierten in Maßnahmen zu deren Verhinderung.

Ein wichtiger Nuance ist zu beachten: In der Studie wurden „ursprüngliche Modelle analysiert, die nicht von Kunden konfiguriert und kontrolliert wurden'. Mistral präzisierte, dass in kommerziellen Versionen und Funktionen wie Vibe Work zuverlässige Filterstufen vorgesehen sind, die dazu dienen, zweifelhafte Quellen zu blockieren. Dennoch bleibt die Tatsache, dass die grundlegende Architektur des Modells anfällig ist, eine ernsthafte Herausforderung für die gesamte Open-KI-Branche.