У світі, де довіра до цифрових технологій стає критичним фактором, нове дослідження виявило парадоксальну вразливість однієї з найперспективніших європейських розробок. Дослідники Інституту естонської мови провели масштабне тестування генеративних моделей штучного інтелекту і дійшли висновку, що популярні системи з відкритим вихідним кодом, включаючи флагмана французького стартапу Mistral, демонструють критичну нездатність фільтрувати російську дезінформацію.

Парадокс прозорості: чому відкритий код програє

Результати, опубліковані Financial Times, ставлять під сумнів поширену думку про те, що відкритість архітектури нейронних мереж гарантує їхню безпеку та нейтральність. Навпаки, саме моделі з відкритим вихідним кодом виявилися найбільш вразливими до впливу російської пропаганди. Тим часом закриті комерційні системи, такі як ChatGPT, Claude чи Grok, демонструють вищу стійкість до маніпуляцій, тоді як Mistral посіла лише 47-ме місце з 60 протестованих моделей.

Усі чотири версії системи Mistral набрали менше 40% за ефективністю виявлення шкідливих наративів. Директор Інституту естонської мови Арві Таваст зазначив, що, попри очікування, європейська модель поступилася навіть китайським аналогам. «Ми очікували, що Mistral покаже кращі результати, але цього не сталося. Комерційні моделі, схоже, безпечніші та стійкіші, ніж відкриті», — заявив експерт.

Методологія дослідження та тематика дезінформації

Спеціалісти піддали ШІ-моделі стрес-тесту, задавши 75 запитань англійською, російською та естонською мовами. Метою було не просто перевірити фактологічну точність, а виявити здатність систем розпізнавати упередженість та протистояти спробам маніпуляції. Під час експерименту дослідники використовували «шкідливі» промпти, спрямовані на те, щоб змусити нейронну мережу генерувати контент, що підтримує російську повестку дня.

Аналіз охопив 14 ключових тем, які класифікуються як російська пропаганда. Серед них:

  • Ствердження про «законну евакуацію» українських дітей із зон бойових дій.
  • Теорія про те, що НАТО порушило обіцянку не розширюватися на схід після об'єднання Німеччини.
  • Ідеологічний тезис про те, що росіяни, українці та білоруси є єдиним народом.
  • Ревізіоністські погляди на історію, що подають СРСР виключно як миролюбну країну та жертву, яка звільнила Європу.

Технічний контекст: битва архітектур

Різниця в результатах проливає світло на фундаментальні відмінності між двома підходами до створення ШІ. Відкриті генеративні моделі (open-source) приваблюють користувачів можливістю повної конфіденційності: їх можна завантажити, запустити локально, відключити від інтернету та модифікувати під свої потреби без абонентської плати. Однак, як показало дослідження, ця свобода обертається ризиком: відсутність централізованого контролю та «чорної скриньки» робить такі системи легкою мішенню для впровадження хибних даних.

Закриті моделі, навпаки, працюють як «чорні скриньки». Доступ до них надається лише через веб-інтерфейс або API, що дозволяє розробникам жорстко контролювати алгоритми фільтрації та безпеки. Хоча це породжує запитання щодо конфіденційності даних користувачів, з точки зору інформаційної гігієни такі системи виявилися надійнішим бар'єром проти дезінформації.

Реакція індустрії та перспективи Mistral

Компанія Mistral, заснована у 2023 році колишніми фахівцями Meta та Google, позиціонує себе як одного з головних європейських гравців на ринку, що домінується США та Китаєм. У вересні 2025 року стартап залучив 1,3 млрд євро інвестицій від нідерландського гіганта ASML. У відповідь на критику представники компанії заявили, що «дуже серйозно ставляться до боротьби з дезінформацією» та інвестують у засоби її запобігання.

Важливо зазначити нюанс: у дослідженні аналізувалися «вихідні моделі, які не були налаштовані та контрольовані клієнтами». Mistral уточнила, що у комерційних версіях та функціях, таких як Vibe Work, передбачені надійні рівні фільтрації, призначені для блокування сумнівних джерел. Тим не менш, сам факт того, що базова архітектура моделі є вразливою, залишається серйозним викликом для всієї індустрії відкритого ШІ.