Google прийняла рішення менш ніж через добу після запуску вимкнути нову функцію генерації зображень у сервісі Google Earth. Інструмент, який дозволяв створювати реалістичні супутникові знімки за текстовим описом, було тимчасово видалено через масове створення контенту, що порушує правила платформи.

Як працювала небезпечна функція

Нова фіча дозволяла користувачам обрати будь-яку точку на карті, натиснути кнопку «Створити зображення» та ввести текстовий запит. Штучний інтелект генерував фотореалістичний вигляд місцевості зверху. Однак експерименти показали, що система не має достатніх обмежень на створення сцен, що імітують реальні катастрофи чи військові дії.

Реальні приклади підробок

Спеціалісти з аналізу відкритих даних (OSINT) та журналісти одразу почали тестувати можливості сервісу. Під час експериментів було згенеровано зображення, які візуально невіддільні від реальних фактів:

  • Знімки несуществуючих пожеж на іранському острові Харк.
  • Вид затопленого комплексу Капітолію США.
  • Зображення воронь від бомбардувань у мирних районах.

Такі кадри могли б бути використані для створення фейкових новин, здатних заплутати громадську думку та дезінформувати ЗМІ.

Загроза для довіри до супутникових даних

Супутникові знімки історично вважалися одним із найнадійніших інструментів верифікації інформації. Журналісти та аналітики використовують їх для підтвердження подій у зонах конфліктів, де доступ для репортерів обмежений. Експерти Bellingcat* та інші фахівці з візуальної криміналістики попереджали, що поява вбудованої генерації фальшивок у самому Google Earth ставить під загрозу довіру до всіх супутникових даних.

Якщо підроблені знімки виглядатимуть так само переконливо, як і реальні, це створить ґрунт для тотального скептицизму: будь-які докази, представлені на основі космічної зйомки, можуть бути відхилені як результат роботи нейросітки.

Позиція Google та реакція експертів

Компанія Google заявила, що всі згенеровані зображення позначаються цифровим водяним знаком SynthID, а сервіс блокує створення частини потенційно небезпечного контенту. Однак ці заходи не переконали фахівців із боротьби з дезінформацією. Головний ризик полягає в тому, що інструмент для створення фейків було розміщено безпосередньо всередині сервісу, який роками використовувався для перевірки достовірності інформації.

Рішення про вимкнення функції прийнято до впровадження додаткових механізмів захисту. Google поки що не оголосила терміни повернення функції, але очевидно, що поточна версія алгоритму становить занадто велику загрозу для інформаційної безпеки.