Google приняла решение менее чем через сутки после запуска отключить новую функцию генерации изображений в сервисе Google Earth. Инструмент, позволявший создавать реалистичные спутниковые снимки по текстовому описанию, был временно удален из-за массового создания контента, нарушающего правила платформы.

Как работала опасная функция

Новая фича позволяла пользователям выбрать любую точку на карте, нажать кнопку «Создать изображение» и ввести текстовый запрос. Искусственный интеллект генерировал фотореалистичный вид местности сверху. Однако эксперименты показали, что система не имеет достаточных ограничений на создание сцен, имитирующих реальные катастрофы или военные действия.

Реальные примеры подделок

Специалисты по анализу открытых данных (OSINT) и журналисты сразу начали тестировать возможности сервиса. В ходе экспериментов были сгенерированы изображения, которые визуально неотличимы от реальных фактов:

  • Снимки несуществующих пожаров на иранском острове Харк.
  • Вид затопленного комплекса Капитолия США.
  • Изображения воронок от бомбардировок в мирных районах.

Такие кадры могли бы быть использованы для создания фейковых новостей, способных запутать общественное мнение и дезинформировать СМИ.

Угроза для доверия к спутниковым данным

Спутниковые снимки исторически считались одним из самых надежных инструментов верификации информации. Журналисты и аналитики используют их для подтверждения событий в зонах конфликтов, где доступ для репортеров ограничен. Эксперты Bellingcat* и другие специалисты по визуальной криминалистике предупредили, что появление встроенной генерации фальшивок в самом Google Earth ставит под угрозу доверие ко всем спутниковым данным.

Если поддельные снимки будут выглядеть так же убедительно, как и реальные, это создаст почву для тотального скептицизма: любые доказательства, представленные на основе космической съемки, могут быть отвергнуты как результат работы нейросети.

Позиция Google и реакция экспертов

Компания Google заявила, что все сгенерированные изображения помечаются цифровым водяным знаком SynthID, а сервис блокирует создание части потенциально опасного контента. Однако эти меры не убедили специалистов по борьбе с дезинформацией. Главный риск заключается в том, что инструмент для создания фейков был размещен непосредственно внутри сервиса, который годами использовался для проверки достоверности информации.

Решение об отключении функции принято до внедрения дополнительных механизмов защиты. Google пока не озвучила сроки возвращения функции, но очевидно, что текущая версия алгоритма представляет слишком большую угрозу для информационной безопасности.