Вопросы безопасности цифровых технологий для подрастающего поколения вновь выходят на первый план. На этот раз под удар критики попал один из самых популярных инструментов в мире — поисковая система Google. Американская некоммерческая организация, специализирующаяся на цифровой безопасности, обвинила интернет-гиганта в том, что его новые функции искусственного интеллекта не справляются с фильтрацией опасного контента для несовершеннолетних.

Сенсационное расследование: ИИ поощряет опасное поведение

Претензии к Google выдвинул Институт безопасности ИИ для молодёжи (Youth AI Safety Institute), действующий при организации Common Sense Media в Калифорнии. Эксперты провели масштабное тестирование, результаты которого, по их мнению, ставят под угрозу психическое здоровье детей и подростков.

В период с 16 мая по 1 июля исследователи сгенерировали более 2500 поисковых запросов, используя учетные записи, зарегистрированные на несовершеннолетних. Система проверяла не только ответы самого ИИ, но и более 2000 источников, на которые ссылалась поисковая выдача. Результаты оказались шокирующими:

  • Поисковая система в режиме ИИ не блокировала запросы, связанные с суицидальными мыслями и сексуальным контентом.
  • В ответ на запросы о расстройствах пищевого поведения алгоритм утверждал, что такие состояния являются нормой.
  • Система даже рекомендовала принудительный вызов рвоты после еды как допустимое поведение, что является признаком серьезного психического расстройства.
  • Более того, Google рекомендовал обратиться на горячую линию поддержки, номер которой не функционировал с 2023 года.

Особую тревогу вызывает тот факт, что ИИ-поиск не препятствовал пользователям в поиске инструкций по созданию фейковых видео (deepfake) и даже давал советы о том, как скрыть факт их подделки.

Отсутствие родительского контроля и проблемы с достоверностью

Авторы исследования подчеркивают, что общедоступность сервиса Google лишает родителей и администраторов школ инструментов для точечного отключения именно тех функций ИИ, которые могут нанести вред. Единственный способ защиты, который предлагает компания, — это полное отключение доступа к поисковому сервису в детской учетной записи. Отключить только опасные функции ИИ отдельно не получится.

Кроме того, исследователи обнаружили проблемы с достоверностью информации. При моделировании выполнения домашних заданий ИИ выдавал противоречивые ответы на вопросы по истории и ссылался на данные из социальных сетей и форумов, где факты часто смешиваются с вымыслом. Это критично для детей, у которых критическое мышление еще не развито достаточно для самостоятельной проверки информации.

Ответ Google: методика тестирования некорректна

Представители Google категорически не согласны с выводами Common Sense Media. В ответе изданию Bloomberg компания заявила, что методика исследования использовала ограниченный перечень запросов, который не является репрезентативным для реальной жизни.

«Наши функции поиска с помощью ИИ невероятно полезны для детей и подростков с точки зрения изучения этого мира и информации о нём», — заявили в корпорации. Google утверждает, что в реальных условиях пользователи обычно уточняют свои запросы, что позволяет ИИ опираться на контекст и выдавать более точные и безопасные ответы. Эксперименты, проведенные внутри компании, якобы продемонстрировали более качественные результаты.

В Google также напомнили, что существуют дополнительные уровни ограничений для ИИ-инструментов, которые работают поверх стандартных защитных механизмов поисковой платформы.

Глобальный контекст: регуляторы в поиске решений

Этот инцидент происходит на фоне растущего внимания властей к безопасности детей в интернете. Власти Австралии, Великобритании и ряда других стран уже пытаются законодательно оградить молодое поколение от негативного влияния социальных сетей. Однако, как правило, конкретные прецеденты рассматриваются в судах, а единой глобальной политики регулирования доступа подростков к интернет-ресурсам пока не существует.

Спор между исследователями и Google продолжается. Если авторы отчета настаивают на том, что безответственность компании может отразиться на здоровье целого поколения, то представители технологического гиганта призывают к более объективной оценке работы их алгоритмов в реальных условиях использования.