Корпорация Meta объявила о внедрении критически важного нововведения, призванного повысить уровень безопасности несовершеннолетних пользователей, взаимодействующих с их собственным чат-ботом Meta AI. Новая система призвана стать дополнительным барьером в борьбе с рисками для психического здоровья подростков в цифровой среде.
Механизм экстренного оповещения
Суть нововведения заключается в автоматическом мониторинге диалогов. Если несовершеннолетний пользователь в ходе беседы с искусственным интеллектом затронет темы причинения себе вреда или суицида, система немедленно инициирует уведомление для родителей. По словам представителей компании, для обеспечения максимальной точности и минимизации ложных срабатываний была разработана специальная модель искусственного интеллекта. Этот алгоритм специализируется на глубоком анализе контекста диалогов и выявлении специфических опасных ключевых слов.
При обнаружении признаков опасности уведомление поступает непосредственно на панель родительского контроля, позволяя взрослым оперативно отреагировать на ситуацию.
География внедрения и доступность
В настоящий момент функция доступна для пользователей сервиса Instagram Parental Supervision в нескольких ключевых регионах: США, Великобритании, Австралии и Канаде. Компания планирует масштабировать решение глобально. К концу года ожидается поэтапное внедрение системы по всему миру, включая Узбекистан. Это позволит родителям в этих странах получить дополнительные инструменты для обеспечения безопасности цифрового общения своих детей.
Ограничения контента для подростков
Помимо системы оповещения, Meta ужесточила правила работы своего ИИ с несовершеннолетними. Возможности Meta AI для этой возрастной категории функционируют в ограниченном режиме. Система запрограммирована отказываться от ведения диалогов на темы, которые могут быть опасны или нежелательны для подростков.
