Искусственный интеллект всё активнее осваивает задачу распознавания человеческих эмоций по мимике, интонации голоса и физиологическим сигналам. Однако, по мнению исследователя Лейденского университета Александры Прежан, именно момент, когда такие системы станут практически безошибочными, может обернуться серьёзным риском для общества. Об этом сообщает РБК-Украина со ссылкой на свежее диссертационное исследование учёной, опубликованное на официальном сайте Лейденского университета. Прежан не ограничилась теоретическими рассуждениями: чтобы оценить последствия внедрения совершенных технологий распознавания эмоций (ERT — Emotion Recognition Technology), она смоделировала ряд сценариев грядущего, в которых алгоритмический «вердикт» о внутреннем состоянии человека начинает определять его профессиональную и социальную судьбу.
Сценарий хирурга: когда личный развод становится «профессиональным риском»
Один из наиболее наглядных примеров, предложенных Прежан, касается хирурга, который приходит в клинику перед сложнейшей операцией. Система ERT фиксирует его эмоциональную нестабильность, и руководство больницы отстраняет врача от работы. При этом причина тревоги алгоритма не имела никакого отношения к его профессиональным компетенциям: хирург переживал тяжёлый развод и волновался за ребёнка. Несмотря на то что врач сознательно оставил личные проблемы за пределами рабочего пространства, технология расценила его состояние как угрозу выполнению служебных обязанностей. В результате человек оказывается вынужден раскрывать и оправдывать перед работодателем тайны собственной жизни, ведь система уже вынесла свой вердикт, и его теперь нужно «опровергнуть» документально или эмоционально.
Разрушение границы между частной и профессиональной жизнью
За жизнь каждый человек исполняет множество социальных ролей: хирурга, отца или матери, партнёра, друга, соседа. Как правило, мы сами решаем, какие границы и какие пласты своего внутреннего мира открывать в той или иной ситуации. Потеря конфиденциальности в условиях безошибочного ERT означает, что скрыть внутренние переживания становится невозможно, и граница между частной и профессиональной жизнью окончательно разрушается. Человек лишается права на «эмоциональную паузу», на право не объяснять, почему он сегодня грустит или раздражён, — право, которое сегодня является негласной, но фундаментальной основой социального взаимодействия.
Изменение ритуалов общения и смещение ориентиров доверия
Прежан указывает на ещё один тревожный сдвиг: публичное выступление или прощение должностного лица после трагедии могут оцениваться обществом не по содержанию слов и поступкам, а по «неподдельности» выраженной печали по версии ИИ. При этом врачи, полицейские или политики часто вынуждены сдерживать эмоции ради самозащиты в рамках профессиональной этики, что не делает их профессиональную обязанность менее искренней. Вместо веры словам и поступкам людей общество может начать ориентироваться исключительно на то, что об их состоянии «сообщает» технология. Это смещение ориентиров, по мнению учёной, подрывает саму основу межличностного доверия, которое строилось на способности человека самому выбирать, что и когда показывать окружающим.
Текущее регулирование и долгосрочная перспектива
Сегодня Европейский акт об ИИ (EU AI Act) уже ограничивает использование технологий распознавания эмоций, однако преимущественно из-за их низкой точности на данном этапе. Исследование Прежан направлено на иную, долгосрочную перспективу: на момент, когда алгоритмы станут безошибочными. В этой ситуации обществу понадобятся более сильные нравственные и правовые аргументы для ограничения применения ERT, поскольку аргумент «технология ошибается» перестанет работать. Учёная подчёркивает, что защита эмоциональной конфиденциальности — это не только защита информации в узком смысле. Это сохранение социального пространства, в котором человек сам решает, как позиционировать себя и строить отношения с другими людьми.
Не только угроза: позитивный потенциал ERT
Важно отметить, что технологии распознавания эмоций не являются исключительно негативным явлением. Прежан признаёт, что ERT могут помочь в ранней диагностике неврологических расстройств, а также способствовать людям, которые испытывают трудности с распознаванием собственных эмоций — например, при некоторых формах аутизма или алекситимии. Таким образом, дискуссия, которую выдвигает диссертация, не сводится к лозунгу «запретить всё», а касается поиска баланса: где проходит граница между полезным диагностическим инструментом и тотальным эмоциональным надзором, который лишает человека права на внутреннюю приватность.
