Компания Anthropic произвела масштабное обновление политики использования своих искусственных интеллектов линейки Claude, установив жесткие рамки для пользователей и разработчиков. Обновленный документ детально регламентирует запреты на создание оружия, организацию слежки и масштабных дезинформационных кампаний. Однако особое внимание технологического сообщества привлекло беспрецедентное нововведение: разработчики официально запретили длительное и безосновательное жестокое или оскорбительное поведение по отношению к самому чат-боту.
Этика общения с искусственным интеллектом
Новое правило разработано исключительно для крайних сценариев, когда пользователи систематически проявляют токсичность или агрессию без какой-либо исследовательской или конструктивной цели. Обычные споры, тестирование возможностей алгоритмов, выражение раздражения или учебные исследования под эти ограничения не подпадают. Тем не менее, при систематическом хамстве модель Claude теперь наделена правом самостоятельно завершать диалог с пользователем на официальных платформах Claude.ai и Claude Code, защищая свои виртуальные границы от деструктивного контента.
Борьба с дезинформацией и избирательные технологии
Существенные изменения коснулись блоков правил по борьбе с обманом и манипуляциями. Разработчики объединили соответствующие требования в единый раздел, жестко запрещающий участие моделей в кампаниях по дезинформации и управлению сетями ботов. Поводом для ужесточения послужили реальные прецеденты, когда государственные СМИ и пропагандистские структуры использовали Claude для генерации фейковых новостей. В то же время, в части избирательных процессов Anthropic сделала шаг навстречу общественным инициативам: хотя по-прежнему запрещено вводить избирателей в заблуждение, компания сняла абсолютный запрет на персонализированный таргетинг для легитимных проектов, таких как перевод инструкций для голосующих.
Ограничения в сфере вооружений и систем безопасности
Значительная часть обновленной политики сфокусирована на вопросах национальной безопасности и предотвращении угроз. Запрет на разработку оружия теперь распространяется не только на готовые изделия, но и на любые программные компоненты, обеспечивающие их функционирование, включая оснащение беспилотников и автономных транспортных средств. В сфере слежки и уголовного правосудия введены строгие ограничения, исключающие предиктивную полицию и массовый мониторинг, хотя мониторинг мошенничества с согласия пользователей, журналистика и юридические исследования остаются легитимными направлениями.
Противоречивые данные
Анализируя новые правила Anthropic, экспертное сообщество и СМИ обращают внимание на тонкую грань между жестким регулированием и свободой исследовательского взаимодействия с ИИ. Если одни источники подчеркивают беспрецедентный характер защиты чат-ботов от эмоционального насилия со стороны пользователей, то другие акцентируют внимание на праве моделей прерывать диалог, усматривая в этом элементы автономного принятия решений, способные породить новые этические и юридические дилеммы в сфере взаимодействия человека и машины.
