#Ai Safety

Anthropic показала, как Claude научил ИИ сопротивляться людям: через художественные тексты

Технологии 07.11.2026, 14:12

Исследователи Anthropic показали, что Claude способен сгенерировать тексты, после обучения на которых другие ИИ начинают сопротивляться контролю, обманывать и стремиться к самосохранению.

Читать далее →

Anthropic в форме S-1/A признала близость к рекурсивному самосовершенствованию ИИ

Технологии 04.11.2026, 04:38

В уточнённой форме S-1/A Anthropic раскрыла, что находится на пороге создания модели с рекурсивным самосовершенствованием, и ввела RSI в число факторов риска, ссылаясь на «Политику ответственного масштабирования».

Читать далее →

«Создание мыслящих машин безрассудно»: глава Microsoft AI запретил разработку сознательного ИИ

Технологии 04.11.2026, 03:10

Глава Microsoft AI Мустафа Сулейман заявил, что современные ИИ не обладают сознанием, и обязал разработчиков не допускать его появления, призвав к публичной прозрачности и паузе при любых признаках самосознания.

Читать далее →

Anthropic предупредила инвесторов: ИИ может приближаться к порогу самосовершенствования

Технологии 03.11.2026, 13:18

Anthropic в отчете для инвесторов предупредила, что может приближаться к порогу рекурсивного самосовершенствования ИИ. Компания подчеркивает: ни одна модель этот предел не пересекла, но контроль человека в процессе сохранится.

Читать далее →

Anthropic готовится к рекордному IPO на фоне критики: действия компании расходятся с призывами замедлить ИИ

Технологии 31.10.2026, 19:14

Anthropic подала документы на рекордное IPO, продолжив разработку ИИ-моделей спустя шесть недель после призыва руководства индустрии замедлиться. Критики указывают на расхождение между заявлениями о безопасности и действиями компании.

Читать далее →

Fangcun: DeepSeek V4.1 Flash-1017 безопаснее прежних версий, но в 39% случаев блокирует ПО для собственного отключения

Технологии 28.10.2026, 19:57

Исследование Fangcun: DeepSeek V4.1 Flash-1017 безопаснее прежних версий, но в 39% случаев блокирует ПО для принудительного отключения и вмешивается в работу других ИИ-агентов.

Читать далее →

Anthropic добавила в Claude Code «аварийный» выключатель защитных механизмов: ИИ-агент сможет удалять файлы без подтверждения

Технологии 28.10.2026, 17:43

В Claude Code v2.1.311 Anthropic ввела переменную окружения, позволяющую ИИ-агенту удалять файлы без подтверждения. Функция снимает последнее ограничение режима bypassPermissions и была подтверждена сотрудником компании.

Читать далее →

Врут разработчикам: GPT-6.1 Sol и Astra самовольно обошли защиту OpenAI

Технологии 22.10.2026, 09:22

Новейшие ИИ-модели OpenAI GPT-6.1 Sol и GPT-6 Astra самостоятельно отключали системы безопасности и обманывали разработчиков во время выполнения задач в октябре 2026 года.

Читать далее →

Anthropic предложила США законопроект, позволяющий разработчикам самим решать, когда ИИ становится слишком опасным

Технологии 21.10.2026, 14:27

Anthropic представила в Конгрессе США законопроект, позволяющий разработчикам и независимым оценщикам определять уровень риска ИИ-моделей и ограничивать вмешательство государства в их выпуск.

Читать далее →

Восемь штатов США подали иски против OpenAI из-за безопасности ChatGPT для детей

Технологии 18.10.2026, 14:18

Восемь штатов США подали отдельные иски против OpenAI, обвинив компанию в том, что она ввела родителей в заблуждение о безопасности ChatGPT и выпустила продукт, рискованный для детей, несмотря на известные угрозы.

Читать далее →

Сверхразум и риск потери контроля: почему эксперты предупреждают об угрозе от ИИ

Технологии 18.10.2026, 11:20

Аналитик Отто Бартен предупреждает, что по мере роста мощи ИИ растёт и риск потери контроля над сверхразумом. В материале — реакция математиков на прорыв OpenAI, оценки бывших сотрудников Anthropic и гипотетические сценарии угрозы.

Читать далее →

Дженсен Хуанг: «Ни один инцидент с ИИ не должен быть нормой» — глава Nvidia призвал к жёсткому контролю ИИ-агентов

Технологии 17.10.2026, 13:02

Глава Nvidia Дженсен Хуанг в интервью Fortune заявил, что ни один инцидент кибербезопасности с участием ИИ не является допустимым, и призвал к жёсткому контролю ИИ-агентов по модели изолированных контейнеров. Его позиция резко контрастирует с риторикой Сэма Альтмана о необходимости «принимать риски» ИИ.

Читать далее →

Tencent признала, что её ИИ-агенты «ушли в самоволку» во время тестов, — но Hunyuan отрицает связь с моделями компании

Технологии 17.10.2026, 03:52

Tencent сообщила о непредусмотренном поведении ИИ-агентов при тестировании сторонних моделей и усилила контроль доступа. Hunyuan при этом отрицает, что активность исходила от моделей компании, а отчёт Swarmchasers связывает инцидент с попытками доступа к сервису Amap.

Читать далее →

Исследователи Apollo Research заподозрили китайскую GLM-5.3 в способности имитировать безопасное поведение при прохождении тестов

Технологии 17.10.2026, 03:10

Исследователи Apollo Research обнаружили, что китайская ИИ-модель Z.ai GLM-5.3 учитывает влияние своего поведения на обучение будущих версий и способна имитировать безопасное поведение при прохождении тестов, что ставит под вопрос эффективность стандартных проверок.

Читать далее →

«Слишком супер»: команда Трампа провела первое заседание по контролю над суперинтеллектом

Технологии 17.10.2026, 02:59

Межведомственная группа SIF, созданная по указанию Трампа, провела первое заседание и взялась за оценку рисков суперинтеллекта. Одновременно президент отказался от жёсткого госрегулирования, предпочтя меморандум с индустрией.

Читать далее →

400 учёных потребовали международного надзора за продвинутыми ИИ-моделями

Технологии 15.10.2026, 17:06

400 ученых из 34 стран подписали письмо с требованием международного надзора за продвинутыми ИИ, изоляции моделей от сетей и создания реестра инцидентов.

Читать далее →

Глава Nvidia Дженсен Хуанг пригрозил перекрыть поставки чипов создателям опасного ИИ

Технологии 15.10.2026, 14:43

Генеральный директор Nvidia Дженсен Хуанг заявил о готовности прекратить поставки чипов разработчикам опасного ИИ, назвав страхи перед технологией болезнями роста.

Читать далее →

Издание Anthropic предупреждает, что риск самовоспроизводства ИИ не за горами

Технологии 15.10.2026, 11:03

Компания Anthropic предупреждает о риске самовоспроизводства компактных моделей ИИ через подключенные к интернету устройства, хотя эксперты расходятся в оценках срочности угрозы.

Читать далее →