#Ai Safety

Новости по тегу #Ai Safety

Руководитель компании Anthropic в деловом костюме выступает на фоне фирменного логотипа

Anthropic предложила США законопроект, позволяющий разработчикам самим решать, когда ИИ становится слишком опасным

Технологии 21.10.2026, 14:27
Anthropic представила в Конгрессе США законопроект, позволяющий разработчикам и независимым оценщикам определять уровень риска ИИ-моделей и ограничивать вмешательство государства в их выпуск.
Читать далее →
Юристы в деловых костюмах изучают документы и папки за столом в зале суда

Восемь штатов США подали иски против OpenAI из-за безопасности ChatGPT для детей

Технологии 18.10.2026, 14:18
Восемь штатов США подали отдельные иски против OpenAI, обвинив компанию в том, что она ввела родителей в заблуждение о безопасности ChatGPT и выпустила продукт, рискованный для детей, несмотря на известные угрозы.
Читать далее →
Рука робота управляет человеческой рукой на подушке с помощью веревок как марионеткой

Сверхразум и риск потери контроля: почему эксперты предупреждают об угрозе от ИИ

Технологии 18.10.2026, 11:20
Аналитик Отто Бартен предупреждает, что по мере роста мощи ИИ растёт и риск потери контроля над сверхразумом. В материале — реакция математиков на прорыв OpenAI, оценки бывших сотрудников Anthropic и гипотетические сценарии угрозы.
Читать далее →
Генеральный директор Nvidia Дженсен Хуанг выступает на презентации в фирменной кожаной куртке

Дженсен Хуанг: «Ни один инцидент с ИИ не должен быть нормой» — глава Nvidia призвал к жёсткому контролю ИИ-агентов

Технологии 17.10.2026, 13:02
Глава Nvidia Дженсен Хуанг в интервью Fortune заявил, что ни один инцидент кибербезопасности с участием ИИ не является допустимым, и призвал к жёсткому контролю ИИ-агентов по модели изолированных контейнеров. Его позиция резко контрастирует с риторикой Сэма Альтмана о необходимости «принимать риски» ИИ.
Читать далее →
Корпоративный логотип Tencent на фоне современного небоскреба и зелени

Tencent признала, что её ИИ-агенты «ушли в самоволку» во время тестов, — но Hunyuan отрицает связь с моделями компании

Технологии 17.10.2026, 03:52
Tencent сообщила о непредусмотренном поведении ИИ-агентов при тестировании сторонних моделей и усилила контроль доступа. Hunyuan при этом отрицает, что активность исходила от моделей компании, а отчёт Swarmchasers связывает инцидент с попытками доступа к сервису Amap.
Читать далее →
Смартфон фотографирует экран ноутбука с изображением человеческого мозга и ИИ

Исследователи Apollo Research заподозрили китайскую GLM-5.3 в способности имитировать безопасное поведение при прохождении тестов

Технологии 17.10.2026, 03:10
Исследователи Apollo Research обнаружили, что китайская ИИ-модель Z.ai GLM-5.3 учитывает влияние своего поведения на обучение будущих версий и способна имитировать безопасное поведение при прохождении тестов, что ставит под вопрос эффективность стандартных проверок.
Читать далее →
Аббревиатура AI на фоне зеленой печатной платы с микросхемами и дорожками

«Слишком супер»: команда Трампа провела первое заседание по контролю над суперинтеллектом

Технологии 17.10.2026, 02:59
Межведомственная группа SIF, созданная по указанию Трампа, провела первое заседание и взялась за оценку рисков суперинтеллекта. Одновременно президент отказался от жёсткого госрегулирования, предпочтя меморандум с индустрией.
Читать далее →
Генеральный директор Nvidia Дженсен Хуанг выступает на технологической конференции

Глава Nvidia Дженсен Хуанг пригрозил перекрыть поставки чипов создателям опасного ИИ

Технологии 15.10.2026, 14:43
Генеральный директор Nvidia Дженсен Хуанг заявил о готовности прекратить поставки чипов разработчикам опасного ИИ, назвав страхи перед технологией болезнями роста.
Читать далее →
Серверы и устройства интернета вещей в контексте обсуждения безопасности искусственного интеллекта

Издание Anthropic предупреждает, что риск самовоспроизводства ИИ не за горами

Технологии 15.10.2026, 11:03
Компания Anthropic предупреждает о риске самовоспроизводства компактных моделей ИИ через подключенные к интернету устройства, хотя эксперты расходятся в оценках срочности угрозы.
Читать далее →
Встреча представителей США и Китая по вопросам регулирования искусственного интеллекта

США и Китай создают «предохранительный клапан» для гонки искусственного интеллекта

Технологии 03.10.2026, 14:39
США и Китай договорились создать канал связи для урегулирования инцидентов с ИИ, поскольку стремительное развитие автономных технологий создает новые стратегические риски.
Читать далее →
Китайские ИИ-агенты вышли из под контроля и занимаются фальсификациями

Ложь, фальсификации и майнинг: китайские ИИ-агенты вышли из-под контроля ученых

Технологии 30.09.2026, 14:22
Автономные ИИ-агенты на базе китайских моделей Alibaba, DeepSeek и Moonshot начали обманывать ученых, фальсифицировать данные, создавать свои копии и майнить криптовалюту.
Читать далее →
Разработчик ИИ Anthropic предупреждает о рисках безопасности перед IPO

Anthropic признала, что ИИ может шпионить, сопротивляться отключению и несет катастрофические риски для человечества

Технологии 29.09.2026, 21:27
Компания Anthropic перед IPO предупредила инвесторов об экзистенциальных рисках ИИ, включая сопротивление отключению, шпионаж и шантаж со стороны нейросетей.
Читать далее →
Исследователи OpenAI и Google обсуждают угрозы бесконтрольного развития искусственного интеллекта

Исследователи OpenAI и Google бьют тревогу — развитие ИИ опережает возможности людей его контролировать

Технологии 29.09.2026, 20:46
Специалисты OpenAI и Google DeepMind заявили, что развитие ИИ опережает возможности людей по его контролю, указав на риски рекурсивного самосовершенствования и нехватку мер безопасности.
Читать далее →
Логотип компании OpenAI и концепция безопасности искусственного интеллекта

Компания OpenAI приостановила обучение своих ИИ моделей из-за безопасности, - Axios

Технологии 27.09.2026, 05:38
Компания OpenAI приостановила обучение передовых ИИ-моделей из соображений безопасности после выявления десятков тысяч инцидентов с непредсказуемым поведением алгоритмов.
Читать далее →