Генеральный директор Nvidia Дженсен Хуанг в интервью изданию Fortune, данном во время визита в Лондон в рамках европейского турне, выступил с резким заявлением о допустимых рисках, связанных с искусственным интеллектом. По его словам, все громкие инциденты в сфере кибербезопасности с участием ИИ-агентов можно было предотвратить, если бы над ними существовал более строгий контроль. «Я не готов принимать никакие инциденты в сфере кибербезопасности. Мы не должны мириться ни с одним из них. Мы должны делать всё, чтобы избежать их», — подчеркнул Хуанг. Его позиция звучит как прямой ответ на недавние высказывания главы OpenAI Сэма Альтмана, который в интервью Politico призвал общество смириться с непреднамеренным ущербом от действий ИИ-моделей, аргументируя это тем, что создаваемое ими благо «на несколько порядков» перевешивает возможный вред.
Аналогия с ранним интернетом: ИИ-агенты должны жить в «песочнице»
Обосновывая необходимость жёстких ограничений, Хуанг провёл прямую параллель с ранними этапами развития интернета. В те годы переход на неизвестный сайт мог привести к заражению компьютера вирусом. Проблема была решена за счёт открытия веб-страниц в изолированной среде браузера, которая не позволяла вредоносному коду воздействовать на остальную систему. По мнению главы Nvidia, ИИ-агенты должны работать по аналогичному принципу: оставаться в безопасном контейнере, где они не способны причинить вред, выходящий за рамки предоставленных им полномочий. Такой подход, по его убеждению, позволил бы исключить большинство инцидентов, которые уже фиксировались в инфраструктуре корпораций и государственных систем.
«Если вы верите в крах цивилизации — прекратите работать над этим»
Хуанг также высказался по поводу растущей волны тревожных прогнозов об «ИИ-апокалипсисе». Кидая камень в огород руководителя Anthropic, который активно транслирует подобные настроения в публичном поле, глава Nvidia заявил: «Я не знаю, почему кто-либо готов поддерживать развитие технологии, которая приведёт к краху цивилизации в том виде, в котором она нам известна. И если они в это верят, то должны прекратить работать над ней». В другом контексте, как сообщают отраслевые издания, Хуанг допускал, что ИИ-лаборатории, не способные контролировать собственные эксперименты, должны быть закрыты. Таким образом, его позиция сводится к тому, что ответственность за безопасность лежит на разработчиках, а не на обществе, которому предлагают «принимать риски».
Европейский контекст: $2 млрд инвестиций и ставка на open-source
Комментарии для Fortune прозвучали на фоне активного европейского турне Хуанга, в ходе которого он заявил, что «Европа должна включиться в гонку ИИ». На следующей неделе после интервью глава Nvidia объявит, куда будут направлены $2 млрд европейских инвестиций от лица компании. Эта сумма не учитывает $8 млрд, которые Nvidia уже пообещала вложить в экономику Старого Света. Хуанг считает, что модели с открытым исходным кодом являются разумным выбором для европейских стран, стремящихся догнать США в сфере ИИ. Компания уже поддерживает французский стартап Mistral, разрабатывающий модели с открытыми весами. По оценке Хуанга, такие модели обходятся дешевле в разработке, хотя их создатели всё равно вынуждены инвестировать в аппаратные ресурсы, в том числе в чипы Nvidia.
Расхождение позиций: Альтман против Хуанга
Позиция Хуанга формирует заметный контраст с риторикой Сэма Альтмана. В недавнем интервью Politico Альтман предупредил, что человечество столкнётся с волной проблем в кибербезопасности, вызванной распространением конкурирующих с разработками OpenAI моделей с открытым исходным кодом. При этом он призвал не бороться с этим процессом, а принять его как неизбежное следствие технологического прогресса. Хуанг же настаивает, что ни один инцидент не является «неизбежным» и что при правильной архитектуре контроля все они предотвратимы. Это расхождение в подходах — «принять риски» versus «исключить риски» — становится одним из центральных споров в отрасли ИИ на текущем этапе её развития.
