Кризис доверия или реальная угроза? Глава Anthropic Дарио Амодеи о том, как ИИ должен доказать свою ценность человечеству

В условиях нарастающего скептицизма общества по отношению к искусственному интеллекту, лидеры технологической индустрии вынуждены пересматривать свои стратегии коммуникации. Дарио Амодеи, генеральный директор компании Anthropic, одной из ведущих разработчиков передовых ИИ-моделей, в недавнем интервью озвучил свою позицию относительно причин негативного восприятия ИИ. По его мнению, проблема кроется не в самих технологиях, а в глубоком «кризисе доверия» между обществом и технологическим сектором.

Кризис доверия: почему люди боятся технологий

Амодеи подчеркивает, что его предостережения о рисках ИИ часто воспринимаются как пессимизм, однако он считает, что просто информирует общественность о потенциальных угрозах. «Я думаю, что обычные люди не доверяют компаниям, властям или технологической отрасли и всегда просто считают, что мы готовим какой-то новый способ их обмануть», — заявил он. Такое настороженное отношение, по словам Амодеи, формировалось десятилетиями и в случае с ИИ обретает своё очередное проявление.

Инвестор Гэвин Бейкер, критикующий руководство Anthropic за формирование чрезмерно пессимистичного восприятия ИИ, получил от Амодеи твердый ответ: проблема не в том, что ИИ опасен, а в том, что общество не доверяет тем, кто его разрабатывает. Это фундаментальный кризис доверия, который невозможно преодолеть только словами.

Обещания против реальности: почему ИИ должен лечить рак

Единственное, в чём Амодеи согласен с критиками отрасли — это невыполнение обещаний в сфере предоставления всеобщих благ. «Это действительно наша вина, и думаю, что именно на этом направлении критики нужно сосредоточиться вместо обсуждения текстов посланий и маркетинга», — отметил он. Например, обещания победить раковые заболевания с помощью ИИ, по мнению Амодеи, в большей степени являются клише, чем мотивирующим высказыванием. Изменить отношение людей к ИИ в этом случае можно, лишь действительно продемонстрировав его способность лечить рак.

Амодеи убеждён, что ИИ должен доказать свою ценность через реальные достижения, а не через маркетинговые слоганы. Только когда ИИ сможет показать свои возможности в решении глобальных проблем, таких как борьба с раком, общество начнёт воспринимать его как инструмент прогресса, а не угрозы.

Регулирование ИИ: баланс между безопасностью и инновациями

Не согласен Амодеи и со взглядами либерально настроенных экспертов на процесс регулирования выхода ИИ-моделей властями. «Многие люди за пределами этого пузыря считают, что регулирование ограничивает власть корпораций и приносит пользу простым людям», — возразил он. Свои предложения в сфере регулирования ИИ-отрасли Anthropic старается формулировать так, чтобы сдерживать экспансию крупных передовых компаний ради прогресса более мелких конкурентов.

Амодеи убеждён, что ИИ является технологией, которая приводит к концентрации власти. Распространение моделей с открытыми весами отчасти решает эту проблему, но не может считаться панацеей, поскольку концентрация власти смещается в сторону тех, кто имеет самые крупные вычислительные ресурсы. В отрасли должны, по его словам, появиться «правила дорожного движения», которые будут учитывать риски в области безопасности, ограничивать влияние крупных компаний, а также оставлять место на рынке для моделей с открытыми весами, одновременно принимая в расчёт сопутствующие риски.

Противоречивые данные

Существуют разногласия между Амодеи и некоторыми экспертами отрасли относительно того, насколько эффективно регулирование может решить проблему концентрации власти. Некоторые считают, что регулирование может замедлить инновации и ограничить доступ к передовым технологиям. Другие, включая Амодеи, убеждены, что без регулирования ИИ может стать инструментом в руках少数精英, что усилит социальное неравенство.

Также есть разногласия относительно того, насколько реально ИИ сможет решить глобальные проблемы, такие как борьба с раком. Некоторые эксперты считают, что это лишь маркетинговый ход, в то время как другие, включая Амодеи, убеждены, что ИИ имеет огромный потенциал в этой области.

Заключение: путь к доверию через реальные достижения

Дарио Амодеи подчёркивает, что ключ к изменению отношения общества к ИИ лежит в реальных достижениях, а не в маркетинговых обещаниях. Только когда ИИ сможет доказать свою способность решать глобальные проблемы, такие как борьба с раком, общество начнёт воспринимать его как инструмент прогресса, а не угрозы. В то же время, регулирование отрасли должно быть сбалансированным, чтобы обеспечить безопасность и инновации одновременно.