Американский сенатор Берни Сандерс выступил с жестким предупреждением о том, что планы технологических миллиардеров по развитию искусственного интеллекта несут прямую угрозу будущему человечества. В своей недавней публицистической инициативе политик призвал временно приостановить разработку передовых систем ИИ и ввести полный законодательный запрет на создание искусственного сверхинтеллекта, который способен превзойти человеческие возможности. По его мнению, ключевые решения о судьбе цивилизации сегодня оказываются сосредоточены в руках узкого круга богатейших лидеров технологической индустрии, активно вкладывающих средства в автономные цифровые системы.
Взгляды технологических лидеров и сценарии трансгуманизма
Сенатор акцентировал внимание на неоднозначных заявлениях руководителей ведущих IT-гигантов, которые открыто рассуждают о возможном слиянии людей с машинами или полном вытеснении человеческого вида. В частности, руководитель OpenAI Сэм Альтман еще в 2017 году предполагал, что искусственный интеллект позволит человечеству стать создателем нового цифрового потомства, после чего люди могут отойти на второй план эволюции. Глава Anthropic Дарио Амодей допускал наличие сознания у современных моделей ИИ, а Илон Маск выступает за создание сверхразума для освоения космоса, что Сандерс расценивает как восприятие людей лишь в качестве промежуточного этапа.
Отдельное внимание в заявлении уделено соучредителю Palantir Питеру Тилю, который, по словам сенатора, не смог сразу дать однозначный ответ на вопрос о желательности дальнейшего существования человечества. Подобные концепции тесно связаны с трансгуманизмом — движением, сторонники которого стремятся выйти за рамки биологических ограничений путем интеграции организма с машинами, достижения бессмертия и создания принципиально новых форм жизни. Политик подчеркивает опасность того, что фантастические сценарии сегодня поддерживаются влиятельными предпринимателями, обладающими колоссальными ресурсами для их практической реализации.
Общественные опасения и законодательные инициативы
Позиция технологической элиты разительно отличается от мнения рядовых граждан, на что указывает сенатор, ссылаясь на социологические исследования. Согласно приведенным данным, 91% американцев выступают за необходимость внедрения жестких предохранителей в сфере ИИ, 74% не доверяют руководителям профильных компаний, а 73% испытывают серьезные опасения по поводу угрозы выживанию человечества. Дополнительные тревоги вызывает критика со стороны религиозных деятелей, включая предупреждения понтифика о рисках превращения человека в простой набор данных или товар.
В ответ на растущие риски Берни Сандерс совместно с конгрессменом Грегом Касаром активно продвигает новую законодательную инициативу. Главная цель этого пакета мер — установить строгий государственный контроль над передовыми разработками, предотвратить бесконтрольное появление автономных систем надинтеллекта и гарантировать безопасность всего человечества перед лицом стремительного технологического прогресса.
Значение инициативы и возможные последствия
Призыв сенатора Сандерса знаменует собой новый этап в глобальной дискуссии о регулировании сферы искусственного интеллекта и границы дозволенного для технологического сектора. Переход от академических споров к конкретным законодательным инициативам в Конгрессе США может существенно повлиять на инвестиционную стратегию крупнейших IT-компаний и замедлить гонку вооружений в области создания общего искусственного интеллекта (AGI). В долгосрочной перспективе это заставит индустрии искать компромисс между масштабными инновациями и жесткими этическими стандартами безопасности.
