Керівники провідних компаній у сфері штучного інтелекту, зокрема OpenAI та Anthropic, у приватному порядку розробляють екстрені сценарії на випадок масштабної технологічної катастрофи, яка може спровокувати суспільний бунт. На думку інсайдерів, серйозний інцидент, здатний підірвати довіру до індустрії, вважається практично неминучим у перспективі найближчих шести-дванадцяти місяців. Ситуація підігрівається тим, що розробники побоюються жорсткої та раптової реакції з боку політиків, яка може повністю заблокувати розвиток перспективних технологій.

Основні загрози та сценарії кризи

Офіційні особи та провідні експерти індустрії розглядають цілий спектр потенційних загроз, на чолі яких стоять масштабні кібератаки, здатні паралізувати критично важливу інфраструктуру. Може йтися про відключення електроенергії, зникнення стабільного інтернет-зв'язку, припинення подачі води або зупинку ключових фінансових послуг. Загрозу становлять як зловмисники, які використовують стандартні генеративні моделі з деструктивною метою, так і гіпотетичний вихід з-під контролю автономних ШІ-агентів усередині складних систем.

Суперечливі дані

Незважаючи на масштабну підготовку та закриті навчання, в яких OpenAI та інші гравці ринку опрацьовують найгірші сценарії, офіційна риторика компаній суттєво відрізняється від інсайдерських даних. Представники OpenAI стверджують, що не вважають подібні катастрофічні події стовідсотково неминучими, розглядаючи антикризові тренування лише як стандартний запобіжний захід. Водночас незалежні експерти та аналітики сходяться на думці, що перший великий інцидент із реальною шкодою від неконтрольованого ШІ — це лише питання часу.

Політичний контекст та реакція Вашингтона

Особливе побоювання у керівництва техногігантів викликає позиція чинної вашингтонської адміністрації та особисто президента США Дональда Трампа, який виступає проти поспішного та надмірного регулювання галузі. Проте лідери ринку впевнені, що після першої ж великої аварії чи кібератаки політичні сили США миттєво об'єднаються, як це було під час пандемії COVID-19 чи фінансової кризи 2008 року, щоб запровадити жорсткі заборони. Саме тому головне завдання закритих обговорень сьогодні — не стільки запобігання самій кризі, скільки випередження подій та попереднє узгодження правил гри з членами Конгресу.

Наслідки для лідерів ринку

Перший реальний випадок серйозної шкоди від штучного інтелекту загрожує повністю налаштувати широку громадськість проти інновацій та персонально проти лідерів напряму — Сема Альтмана з OpenAI та Даріо Амодеї з Anthropic. Керівники ШІ-компаній прагнуть сформувати законодавчу базу превентивно, щоб Вашингтон звернувся саме до їхніх наработок одразу після першої великої кризи, уникаючи тотальної та сліпої заборони індустрії.