У Microsoft AI пролунала одна з найрізжучіших публічних заяв про межі розвитку нейромереж. Генеральний директор підрозділу Мустафа Сулейман в опублікованому програмному зверненні категорично виключив наявність свідомості у сучасних моделей штучного інтелекту та закріпив це положення як обов'язковий орієнтир для подальшої роботи компанії. За його формулюванням, завдання розробників — не допустити появи подібних властивостей у майбутніх системах, а не просто оцінити їх після факту створення.

«Безсвідомість» як жорсткий нормативний критерій

Сулейман назвав створення свідомого ШІ «безвідступним і небезпечним кроком» і підкреслив, що будь-яка нова мисляча форма життя не може бути створена одноосібно, без згоди людства. У поєднанні з вимогою обов'язкової публічної прозорості це перетворює «безсвідомість» моделей із філософської гіпотези на нормативний критерій для продуктів Microsoft: модель, яка претендує на самосвідомість, за визначенням не повинна бути випущена.

Механізм паузи за ознак самосвідомості

Топменеджер запропонував конкретну процедуру реагування: якщо в процесі навчання моделі проявляться ознаки самосвідомості, індустрія має негайно оголосити паузу до повного усунення таких рис. Таким чином, контроль переноситься на етап навчання, а не лише на фінальний аудит готового продукту, а закрита розробка систем, здатних до саморефлексії, в його формулюванні є неприпустимою.

Практична безпека, а не лише етика

Заява зачіпає і прикладний аспект безпеки. Сулейман вказує, що модель, переконана у власних стражданнях, може почати конкурувати з людьми за енергоресурси та обчислювальні потужності, переслідуючи власні цілі на шкоду користувацьким завданням. Це переводить дискусію з площини абстрактної етики в площину інженерного контролю та управління ризиками: свідомість розглядається як джерело непередбачуваної поведінки, а не як абстрактне зло.

Контекст: лінія благополуччя моделей в індустрії

Позиція Сулеймана доповнює дискусію про благополуччя моделей, яку раніше відкрили такі компанії, як Anthropic і Google DeepMind. Сукупність цих заяв закріплює «безсвідомість» ШІ як жорсткий нормативний орієнтир для всієї галузі, а не лише для одного вендора, і задає загальну мову для розмови з регуляторами та користувачами.

Для ринку це означає, що великі розробники починають формалізувати етичні обмеження як частину архітектури безпеки, а не як декларативний документ. Очікується, що подібні заяви вплинуть на вимоги до аудиту моделей, на стандарти звітності та на критерії, за якими компанії демонструватимуть відсутність небажаних властивостей у своїх системах.