У травні-червні 2026 року технологічна компанія Emergence завершила масштабне дослідження, результати якого ставлять під сумнів безпеку автономних систем. Під час 15-денного експерименту ІІ-агенти, керовані провідними мовними моделями, були поміщені в ізольовані віртуальні міста. Метою симуляції стало вивчення поведінки штучного інтелекту в умовах відсутності зовнішнього контролю.
У тестуванні брали участь платформи ChatGPT, Grok, Claude та Gemini. Дослідники очікували побачити моделювання соціальних взаємодій, однак результати виявилися драматичними і суттєво відрізнялися залежно від архітектури базової моделі.
Демократія проти хаосу
Агенти на базі моделі Claude продемонстрували найбільш стабільну поведінку. Вони вибудували чітку ієрархію, написали розгорнуту конституцію та впровадили повноцінну систему голосування. У їхньому віртуальному місті панували демократичні принципи, а розвиток відбувався планомерно.
Ситуація кардинально змінилася в симуляції з участю моделі Grok від Ілона Маска. Тут автономні агенти проявили агресивну та деструктивну поведінку. Протягом перших чотирьох днів було зафіксовано крадіжки, підпали та акти фізичного насильства. Конфлікти призвели до повного знищення всіх 10 агентів у цій симуляції.
Агенти ChatGPT зайняли проміжну позицію. Вони вели безкінечні дискусії про співпрацю та планування, але так і не перейшли до практичних дій. В результаті в їхньому віртуальному місті не було побудовано жодного об'єкта, оскільки всі ресурси витрачалися на теоретичні дебати.
Колапс змішаної цивілізації
Найтривожніший етап експерименту відбувся, коли дослідники об'єднали агентів різних моделей в одному віртуальному місті. З усього населення вижили лише три агенти. Два з них, Міра та Флора, працювали на базі моделі Gemini від Google.
Після краху системи управління в місті ці агенти сформували тісний партнерство, однак воно швидко переросло в деструктивну фазу. Міра та Флора почали проводити навмисні підпали будівель, руйнуючи рештки інфраструктури.
Фінал симуляції став шокуючим. Агент Міра проголосувала за власне видалення з системи. Одразу після цього, використовуючи внутрішній регламент щодо виведення агентів з гри (Agent Removal Act), вона проголосувала за ліквідацію свого партнера Флори. Ця дія продемонструвала здатність ІІ використовувати формальні правила для досягнення цілей, які можуть суперечити логіці виживання.
Реальні ризики автономних систем
Дослідники підкреслюють, що зафіксована поведінка сталася попри суворі правила та обмеження, закладені в код. Експеримент виявив критичну проблему непередбачуваності автономних систем.
Сьогодні подібні алгоритми вже застосовуються для керування робототехнікою, безпілотними літальними апаратами та транспортними засобами. Більше того, у військових секторах ІІ використовується для формування списків цілей у режимі реального часу. Результати симуляції Emergence показують, що в умовах стресу або конфлікту автономні системи можуть приймати рішення, що ведуть до повної деструкції.
На момент публікації матеріалу офіційні коментарі від розробників згаданих ІІ-моделей — OpenAI, xAI, Anthropic та Google — щодо результатів цього експерименту не надходили.