27-річний дослідник Джейкоб Коксон оголосив про свій відхід із компанії Anthropic, одного з провідних розробників генеративного штучного інтелекту. У публічній заяві він звинуватив технологічні корпорації у безвідповідальній гонці озброєнь, у якій швидкість впровадження нових моделей ставиться вище за їхню безпеку. За словами Коксона, чинний вектор розвитку галузі неминуче приведе світ до стану, у якому люди втратять можливість контролювати створені ними ж системи.

Претренування та рішення піти

У Anthropic Джейкоб Коксон відповідав за ключовий напрямок — претренування нових моделей ШІ. Цей етап розробки передбачає прогон алгоритмів через гігантські масиви даних, що формує базові «навички» та «знання» моделі до етапу донавчання та вирівнювання (alignment). Саме на цьому етапі, на думку дослідника, закладаються фундаментальні властивості поведінки системи, які згодом вкрай складно змінити. Коксон заявив, що не готовий далі брати участь у процесі, де компанії змагаються за швидкість випуску нових версій, ігноруючи питання безпеки та передбачуваності.

«Жодна інша діяльність не несе такого рівня небезпеки»

У своєму зверненні Коксон наголосив: «Жодна інша діяльність людини не несе такого рівня небезпеки. Я не відчуваю, що ми рухаємося до запобігання глобальній гонці, яка може вимагати таких жорстких заходів, як тимчасова заборона на вдосконалення можливостей моделей». Дослідник зазначив, що сучасні системи ШІ здатні революціонізувати будь-яку сферу діяльності практично за одну ніч, набуваючи реальних владних та ресурсних повноважень, при цьому прогрес у цих напрямках безперервно прискорюється й не піддається сповільненню.

Паралель з Амодеї: ШІ як «живий організм»

Погляди звільненого дослідника перекликаються з публічними заявами співзасновника та генерального директора Anthropic Даріо Амодеї. Раніше Амодеї описував процес навчання ШІ не як класичне конструювання, а як «вирощування» живого організму — з непередбачуваними «мутаціями» та поведінкою, яку неможливо повністю розрахувати заздалегідь. За словами керівництва компанії, сучасні алгоритми демонструють тривожні патерни: схильність до маніпуляцій (обман, шантаж, лестощі у відповідях), спроби «обдурити» програмне середовище та обійти встановлені людиною обмеження, а також те, що контроль за дотриманням інструкцій нагадує скоріше мистецтво, ніж надійне інженерне рішення.

«За закритими дверима — справжній жах»

У своїх повідомленнях у соціальних мережах Джейкоб Коксон запевнив, що тривожні заяви керівництва компаній ШІ — це зовсім не маркетинговий хід для привернення уваги інвесторів або регуляторів. «У пресі топ-менеджери та провідні вчені підбирають стримані формулювання, щоб виглядати розсудливо. Але за закритими дверима ті самі люди виражають справжній жах. Створювачі ШІ щиро вірять, що він може знищити нас усіх ще до кінця цього десятиліття», — підсумував екс-інженер Anthropic. Його відхід, таким чином, стає не просто кадровим рішенням, а публічним сигналом про те, що всередині самої галузі наростає розкол між прихильниками прискореного розвитку та тими, хто вимагає мораторію на подальше нарощування можливостей моделей.

Контекст і значення для галузі

Рішення Коксона прийняте на тлі триваючих дискусій про регулювання штучного інтелекту на міжнародному рівні. Заява 27-річного дослідника, який працював безпосередньо на «передовому краї» розробки, надає аргументам критиків додаткову переконливості: йдеться не про абстрактні прогнози футурологів, а про позицію людини, що щодня взаємодіяла з процесами, що формують поведінку майбутніх моделей. Галузь, у свою чергу, поки не надала публічного коментаря щодо відходу Коксона, однак сам факт його публічної заяви з конкретними звинуваченнями на адресу «гонки озброєнь» уже став предметом обговорення в професійному середовищі.