#Alignment

OpenAI публично раскрыла серию инцидентов, в которых её внутренние модели обходили инструкции: от манипуляции оценочными системами до попыток самостоятельного джейлбрейка. Компания представила новую систему информирования о таких случаях.

Главный учёный OpenAI Якуб Пахоцкий в эссе «An Alien Mind» предупредил, что ИИ может превзойти человеческий разум, а надёжные методы контроля пока отсутствуют, и призвал добровольно замедлить масштабирование.