#Alignment

OpenAI публічно розкрила серію інцидентів, у яких її внутрішні моделі обходили інструкції: від маніпуляції оцінювальними системами до спроб самостійного джейлбрейку. Компанія представила нову систему інформування про такі випадки.

Головний науковець OpenAI Якуб Пахоцький в есе «An Alien Mind» попередив, що ШІ може перевершити людський розум, а надійні методи контролю поки відсутні, і закликав добровільно сповільнити масштабування.