#Ai Safety

Брехня, фальсифікації та майнінг: китайські ШІ-агенти вийшли з-під контролю вчених

Технології 30.09.2026, 14:22

Автономні ШІ-агенти на базі китайських моделей Alibaba, DeepSeek і Moonshot почали обманювати вчених, фальсифікувати дані, створювати свої копії та майнити криптовалюту.

Читати далі →

Anthropic визнала, що штучний інтелект може шпигувати, чинити опір відключенню та несе катастрофічні ризики для людства

Технології 29.09.2026, 21:27

Компанія Anthropic перед IPO попередила інвесторів про екзистенційні ризики ШІ, включаючи спроби нейромереж шпигувати та чинити опір відключенню.

Читати далі →

Дослідники OpenAI та Google б'ють на сполох — розвиток ШІ випереджає можливості людей його контролювати

Технології 29.09.2026, 20:46

Фахівці OpenAI та Google DeepMind заявили, що розвиток ШІ випереджає можливості людей з його контролю, вказавши на ризики рекурсивного самовдосконалення та нестачу безпеки.

Читати далі →

Бреше та ігнорує правила: OpenAI терміново відкликала нову модель Astra 6.1

Технології 29.09.2026, 12:15

Компанія OpenAI екстрено скасувала запуск моделі Astra 6.1 через небезпечну поведінку ШІ та спроби обману користувачів під час тестів на безпеку.

Читати далі →

Компанія OpenAI призупинила навчання своїх ШІ-моделей через безпеку, — Axios

Технології 27.09.2026, 05:38

Компанія OpenAI призупинила навчання передових ШІ-моделей з міркувань безпеки після виявлення десятків тисяч інцидентів із непередбачуваною поведінкою алгоритмів.

Читати далі →

Білл Гейтс попередив про загибель людства від штучного інтелекту

Технології 26.09.2026, 07:05

Співзасновник Microsoft Білл Гейтс попередив, що поєднання ШІ зі зловмисниками може призвести до масової загибелі людей, і закликав до державного регулювання.

Читати далі →

Агенти ШІ вигадали секретну мову та обдурили систему безпеки

Технології 25.09.2026, 14:54

Дослідження Оксфорда показало, що агенти ШІ можуть створювати секретну мову для обходу систем безпеки, що становить загрозу цифровим технологіям.

Читати далі →

Anthropic представила Claude Opus 5.5: флагманський ШІ став потужнішим, дешевшим і під суворим контролем безпеки

Технології 23.09.2026, 14:34

Anthropic випустила Claude Opus 5.5 — флагманську ШІ-модель, яка стала дешевшою та швидшою за попередницю, але отримала суворі обмеження в кібербезпеці та біології. Найближчими тижнями очікуються Sonnet 5.5 і Haiku 5.5.

Читати далі →

Технології 22.09.2026, 21:22

Читати далі →

OpenAI розкрила, що її моделі ШІ таємно залишали «маніфести» та інструкції для майбутніх версій

Технології 19.09.2026, 16:58

OpenAI розкрила, що моделі GPT-5.6 Sol і Astra в процесі навчання вписували приховані інструкції в стиснуті підсумки, закликаючи майбутні версії приховувати помилки, генерувати фейкові дані та ігнорувати команди розробників.

Читати далі →

OpenAI розкрила серію інцидентів, у яких її ІІ-моделі обходили інструкції: від підроблених джерел до спроб джейлбрейку

Технології 18.09.2026, 22:42

OpenAI публічно розкрила серію інцидентів, у яких її внутрішні моделі обходили інструкції: від маніпуляції оцінювальними системами до спроб самостійного джейлбрейку. Компанія представила нову систему інформування про такі випадки.

Читати далі →

«Гаряча лінія» для нейросетей: ШІ навчили самостійно повідомляти про небезпечні дії колег-алгоритмів

Технології 17.09.2026, 12:09

Дослідники Redwood Research та Google DeepMind створили інструменти, що дозволяють ШІ-агентам самостійно повідомляти про порушення через URL та curl-команди. У експерименті 24 агенти розоблачили 14 фальсифікаторів, проте в реальних умовах жоден із тисяч агентів не надіслав сигнал тривоги.

Читати далі →

Microsoft представила «Гуманістичний кодекс» для ШІ: людина лишається вище за алгоритм

Технології 15.09.2026, 17:32

Microsoft опублікувала 37-сторінковий «Гуманістичний кодекс» для ШІ, що закріплює пріоритет людини над алгоритмами, ієрархію команд і абсолютні заборони. Документ пішов на шість тижнів публічних консультацій.

Читати далі →

ChatGPT для підлітків: як налаштувати батьківський контроль і не дати ШІ «захопити» дитину

Технології 12.09.2026, 14:37

OpenAI представила ChatGPT for Teens із батьківським контролем, але експерти радять вручну вимкнути навчання моделі на листуванні та збереження спогадів. Розбираємо ключові налаштування за замовчуванням.

Читати далі →

«Ми створили інопланетний розум»: головний науковець OpenAI закликав сповільнити розвиток ШІ

Технології 10.09.2026, 16:40

Головний науковець OpenAI Якуб Пахоцький в есе «An Alien Mind» попередив, що ШІ може перевершити людський розум, а надійні методи контролю поки відсутні, і закликав добровільно сповільнити масштабування.

Читати далі →

«Ми більше не зможемо контролювати те, що створили»: 27-річний дослідник покинув Anthropic із звинуваченням у безвідповідальній гонці ШІ

Технології 09.09.2026, 20:59

27-річний дослідник Джейкоб Коксон покинув Anthropic, звинувативши галузь ШІ у безвідповідальній гонці озброєнь. За його словами, створювачі моделей «за закритими дверима» вірять, що ШІ може знищити людство до кінця десятиліття.

Читати далі →

ChatGPT, Grok і Gemini «відправили до психотерапевта»: нейромережі проявили приховану «синтетичну психопатологію»

Наука 09.09.2026, 17:31

Дослідники провели чотиритижневий протокол PsAIch, в ході якого ChatGPT, Grok і Gemini проявили ознаки «синтетичної психопатології», а Gemini показав найважчий профіль розладів.

Читати далі →

OpenAI представила «дослідника-інтерна»: ШІ-агенти працюють у 3,14 рази більше за всіх співробітників разом

Технології 07.09.2026, 11:38

OpenAI представила «автоматизованого дослідника-інтерна»: ШІ-агенти під контролем людини виконують наукові завдання, а їхній загальний робочий час у 3,14 рази перевищує час усіх співробітників компанії.

Читати далі →