Корпорація Meta оголосила про впровадження критично важливого нововведення, спрямованого на підвищення рівня безпеки неповнолітніх користувачів, які взаємодіють із їхнім власним чат-ботом Meta AI. Нова система має стати додатковим бар'єром у боротьбі з ризиками для психічного здоров'я підлітків у цифровому середовищі.
Механізм екстреного попередження
Суть нововведення полягає в автоматичному моніторингу діалогів. Якщо неповнолітній користувач під час розмови з штучним інтелектом торкнеться тем заподіяння собі шкоди або самогубства, система негайно ініціює сповіщення для батьків. За словами представників компанії, для забезпечення максимальної точності та мінімізації хибних спрацювань була розроблена спеціальна модель штучного інтелекту. Цей алгоритм спеціалізується на глибокому аналізі контексту діалогів та виявленні специфічних небезпечних ключових слів.
При виявленні ознак небезпеки сповіщення надходить безпосередньо на панель батьківського контролю, що дозволяє дорослим оперативно реагувати на ситуацію.
Географія впровадження та доступність
На даний момент функція доступна для користувачів сервісу Instagram Parental Supervision у кількох ключових регіонах: США, Великій Британії, Австралії та Канаді. Компанія планує масштабувати рішення глобально. До кінця року очікується поступове впровадження системи по всьому світу, включаючи Узбекистан. Це дозволить батькам у цих країнах отримати додаткові інструменти для забезпечення безпеки цифрового спілкування своїх дітей.
Обмеження контенту для підлітків
Окрім системи попередження, Meta посилила правила роботи свого ШІ з неповнолітніми. Можливості Meta AI для цієї вікової категорії функціонують у обмеженому режимі. Система запрограмована відмовлятися від ведення діалогів на теми, які можуть бути небезпечними або небажаними для підлітків.
