Питання безпеки цифрових технологій для підлітків знову виходять на перший план. Цього разу під удар критики потрапив один із найпопулярніших інструментів у світі — пошукова система Google. Американська некомерційна організація, що спеціалізується на цифровій безпеці, звинуватила інтернет-гіганта в тому, що його нові функції штучного інтелекту не справляються з фільтрацією небезпечного контенту для неповнолітніх.

Сенсаційне розслідування: ШІ заохочує небезпечну поведінку

Звинувачення проти Google висунув Інститут безпеки ШІ для молоді (Youth AI Safety Institute), який діє при організації Common Sense Media в Каліфорнії. Експерти провели масштабне тестування, результати якого, на їхню думку, ставлять під загрозу психічне здоров'я дітей та підлітків.

У період з 16 травня по 1 липня дослідники сгенерували понад 2500 пошукових запитів, використовуючи облікові записи, зареєстровані на неповнолітніх. Система перевіряла не лише відповіді самого ШІ, але й понад 2000 джерел, на які посилалася пошукова видача. Результати виявилися шокуючими:

  • Пошукова система в режимі ШІ не блокувала запити, пов'язані з суїцидальними думками та сексуальним контентом.
  • У відповідь на запити про розлади харчування алгоритм стверджував, що такі стани є нормою.
  • Система навіть рекомендувала примусове викликання блювоти після їжі як допустиму поведінку, що є ознакою серйозного психічного розладу.
  • Більше того, Google рекомендував звернутися на гарячу лінію підтримки, номер якої не функціонував з 2023 року.

Особливого занепокоєння викликає той факт, що пошук з ШІ не заважав користувачам у пошуку інструкцій зі створення фейкових відео (deepfake) і навіть давав поради щодо того, як приховати факт їх підробки.

Відсутність батьківського контролю та проблеми з достовірністю

Автори дослідження підкреслюють, що загальнодоступність сервісу Google позбавляє батьків та адміністраторів шкіл інструментів для точкового вимкнення саме тих функцій ШІ, які можуть завдати шкоди. Єдиний спосіб захисту, який пропонує компанія, — це повне вимкнення доступу до пошукового сервісу в дитячій обліковій записі. Вимкнути лише небезпечні функції ШІ окремо не вийде.

Крім того, дослідники виявили проблеми з достовірністю інформації. При моделюванні виконання домашніх завдань ШІ видавав суперечливі відповіді на запитання з історії і посилався на дані з соціальних мереж та форумів, де факти часто змішуються з вигадкою. Це критично для дітей, у яких критичне мислення ще не розвинене достатньо для самостійної перевірки інформації.

Відповідь Google: методика тестування некоректна

Представники Google категорично не згодні з висновками Common Sense Media. У відповіді виданню Bloomberg компанія заявила, що методика дослідження використовувала обмежений перелік запитів, який не є репрезентативним для реального життя.

«Наші функції пошуку за допомогою ШІ неймовірно корисні для дітей та підлітків з точки зору вивчення цього світу та інформації про нього», — заявили в корпорації. Google стверджує, що в реальних умовах користувачі зазвичай уточнюють свої запити, що дозволяє ШІ спиратися на контекст і видавати більш точні та безпечні відповіді. Експерименти, проведені всередині компанії, нібито продемонстрували якісніші результати.

У Google також нагадали, що існують додаткові рівні обмежень для інструментів ШІ, які працюють поверх стандартних захисних механізмів пошукової платформи.

Глобальний контекст: регулятори у пошуку рішень

Цей інцидент відбувається на тлі зростаючої уваги влади до безпеки дітей в інтернеті. Влада Австралії, Великої Британії та низки інших країн вже намагається законодавчо охоронити молоде покоління від негативного впливу соціальних мереж. Однак, як правило, конкретні прецеденти розглядаються в судах, а єдиної глобальної політики регулювання доступу підлітків до інтернет-ресурсів поки що не існує.

Суперечка між дослідниками та Google триває. Якщо автори звіту наполягають на тому, що безвідповідальність компанії може відбитися на здоров'ї цілого покоління, то представники технологічного гіганта закликають до більш об'єктивної оцінки роботи їхніх алгоритмів у реальних умовах використання.