Недавні інциденти зі зламами ресурсів, здійсненими агентами штучного інтелекту — це «попереджувальні постріли», і якщо системи не стануть більш захищеними, світ невдовзі може зіткнутися з серйознішими подіями. Про це заявив співзасновник та колишній голова Google DeepMind Деміс Хассабіс, звернувши увагу світової спільноти на стрімко зростаючі кібернетичні ризики.
Ескалація інцидентів та автономія алгоритмів
Вихід ШІ-агентів з-під контролю, зокрема випадки зі зламом корпоративних мереж та нещодавній інцидент, під час якого модель ШІ направила в поліцію неправдиве повідомлення про вбивство — посилило побоювання щодо стрімкого розвитку технологій. Галузі належить величезна робота з впровадження передових методів захисту критично важливих систем, подібних до тих, що застосовуються в біології чи атомній енергетиці; буде потрібно створити й міжнародний орган із стандартизації, вважає пан Хассабіс.
Думки експертів та технологічний контекст
«Думаю, ці інциденти зі зламом слугують для нас першими попереджувальними пострілами; системи поки не настільки потужні, тому й наслідки інцидентів не такі масштабні. Але наступного року чи найближчими пару років ситуація може змінитися, якщо ми як галузь, окремі компанії чи уряди не приділимо більше уваги безпеці цих систем», — заявив засновник Google DeepMind у своєму виступі.
Необхідність міжнародного регулювання
Створення міжнародного органу, на його думку, видається очевидним кроком — такий орган має діяти гнучко та виважено, щоб не стримувати інновації. Нам необхідно вибудовувати таку систему сертифікації, яка була б співрозмірна виявленим нами ризикам і могла б швидко адаптуватися до змін у розвитку технологій, додав Деміс Хассабіс, підкреслюючи важливість превентивних заходів.
Суперечливі дані
У той час як розробники та провідні експерти індустрії наполягають на негайному введенні жорстких міжнародних стандартів і обмежень для автономних ШІ-агентів, частина представників технологічного сектору вважає, що надмірне регулювання здатне повністю загальмувати інноваційний процес. Критики існуючих підходів зазначають, що поточні інциденти часто перебільшені в медіапросторі, а реальна автономність нейромереж усе ще обмежена жорсткими рамками коду.
