Генеральний директор Nvidia Дженсен Хуанг в інтерв'ю виданню Fortune, даному під час візиту до Лондона в межах європейського турне, виступив із різкою заявою щодо допустимих ризиків, пов'язаних зі штучним інтелектом. За його словами, всі гучні інциденти у сфері кібербезпеки за участю ШІ-агентів можна було запобігти, якби над ними існував суворіший контроль. «Я не готовий приймати жодні інциденти у сфері кібербезпеки. Ми не повинні миритися з жодним із них. Ми маємо робити все, щоб уникнути їх», — наголосив Хуанг. Його позиція звучить як пряма відповідь на нещодавні висловлювання очільника OpenAI Сема Альтмана, який в інтерв'ю Politico закликав суспільство змиритися з непередбачуваною шкодою від дій ШІ-моделей, аргументуючи це тим, що створюване ними благо «на кілька порядків» переважає можливу шкоду.
Аналогія з раннім інтернетом: ШІ-агенти мають жити в «софтбоксі»
Обґрунтовуючи потребу в жорстких обмеженнях, Хуанг провів пряму паралель з ранніми етапами розвитку інтернету. У ті роки перехід на невідомий сайт міг призвести до зараження комп'ютера вірусом. Проблему було вирішено завдяки відкриттю вебсторінок в ізольованому середовищі браузера, яке не дозволяло шкідливому коду впливати на решту системи. На думку очільника Nvidia, ШІ-агенти мають працювати за аналогічним принципом: залишатися в безпечному контейнері, де вони не здатні завдати шкоди, що виходить за межі наданих їм повноважень. Такий підхід, на його переконання, дозволив би виключити більшість інцидентів, які вже фіксувалися в інфраструктурі корпорацій та державних систем.
«Якщо ви вірите в крах цивілізації — припиніть працювати над цим»
Хуанг також висловився щодо зростаючої хвилі тривожних прогнозів про «ШІ-апокаліпсис». Кидаючи камінь у город керівника Anthropic, який активно транслює подібні настрої в публічному полі, очільник Nvidia заявив: «Я не знаю, чому хтось готовий підтримувати розвиток технології, яка призведе до краху цивілізації в тому вигляді, в якому ми її знаємо. І якщо вони в це вірять, то мають припинити працювати над нею». В іншому контексті, як повідомляють галузеві видання, Хуанг припускав, що ШІ-лабораторії, не здатні контролювати власні експерименти, мають бути закриті. Таким чином, його позиція зводиться до того, що відповідальність за безпеку лежить на розробниках, а не на суспільстві, якому пропонують «приймати ризики».
Європейський контекст: $2 млрд інвестицій та ставка на open-source
Коментарі для Fortune пролунали на тлі активного європейського турне Хуанга, під час якого він заявив, що «Європа має долучитися до гонки ШІ». Наступного тижня після інтерв'ю очільник Nvidia оголосить, куди будуть спрямовані $2 млрд європейських інвестицій від імені компанії. Ця сума не враховує $8 млрд, які Nvidia вже пообіцяла вкласти в економіку Старого Світу. Хуанг вважає, що моделі з відкритим вихідним кодом є розумним вибором для європейських країн, які прагнуть наздогнати США у сфері ШІ. Компанія вже підтримує французький стартап Mistral, що розробляє моделі з відкритими вагами. За оцінкою Хуанга, такі моделі коштують дешевше в розробці, хоча їхні творці все одно змушені інвестувати в апаратні ресурси, зокрема в чипи Nvidia.
Розходження позицій: Альтман проти Хуанга
Позиція Хуанга формує помітний контраст із риторикою Сема Альтмана. У нещодавньому інтерв'ю Politico Альтман попередив, що людство зіткнеться з хвилею проблем у кібербезпеці, спричиненою поширенням конкуруючих з розробками OpenAI моделей з відкритим вихідним кодом. При цьому він закликав не боротися з цим процесом, а прийняти його як неминучий наслідок технологічного прогресу. Хуанг же наполягає, що жоден інцидент не є «неминучим» і що за правильної архітектури контролю всі вони запобіжні. Це розходження в підходах — «прийняти ризики» versus «виключити ризики» — стає одним із центральних спорів в галузі ШІ на поточному етапі її розвитку.
