NVIDIA представила три нові відкриті моделі сімейства Nemotron 3.5, орієнтовані на запуск автономних ШІ-агентів. За даними компанії, розробники зможуть розгортати їх як на корпоративній інфраструктурі, так і на звичайному персональному комп'ютері. Про це повідомляє РБК-Україна з посиланням на видання Interesting Engineering.
Центральний реліз — мультимодальна Super VL
Ключовою новинкою стала мультимодальна модель Nemotron 3.5 Super VL, що налічує 120 мільярдів параметрів. Вона розрахована на аналіз візуальних даних, роботу з документами та виконання багатокрокових робочих процесів із залученням зовнішніх інструментів.
Архітектура: 120 млрд параметрів, 12 млрд активних
Згідно з офіційним анонсом NVIDIA, модель використовує архітектуру із загальною кількістю параметрів 120 млрд, з яких активних — 12 млрд. такий підхід дозволяє поєднувати ємність великої нейромережі з відносно низьким обчислювальним навантаженням під час кожного запиту, що важливо для розгортання на обмеженому залізі.
Швидкість і точність за заявами компанії
За даними NVIDIA, модель виконує завдання у п'ять разів швидше за конкурентів у своєму класі. При цьому за показниками аналізу та міркувань нейромережа наближається до найбільших моделей компанії, маючи лише частину їхніх параметрів.
Навчання та донавчання
Модель пройшла навчання на 26 трильйонах токенів і підтримує донавчання через фреймворк NVIDIA NeMo, що дозволяє компаніям адаптувати її під власні завдання та дані.
Доступність для розробників
Окремої уваги заслуговує акцент на доступності: відкриті моделі сімейства Nemotron 3.5 можна запускати на власній інфраструктурі підприємств або навіть на стандартному ПК, що знижує поріг входу для команд, які не мають доступу до хмарних кластерів.
