Компания OpenAI объявила о предоставлении широкого доступа к Decisions API — новому специализированному инструменту, предназначенному для максимально быстрого и экономичного принятия решений искусственным интеллектом. Презентация инновации состоялась на фоне стремления технологического гиганта занять лидирующие позиции в перспективном сегменте, где до этого доминировал нишевый стартап TypeSafe со своей системой Jev. Время обработки запросов в новом продукте удалось сократить с традиционных 1-3 секунд до рекордных 100-180 миллисекунд.
Технологические особенности и скорость работы
Модели принятия решений позволяют искусственному интеллекту оперативно делать выбор из имеющихся вариантов, а также оценивать собственную степень уверенности в результате. Вместо проектирования полностью новой архитектуры с нуля команда разработчиков OpenAI переконфигурировала существующую модель ChatGPT Luna, оптимизировав ее для быстрой обработки входящих запросов и снижения эксплуатационных затрат. Руководитель продуктового направления API в OpenAI Никунд Ханда отметил, что инженеры компании внимательно изучили рыночный успех аналогичных решений и оперативно создали собственную конкурентоспособную версию.
Главным технологическим прорывом Decisions API стала именно скорость отклика, снизившаяся до 100-180 миллисекунд. В долгосрочной перспективе разработчики планируют внедрить специализированное обучение, которое позволит уменьшить задержку до 60 миллисекунд. Такой показатель откроет возможности для полноценной обработки каждого отдельного кадра в видеопотоке в режиме реального времени.
Первые результаты внедрения и конкурентная среда
На этапе предварительного тестирования такие компании, как Datadog, Ramp и Speak, задействовали новый интерфейс для замены предыдущих инструментов OpenAI. В частности, популярный образовательный сервис репетиторов Speak смог сократить задержку между действиями пользователя с 1,4 секунды до 0,13 секунды, одновременно улучшив общую чувствительность голосового ассистента Dots.
Тем не менее рынок решений для быстрого принятия решений остается высококонкурентным. Генеральный директор TypeSafe Диогу Алмейда выражает скептицизм в отношении стандартных бенчмарков, рекомендуя бизнесу оценивать модели на реальных рабочих сценариях. В публичных индексах лидером остаются разработки компаний Liquid и Base Lab, в то время как обновленная система Jev сохраняет популярность на платформе OpenRouter и занимает верхние строчки в специализированном бенчмарке JevMan.
Перспективы развития и влияние на рынок
Появление доступных инструментов с минимальным временем отклика знаменует собой переход индустрии к принципиально новым сценариям использования искусственного интеллекта. Ранее сложные задачи автоматизации сдерживались высокими задержками и значительной стоимостью вычислений, однако оптимизация моделей стирает эти барьеры. Сочетание высокой скорости, мультимодальности и сниженных затрат позволяет бизнесу внедрять ИИ в голосовые интерфейсы, интерактивные системы поддержки и мультимедийные приложения нового поколения.
