Компанія OpenAI оголосила про надання широкого доступу до Decisions API — нового спеціалізованого інструменту, призначеного для максимально швидкого та економічного прийняття рішень штучним інтелектом. Презентація інновації відбулася на тлі прагнення технологічного гіганта зайняти лідерські позиції в перспективному сегменті, де до цього домінував нішевий стартап TypeSafe зі своєю системою Jev. Час обробки запитів у новому продукті вдалося скоротити з традиційних 1-3 секунд до рекордних 100-180 мілісекунд.
Технологічні особливості та швидкість роботи
Моделі прийняття рішень дозволяють штучному інтелекту оперативно робити вибір з наявних варіантів, а також оцінювати власну ступінь впевненості в результаті. Замість проектування повністю нової архітектури з нуля команда розробників OpenAI переконфігурувала існуючу модель ChatGPT Luna, оптимізувавши її для швидкої обробки вхідних запитів та зниження експлуатаційних витрат. Керівник продуктового напряму API в OpenAI Нікунд Ханда зазначив, що інженери компанії уважно вивчили ринковий успіх аналогічних рішень і оперативно створили власну конкурентоспроможну версію.
Головним технологічним проривом Decisions API стала саме швидкість відгуку, що знизилася до 100-180 мілісекунд. У довгостроковій перспективі розробники планують впровадити спеціалізоване навчання, яке дозволить зменшити затримку до 60 мілісекунд. Такий показник відкриє можливості для повноцінної обробки кожного окремого кадру у відеопотоці в режимі реального часу.
Перші результати впровадження та конкурентне середовище
На етапі попереднього тестування такі компанії, як Datadog, Ramp та Speak, задіяли новий інтерфейс для заміни попередніх інструментів OpenAI. Зокрема, популярний освітній сервіс репетиторів Speak зміг скоротити затримку між діями користувача з 1,4 секунди до 0,13 секунди, одночасно покращивши загальну чутливість голосового асистента Dots.
Проте ринок рішень для швидкого прийняття рішень залишається висококонкурентним. Генеральний директор TypeSafe Діогу Алмейда висловлює скептицизм щодо стандартних бенчмарків, рекомендуючи бізнесу оцінювати моделі на реальних робочих сценаріях. У публічних індексах лідером залишаються розробки компаній Liquid і Base Lab, в той час як оновлена система Jev зберігає популярність на платформі OpenRouter і займає верхні рядки у спеціалізованому бенчмарку JevMan.
Перспективи розвитку та вплив на ринок
Поява доступних інструментів з мінімальним часом відгуку знаменує собою перехід індустрії до принципово нових сценаріїв використання штучного інтелекту. Раніше складні завдання автоматизації стримувалися високими затримками та значною вартістю обчислень, проте оптимізація моделей стирає ці бар'єри. Поєднання високої швидкості, мультимодальності та знижених витрат дозволяє бізнесу впроваджувати ШІ в голосові інтерфейси, інтерактивні системи підтримки та мультимедійні додатки нового покоління.
