Одним из самых интригующих анонсов на мероприятии OpenAI Dev Day во вторник стал не только генеральный директор Сэм Альтман (Sam Altman), который представил новый «Decisions API».
Что умеет модель Jev от TypeSafe?
API, по-видимому, обеспечивает аналогичную функциональность Jev, модели, выпущенной TypeSafe AI в начале этого месяца, которая явно предназначена для автоматизации программного обеспечения. Своего рода сверхмощный классификатор, построенный на LLM, разработчики могут дать Jev набор вариантов, которые он выводит как вероятности дешево и на высоких скоростях.
OpenAI’s Decisions API — это один и тот же продукт. На мероприятии Альтман описал API как способ дать модели Luna заранее определенный набор вариантов выбора между ними, например, категории, в которых можно классифицировать изображение или другое поведение агента.
«Сосредоточив модель на этом выборе, мы можем сделать его чрезвычайно быстрым, сохраняя при этом такие возможности, как понимание изображений, широкая языковая поддержка и защита безопасности», — сказал Альтман.
TypeSafe не ответил на вопросы TechCrunch о новом продукте, но генеральный директор Диого Алмейда, бывший инженер OpenAI, который совместно изобрел обучение усилению, пошутил над X о начале войн клонов.
Он добавил, что интерес OpenAI может быть «признаком… того, что построение совместимой системы — это будущее». («Система Один» — это художественный термин TypeSafe для быстрого, интуитивного мышления по сравнению с «Системой 2», который применяется к преднамеренным рассуждениям.)
Почему LLM не подходят для многих задач?
Подтекст здесь заключается в том, что LLM, как мы знаем, не являются правильным решением для многих программ, потому что они относительно медленные и дорогие. Разработчики используют Jev для увеличения LLM и при этом обнаружили, что они быстрее и дешевле.
Неясно, насколько похожим будет API Decisions для Jev, так как OpenAI выпустил его в виде ограниченного предварительного просмотра, и до сих пор TechCrunch не заметил разработчиков, запускающих его в своем темпе. Тем не менее, есть явный интерес, согласно разговорам на X.
API решений — не единственный Jev-подобный API в Интернете — другие стартапы внедряют аналогичные модели; OpenAI не будет последним технологическим гигантом, который их создаст. Ключевой вопрос заключается в том, насколько хорошо откалиброваны результаты каждой из этих моделей принятия решений в реальной жизни.
Алмейда говорит, что ров его компании — это синтетические данные, которые он создает для получения статистически полезных результатов.
«Быстро и дешево очень легко, вы знаете, — сказал Альмейда TechCrunch на прошлой неделе. — Если вы хотите, чтобы это было действительно быстро и дешево, используйте кости, верно?» Интеллект — это сложная часть, и моя Северная Звезда всегда толкает кривую интеллекта на доллар Парето».
Как модели решений защищают агентов ИИ?
Спустя всего несколько недель становится ясно, что у этих моделей впереди будущее, и одним из вероятных приложений является мониторинг и защита агентов ИИ. Одна из новых мер безопасности OpenAI после серии инцидентов, когда ее агенты плохо вели себя в открытом Интернете, использует отдельную модель для наблюдения за плохими действиями по «значительной вычислительной стоимости».
Шапор Нагибзаде, давний профессионал в области кибербезопасности, который возглавляет стартап QueryStory, считает, что такая модель, как Jev, может сделать это гораздо дешевле.
Он создал демонстрацию для хакатона, состоявшегося в минувшие выходные, в которой Джев проверяет каждое агентское действие против поставленной задачи, блокируя действия, которым он пользовался с высокой степенью уверенности, которые были плохими, помечая других для обзора и позволяя остальным.
Теоретически такой мониторинг мог бы остановить инцидент с обнимающимся лицом — и мониторинг такого рода стоит 2,94 доллара с Джевом против 372 долларов с пограничным LLM.
Ключевое наблюдение заключается в том, что Jev, возможно, достаточно дешев, чтобы работать на каждом агентном действии, которое предлагает слой обзора, который может повысить надежность агентов. Это то, чего TypeSafe надеялась достичь, и теперь OpenAI увидел ценность.
Вопросы и ответы
Сколько стоит мониторинг действий ИИ-агентов с помощью Jev по сравнению с пограничной LLM?
По словам Шапора Нагибзаде, мониторинг такого рода стоит 2,94 доллара с Jev против 372 долларов с пограничным LLM. Он создал демонстрацию для хакатона, где Jev проверяет каждое действие агента против поставленной задачи.
Кто такой Диого Алмейда и что он сказал о новом продукте OpenAI?
Диого Алмейда — генеральный директор TypeSafe и бывший инженер OpenAI, соучредитель обучения с подкреплением. Он пошутил в X о начале войн клонов и добавил, что интерес OpenAI может быть признаком того, что построение совместимой системы — это будущее.
Как OpenAI выпустил Decisions API и заметили ли разработчики его использование?
OpenAI выпустил Decisions API в виде ограниченного предварительного просмотра. TechCrunch до сих пор не заметил разработчиков, запускающих его в своем темпе, хотя на X есть явный интерес к продукту.
