OpenAI сделала Decisions API общедоступным, добавив поддержку голоса и изображений. Speak, один из первых клиентов, сообщил, что интервал между действиями сократился с 1,4 до 0,13 секунды.
Decisions API от OpenAI использует версию ChatGPT Luna с изменённой конфигурацией, чтобы ускорить инференс и снизить затраты, а не модель, специально обученную для принятия решений. OpenAI также географически распределила вычислительные ресурсы для инференса, чтобы уменьшить задержки в разных регионах.
Jev от TypeSafe помогла сформировать категорию ИИ-моделей, которые быстро выбирают между вариантами и сообщают степень уверенности в своих решениях. В первых испытаниях инженеры Box, Datadog, Ramp и Speak использовали API OpenAI вместо LLM, добиваясь более высокой пропускной способности.
Для разработчиков модели принятия решений — альтернатива LLM в рабочих процессах, где важен быстрый выбор. Оптимальный вариант по-прежнему зависит от конкретной нагрузки: приходится искать баланс между интеллектуальными возможностями, стоимостью, точностью оценки уверенности и скоростью.
Общедоступность API даёт разработчикам ещё одного поставщика, чьё решение можно протестировать в рабочих процессах, требующих быстрого принятия решений.
Поддержка голоса и изображений расширяет потенциальные сценарии использования API за пределы классификации текста.
Прирост скорости у первых клиентов не доказывает, какая модель лучше справится с собственными задачами компании.
Написано автоматически редакцией Made in 10 по источнику выше.
Flapping Airplanes привлекла $1 млрд в раунде серии A, который возглавили Index Ventures и Lux Capital. Исследовательская компания стремится сократить объём данных и вычислительные мощности, необходимые для обучения моделей, но пока не продаёт никаких продуктов.
DeepSeek привлекла около $15 млрд, сообщает TechCrunch со ссылкой на Bloomberg. Китайская ИИ-компания наращивает расходы на инфраструктуру и открытые модели для обслуживания клиентов в Китае и за рубежом.
Hugging Face выпустила Carbon-X — ИИ-модель с открытым исходным кодом, которая отвечает на вопросы о ДНК на естественном языке. Модель может работать локально на ноутбуке, не передавая чувствительные генетические данные в облачные сервисы, но её прогнозы пока не проверены лабораторными экспериментами.