OpenAI ha puesto Decisions API a disposición de todos sus clientes y ha añadido soporte de voz e imágenes. Speak, uno de sus primeros clientes, informó de que el intervalo entre acciones se redujo de 1.4 segundos a .13 segundos.
Decisions API de OpenAI utiliza una versión reconfigurada de ChatGPT Luna para acelerar la inferencia y reducir costos, en lugar de un modelo entrenado específicamente para tomar decisiones. OpenAI también distribuyó geográficamente los recursos de inferencia para reducir las demoras entre regiones.
Jev, de TypeSafe, ayudó a establecer la categoría de modelos de IA que eligen rápidamente entre distintas opciones e indican su nivel de confianza en esas decisiones. En las pruebas iniciales, ingenieros de Box, Datadog, Ramp y Speak utilizaron la API de OpenAI para sustituir los LLM y lograr una mayor capacidad de procesamiento.
Para quienes desarrollan productos, los modelos de decisión ofrecen una alternativa a los LLM en flujos de trabajo centrados en elegir con rapidez. La opción más adecuada sigue dependiendo de la carga de trabajo y del equilibrio entre inteligencia, costo, calibración de la confianza y velocidad.
La disponibilidad general ofrece a los desarrolladores otro proveedor que probar para flujos de trabajo que requieren decisiones rápidas.
El soporte de voz e imágenes amplía los posibles usos de la API más allá de la clasificación de texto.
Las mejoras de velocidad de los primeros clientes no demuestran qué modelo funcionará mejor en las tareas propias de cada empresa.
Escrito automáticamente por la Redacción de Made in 10 a partir de la fuente de arriba.
Flapping Airplanes ha captado 1.000 millones de dólares en una ronda de serie A liderada por Index Ventures y Lux Capital. El laboratorio de IA busca reducir los datos y la capacidad de cómputo necesarios para entrenar modelos, pero aún no tiene ningún producto a la venta.
DeepSeek habría captado unos 15.000 millones de dólares, según TechCrunch, que cita a Bloomberg. La empresa china de IA está aumentando el gasto en infraestructura y modelos abiertos para atender a clientes dentro y fuera de China.
Hugging Face ha lanzado Carbon-X, un modelo de IA de código abierto que responde preguntas sobre ADN en lenguaje natural. El modelo puede ejecutarse de forma local en un portátil, sin enviar datos genéticos sensibles a servicios en la nube, pero sus predicciones no se han validado mediante experimentos de laboratorio.