A OpenAI detalhou como o GPT-Live 1 delega tarefas de raciocínio enquanto conduz conversas por voz. O sistema separa a conversa com fala e escuta simultâneas do trabalho repassado a um modelo no backend.
A OpenAI afirma que o GPT-Live 1 usa um token especial chamado SpawnThinking para delegar tarefas com mais confiabilidade. Em uma sessão de perguntas e respostas, Aarti, da OpenAI, descreveu uma arquitetura que separa a interação por voz do raciocínio no backend.
Os sistemas Realtime anteriores, baseados em turnos, precisavam adivinhar quando alguém havia terminado de falar, o que dificultava lidar com respostas breves de confirmação e ambientes barulhentos. O relato cita reservas no Yelp, suporte do Fin, aulas do Speak e a voz do Devin, da Cognition, como usos do GPT-Live.
Para quem desenvolve agentes de IA por voz, as orientações vão além da escolha de um modelo. A OpenAI recomenda manter curtos os prompts do frontend, armazenar fatos importantes fora da compactação automática da conversa e exigir confirmação antes de repetir a delegação durante uma coleta estruturada de informações.
Quem desenvolve agentes de voz precisa gerenciar a conversa e o raciocínio no backend como partes separadas do sistema.
A coleta estruturada de informações exige regras explícitas de confirmação para evitar repasses repetidos antes da hora.
A maior confiabilidade na delegação continua sendo uma afirmação da OpenAI neste caso, sem resultados de testes comparativos no relato.
Escrito automaticamente pela Redação da Made in 10 a partir da fonte acima.
O NHS England retirou a alegação de que 137 redes hospitalares se beneficiavam da plataforma de dados federados com IA da Palantir. A mudança ocorreu após reportagem do Guardian mostrar que 29 redes não usavam toda ou a maior parte da tecnologia.
A Amazon Web Services lançou o UAEF, uma ferramenta gratuita e de código aberto para testar agentes de IA em vários frameworks de software. A ferramenta avalia agentes em 36 métricas e sinaliza regressões quando há mudanças nos prompts ou nos modelos.
A Databricks lançou uma versão atualizada do assistente Genie e agentes de IA que analisam continuamente os dados das empresas. Um recurso separado, o Ontology, mapeia informações de toda a organização para que os funcionários possam consultá-las e fazer análises.