OpenAI a expliqué comment GPT-Live 1 délègue le raisonnement tout en gérant les conversations vocales. Le système sépare la conversation en duplex intégral des tâches confiées à un modèle côté serveur.
Selon OpenAI, GPT-Live 1 utilise un jeton spécial SpawnThinking pour déléguer les tâches de manière plus fiable. Lors d’une séance de questions-réponses, Aarti, d’OpenAI, a décrit une architecture qui sépare l’interaction vocale du raisonnement côté serveur.
Les précédents systèmes Realtime fonctionnant par tours de parole devaient deviner quand une personne avait fini de parler, ce qui compliquait la gestion des brèves marques d’acquiescement et des environnements bruyants. Le compte rendu cite les réservations avec Yelp, l’assistance avec Fin, les cours avec Speak et la voix de Devin, de Cognition, parmi les usages de GPT-Live.
Pour les équipes qui développent des agents vocaux d’IA, ces recommandations vont au-delà du choix du modèle. OpenAI conseille de limiter la longueur des instructions côté interface, de conserver les informations importantes en dehors du mécanisme de compression automatique de la conversation et d’exiger une confirmation avant toute nouvelle délégation lors d’une collecte structurée d’informations.
Les équipes qui développent des agents vocaux doivent gérer la conversation et le raisonnement côté serveur comme des composantes distinctes du système.
La collecte structurée d’informations nécessite des règles de confirmation explicites pour éviter de renouveler prématurément les délégations.
La fiabilité accrue de la délégation reste ici une affirmation d’OpenAI, sans résultats de tests comparatifs dans le compte rendu.
Rédigé automatiquement par la rédaction de Made in 10 à partir de la source ci-dessus.
Amazon Web Services a publié UAEF, un outil gratuit et open source pour tester les agents IA sur plusieurs frameworks logiciels. Il évalue les agents selon 36 critères et signale les régressions lorsque les prompts ou les modèles changent.
