OpenAI, GPT-Live 1’in işleri daha güvenilir biçimde devretmek için özel bir SpawnThinking belirteci kullandığını söylüyor. OpenAI’dan Aarti, bir soru-cevap oturumunda sesli etkileşimi arka uçtaki akıl yürütmeden ayıran mimariyi anlattı.
Önceki, sırayla konuşmaya dayalı Realtime sistemleri, kişinin konuşmasını ne zaman bitirdiğini tahmin etmek zorundaydı. Bu da kısa onay ifadelerini ve gürültülü ortamlardaki konuşmaları işlemeyi zorlaştırıyordu. Rapora göre GPT-Live; Yelp rezervasyonlarında, Fin desteğinde, Speak derslerinde ve Cognition’ın Devin ses özelliğinde kullanılıyor.
Sesli yapay zekâ ajanları geliştiren ekiplere yönelik öneriler, model seçiminin ötesine geçiyor. OpenAI, ön uç talimatlarının kısa tutulmasını, önemli bilgilerin konuşma geçmişini otomatik olarak kısaltan sıkıştırma işleminin dışında saklanmasını ve yapılandırılmış bilgi toplama sırasında tekrarlanan görev devirlerinden önce onay istenmesini öneriyor.