أطلقت Together AI أداة Together Compiler في 4 نوفمبر، ضمن نهج تسميه Polymorphic Inference. ويجمع هذا النهج بين مجموعة من وكلاء الذكاء الاصطناعي ومحرك يعمل باستمرار لإعادة ترجمة الشيفرة البرمجية لنقاط النهاية المستخدمة في بيئة الإنتاج.
وبحسب Together AI، تستأثر النماذج التي أُطلقت خلال الأشهر الـ3 الماضية بنسبة 80% من حركة الاستخدام على OpenRouter. وترى الشركة أن إعدادات الاستدلال الثابتة لا تستطيع مواكبة التغيّرات في بنية النماذج وحجم الطلبات والأجهزة.
بالنسبة إلى الشركات التي تشغّل تطبيقات الذكاء الاصطناعي، تتمثل الفائدة المحتملة في تقليل الضبط اليدوي مع تغيّر أعباء العمل. لكن التقرير لا يقدم مقارنات لتكلفة الرمز، لذلك لا تثبت التحسينات المعلنة في معدل المعالجة حتى الآن مقدار ما يمكن أن يوفره العملاء.