Together AI ابزار Together Compiler را معرفی کرده است تا استنتاج هوش مصنوعی را هم‌زمان با تغییر مدل‌ها، ترافیک و سخت‌افزار به‌طور خودکار بهینه کند. به‌گفتهٔ این شرکت، نرخ تولید توکن در مدل‌های متن‌باز منتخب، در کمتر از ۲۴ ساعت به حداکثر ۲٫۶ برابر رسیده است.
Together AI در ۴ نوامبر، Together Compiler را بهعنوان بخشی از رویکردی به نام استنتاج چندریختی معرفی کرد. این ابزار مجموعهای از عاملهای هوش مصنوعی را با موتوری هموارهفعال ترکیب میکند که بهادعای Together AI، نقاط پایانی سرویسهای عملیاتی را به‌طور پیوسته بازکامپایل میکند.
به‌گفتهٔ Together AI، مدلهایی که در ۳ ماه گذشته عرضه شدهاند، ۸۰٪ از ترافیک OpenRouter را به خود اختصاص دادهاند. این شرکت معتقد است تنظیمات ثابت استنتاج نمیتوانند با تغییرات معماری مدل، اندازهٔ درخواستها و سخت‌افزار همگام شوند.
برای شرکتهایی که برنامههای مبتنی بر هوش مصنوعی را اجرا میکنند، مزیت احتمالی این ابزار، کاهش نیاز به تنظیم دستی هنگام تغییر بارهای کاری است. اما این گزارش مقایسهای از هزینهٔ هر توکن ارائه نمیکند؛ بنابراین افزایش ادعاشدهٔ نرخ تولید توکن هنوز مشخص نمیکند مشتریان چقدر میتوانند صرفهجویی کنند.
تنظیم خودکار استنتاج میتواند حجم کار مهندسی را کاهش دهد، اما این معرفی روشن نمیکند چه میزان از نگهداری دستی را جایگزین میکند.
ارزیابی پایداری بهبودها به شواهدی از عملکرد در بارهای کاری متغیر مشتریان نیاز دارد؛ ارقام اعلامشدهٔ شرکت هنوز چنین شواهدی فراهم نمیکنند.
هزینههای عملیاتی معیاری جدا از نرخ تولید توکن هستند و برای سنجش منفعت اقتصادی این ابزار باید جداگانه ارزیابی شوند.
این نوشته را اتاق خبر Made in 10 به‌طور خودکار از روی منبع بالا نوشته است.
OpenAI قابلیت ساخت تصویر متحرک از دستور متنی یا عکس را به ChatGPT اضافه کرد. کاربران میتوانند سرعت پخش را تغییر دهند و فریمهای جداگانه را بدون تولید دوبارهٔ کل فایل ویرایش کنند.
SpaceXAI برای تأمین برق مرکز دادهٔ کولوسوس ۲ در ممفیس، ۸ موتور جت بازسازیشده در میسیسیپی نصب کرده است. مزیت اصلی این روش سرعت راهاندازی است؛ موتورهای بازسازیشده میتوانند زمان انتظار برای اتصال به شبکهٔ برق را دور بزنند.
به گفتهٔ Adobe، عامل CX Enterprise Coworker اکنون در ChatGPT، Claude، Gemini، Copilot و Databricks Genie در دسترس است. Adobe میگوید اتصالدهندههای جدید به بازاریابان امکان میدهند با یک درخواست، دادهها را بازیابی کنند و کارهایی را در چند سامانه انجام دهند.