Sarvam AI مدل هوش مصنوعی Prism را با وزن‌های در دسترس برای تصمیم‌گیری ساختاریافته در گردش‌کارهای کسب‌وکار عرضه کرده است. مجوز Apache ۲.۰ این مدل به توسعه‌دهندگان اجازه می‌دهد آن را متناسب با نیاز خود تغییر دهند و روی زیرساخت خود مستقر کنند.
Sarvam AI مدل Prism را بر پایهٔ مدل بنیادی Sarvam 105B ساخته و برای تصمیم‌گیری تنظیم دقیق کرده است. توسعه‌دهندگان میتوانند از طریق رابط برنامهنویسی به آن دسترسی داشته باشند یا وزنهایش را برای استقرار روی زیرساخت خود دانلود کنند.
Prism بهجای تولید پاسخ بهصورت کلمهبهکلمه، در یک نوبت پردازش به مجموعهای مشخص از گزینهها امتیاز می‌دهد. به این ترتیب، میتواند جزئی از سامانههای هدایت درخواستهای پشتیبانی مشتری، بررسی اسناد و ارزیابی درستی انجام وظیفه توسط عامل هوش مصنوعی باشد.
Sarvam گزارش داده که میانهٔ زمان پاسخ Prism روی پردازندهٔ گرافیکی Nvidia B200 برابر با ۴۴ میلیثانیه بوده است. در ارزیابی جداگانهای که یک مهندس نرمافزار Atlan منتشر کرده، میانهٔ تأخیر روی پردازندهٔ گرافیکی B200 به ۶۵ میلیثانیه رسیده است. سازندگان همچنان باید عملکرد مدل را با بارهای کاری خود آزمایش کنند و هزینهٔ میزبانی مدلی با این اندازه را بسنجند.
انتشار وزن‌های مدل به کسبوکارها گزینهای می‌دهد که میتوانند خودشان مستقر کنند، بهجای آنکه صرفاً به یک رابط برنامهنویسی بیرونی برای تصمیم‌گیری متکی باشند.
ارائهٔ احتمال برای گزینههای ثابت میتواند ادغام مدل در گردشکارهایی را سادهتر کند که بهجای متن، به خروجیهای پیشبینیپذیر نیاز دارند.
سرعت در محیط عملیاتی، قابلیت اتکا و صرفهٔ اقتصادی میزبانی هنوز در بارهای کاری واقعی و قابلمقایسه اثبات نشدهاند.
این نوشته را اتاق خبر Made in 10 بهطور خودکار از روی منبع بالا نوشته است.
Meta استارتاپ کدنویسی با هوش مصنوعی Conductor را خریده است که چند عامل را در محیطهای کاری موازی اجرا میکند. Conductor سرویس ابری خود را در ۲۰ نوامبر تعطیل میکند و پس از آن حذف دادههای ابری کاربران را آغاز خواهد کرد.
Together AI ابزار Together Compiler را معرفی کرده است تا استنتاج هوش مصنوعی را همزمان با تغییر مدلها، ترافیک و سختافزار بهطور خودکار بهینه کند. بهگفتهٔ این شرکت، نرخ تولید توکن در مدلهای متنباز منتخب، در کمتر از ۲۴ ساعت به حداکثر ۲٫۶ برابر رسیده است.
OpenAI قابلیت ساخت تصویر متحرک از دستور متنی یا عکس را به ChatGPT اضافه کرد. کاربران میتوانند سرعت پخش را تغییر دهند و فریمهای جداگانه را بدون تولید دوبارهٔ کل فایل ویرایش کنند.