Sarvam AI ने कारोबारी वर्कफ़्लो में तय विकल्पों के बीच फैसले लेने के लिए ओपन-वेट एआई मॉडल Prism लॉन्च किया है। इसका Apache 2.0 लाइसेंस डेवलपर्स को मॉडल में अपनी जरूरत के मुताबिक बदलाव करने और उसे अपने इंफ्रास्ट्रक्चर पर तैनात करने की अनुमति देता है।
Sarvam AI ने Prism को अपने Sarvam 105B फाउंडेशन मॉडल पर बनाया है और फैसले लेने के लिए फाइन-ट्यून किया है। डेवलपर्स इसे एपीआई के जरिए इस्तेमाल कर सकते हैं या अपने इंफ्रास्ट्रक्चर पर तैनात करने के लिए इसके वेट डाउनलोड कर सकते हैं।
शब्द-दर-शब्द जवाब तैयार करने के बजाय Prism एक ही प्रोसेसिंग पास में पहले से तय विकल्पों को स्कोर देता है। इससे इसका इस्तेमाल ग्राहक सहायता के अनुरोधों को सही जगह भेजने, यह तय करने कि किसी दस्तावेज़ की आगे समीक्षा जरूरी है या नहीं, और यह जांचने में हो सकता है कि किसी एआई एजेंट ने काम सही ढंग से पूरा किया है या नहीं।
Sarvam के मुताबिक, Nvidia B200 जीपीयू पर Prism का मीडियन रिस्पॉन्स टाइम 44 मिलीसेकंड था। Atlan के एक सॉफ्टवेयर इंजीनियर के साझा किए गए अलग मूल्यांकन में B200 जीपीयू पर मीडियन लेटेंसी 65 मिलीसेकंड रही। डेवलपर्स को अब भी अपने वर्कलोड पर इसका प्रदर्शन परखना होगा और इतने बड़े मॉडल को होस्ट करने की लागत का आकलन करना होगा।
ओपन-वेट रिलीज से कंपनियों को फैसले लेने के लिए केवल बाहरी एपीआई पर निर्भर रहने के बजाय अपने यहां तैनात किया जा सकने वाला विकल्प मिलता है।
तय विकल्पों के लिए संभावनाएं लौटाने से ऐसे वर्कफ़्लो में इसे जोड़ना आसान हो सकता है, जिन्हें गद्य के बजाय पूर्वानुमेय आउटपुट चाहिए।
तुलनीय वास्तविक वर्कलोड पर प्रोडक्शन में इसकी रफ्तार, विश्वसनीयता और होस्टिंग की लागत के लिहाज से व्यवहार्यता अभी साबित नहीं हुई है।
यह पोस्ट ऊपर के स्रोत से Made in 10 समाचार कक्ष ने अपने-आप लिखी है।
Meta ने AI कोडिंग स्टार्टअप Conductor का अधिग्रहण किया है, जो अलग-अलग वर्कस्पेस में एक साथ कई एजेंट चलाता है। Conductor अपनी क्लाउड सेवा 20 नवंबर को बंद करेगा और इसके बाद यूज़र्स का क्लाउड डेटा मिटाना शुरू करेगा।
Together AI ने Together Compiler पेश किया है, जो मॉडल, ट्रैफिक और हार्डवेयर में बदलाव के साथ AI इन्फरेंस को अपने आप ऑप्टिमाइज़ करता है। कंपनी के मुताबिक, चुनिंदा ओपन-सोर्स मॉडल में 24 घंटे से भी कम समय में थ्रूपुट 2.6x तक बढ़ा है।
Bull और Schwarz Digits ने मिलकर यूरोपीय एआई और क्लाउड इन्फ्रास्ट्रक्चर विकसित करने पर सहमति जताई है। कंपनियों का कहना है कि प्रस्तावित तकनीकी ढांचे में संवेदनशील डेटा, इन्फ्रास्ट्रक्चर और संचालन यूरोपीय अधिकार क्षेत्र और नियंत्रण में रहेंगे।