01 क्या हुआ
Salesforce ने Koa Decisions लॉन्च किया, जो Google Gemma पर आधारित एक निर्णय मॉडल है, जो 26 मिलीसेकंड में अनुरोधों को प्रोसेस करता है, जो सामान्य LLM के 1.4 सेकंड से 50 गुना तेज है।
02 मुख्य विवरण
- Koa Decisions Google Gemma पर आधारित है और अनुरोधों को मिलीसेकंड में रूटिंग करता है, साथ ही इमेज और ऑडियो का समर्थन करता है।
- परीक्षणों में, यह ~26 मिलीसेकंड में काम करता है, जो सामान्य LLM (~1.4 सेकंड) से 50 गुना तेज है।
- उपयोगकर्ता Trailhead पर मुफ्त डेमो का उपयोग कर मॉडल का परीक्षण कर सकते हैं।
- Koa Decisions को Salesforce फ्लो, Apex, प्रॉम्प्ट टेम्पलेट और एक डेवलपर API के साथ विस्तारित करने की योजना है।
03 यह क्यों महत्वपूर्ण है
Koa Decisions एंटरप्राइज़ एजेंटों के लिए त्वरित निर्णय लेने में मदद करता है, LLM के लिए अतिरिक्त भार को कम करता है और कार्यप्रणाली को अधिक कुशल बनाता है।
04 किनके लिए महत्वपूर्ण है
एआई उत्पाद डेवलपर्स, वॉइस इंटरफ़ेस डेवलपर्स, बार-बार दोहराए जाने वाले अनुरोधों वाले संगठन, एंटरप्राइज एआई ग्राहक और एआई बुनियादी ढांचा इंजीनियर.
मूल स्रोत