विषय

इनफ़्रेंस के लिए बुनियादी ढाँचा

इस विषय पर AI समाचार और व्यावहारिक लेख।

नवीनतम लेख

17

Cohere Model Vault का गोपनीय कंप्यूटिंग अब माइक्रोसॉफ्ट Azure पर NVIDIA H100 GPU के साथ पब्लिक बीटा में

Cohere ने Model Vault पर गोपनीय कंप्यूटिक की सार्वजनिक बीटा उपलब्ध है, जो माइक्रोसॉफ्ट Azure पर NVIDIA H100 GPU के साथ चलती है, जिसमें GPU मेमोरी सुरक्षा और OHTTP एन्क्रिप्शन शामिल है।

Cohere↗

NVIDIA यूरोपीय रिटेल में AI के व्यावहारिक उपयोग प्रदर्शित करता है

NVIDIA यूरोप में retail AI उपायों को GTC Berlin पर प्रदर्शित करता है: Shopify, Zooplus, Photoroom और अन्य लागत, खोज, डिजिटल डबल और भौतिक संचालन पर परिणाम दिखाते हैं।

NVIDIA↗

Google Cloud ने Anthropic प्रबंधित Claude मॉडल विन्यास विकल्प की घोषणा की

Google Cloud अब Anthropic प्रबंधित Claude मॉडल विकल्प प्रदान करता है, जिससे टीमों को सुविधाओं तक तत्काल पहुंच और नियंत्रण के बीच चयन मिलता है।

Google Cloud↗

Microsoft ने Maia 300 पेश किया - AI इंफेरेंस प्लेटफॉर्म की नई पीढ़ी

Microsoft ने Maia 300 को AI इंफेरेंस प्लेटफॉर्म की नई पीढ़ी के रूप में पेश किया और 2027 से Azure MaIA को मल्टी-गीगावाट तैनाती तक विस्तारित करने की योजना बनाई है।

Microsoft↗

Meta विज्ञापन अनुशंसाओं को बेहतर बनाने के लिए निष्क्रिय इन्फ़रेंस क्षमता का उपयोग करता है

Meta अपने फ्लीट में निष्क्रिय अनुमान क्षमता को बेहतर विज्ञापन अनुशंसाओं में बदल देता है, दो लोच लीवरों — RMA और SBM — का उपयोग करके जो बिना बेसलाइन प्रदर्शन से समझौता किए कार्य का विस्तार करते हैं।

Meta↗

GitHub Copilot स्थानीय और क्लाउड मॉडल के बीच कार्यों को स्वचालित रूप से चुनेगा

Microsoft का कहना है कि अक्टूबर 2026 के अंत तक Copilot स्वचालित रूप से यह तय करेगा कि कार्य को डिवाइस पर या क्लाउड में कहां निष्पादित करना है। स्थानीय मॉडल के आंकड़े कंपनी द्वारा प्रदान किए गए हैं।

Microsoft↗

OpenAI: Ultrafast GPT-6 Astra के लिए उपलब्ध है, लेकिन सीमाएँ अभी कम हैं

OpenAI, Ultrafast को अपने API का सबसे तेज़ सेवा स्तर बताता है। यह सभी API उपयोगकर्ताओं के लिए GPT-6 Astra पर कम दर सीमाओं के साथ उपलब्ध है; GPT-5.6 Sol के लिए पूर्वावलोकन पहुंच उपलब्ध है।

OpenAI Developers↗

CoreWeave ने NVIDIA Vera Rubin NVL72 क्लाउड सिस्टम लॉन्च किए

CoreWeave ने क्लाउड में NVIDIA Vera Rubin NVL72 सिस्टम तक शीघ्र पहुँच प्रदान की, जो Spectrum‑X नेटवर्किंग के साथ एकीकृत हैं, और एजेंटिक AI वर्कफ़्लो के लिए नए टूल के साथ।

NVIDIA↗

Google DeepMind ने Private AI Compute के लिए स्थायी मेमोरी की घोषणा की

Google DeepMind ने Private AI Compute में अपडेट की घोषणा की: उपयोगकर्ताओं के उपकरणों पर एन्क्रिप्शन कुंजियों के साथ नियोजित सुरक्षित संदर्भ भंडारण।

Google DeepMind↗

GPT-6 Sol और GPT-6 Luna मॉडल Amazon Bedrock पर उपलब्ध हो गए हैं।

अमेज़न ने अपनी Bedrock सेवा में GPT-6 मॉडल के नए संस्करण जोड़े हैं। ये पिछले मॉडलों की तुलना में सस्ते हैं, प्रॉम्प्ट कैशिंग का समर्थन करते हैं, और उच्च सटीकता प्रदर्शित करते हैं।

AWS↗

AWS ने एजेंट स्टार्टअप सुधारने के लिए AgentCore Runtime अपडेट किया

AWS ने AgentCore Runtime में कोल्ड स्टार्ट स्थिर करने के लिए स्नैपशॉट आधारित अनुकूलन और सत्र के दौरान अनुपयोगी मेमोरी मुक्त करने की सुविधा प्रस्तुत की।

AWS↗

NVIDIA ने बढ़ी हुई ऊर्जा दक्षता वाली Vera Rubin प्रणाली प्रस्तुत की है।

NVIDIA पिछली आर्किटेक्चर की तुलना में Vera Rubin NVL72 प्रणाली के प्रदर्शन और ऊर्जा दक्षता में महत्वपूर्ण वृद्धि की रिपोर्ट करता है।

NVIDIA↗

NVIDIA ने AI संगणना वितरित करने के लिए PAIR उपकरण प्रस्तुत किया।

NVIDIA Personal AI Router उपयोगकर्ताओं को एक स्थानीय नेटवर्क में कई कंप्यूटरों की शक्ति को संयोजित करने की अनुमति देता है ताकि AI एजेंटों के काम को गति दी जा सके।

NVIDIA↗