01 क्या हुआ
5 नवंबर 2026 को, माइक्रोसॉफ्ट ने Foundry Local की घोषणा की, जो स्थानीय एजेंटिक कोडिंग के लिए एक प्लेटफॉर्म है जो Qwen3.8-27B मॉडल को उपयोगकर्ता के GPU पर चलाता है। कोड और कॉन्टेक्स्ट डिवाइस पर रहते हैं, जिससे क्लाउड लागत कम होती है और ऑफलाइन काम संभव होता है, हालांकि जटिल तर्क कार्यों के लिए क्लाउड मॉडल की सिफारिश की जाती है। इसके लिए कम से कम 24 GB VRAM वाले NVIDIA GPU की आवश्यकता है।
02 मुख्य विवरण
- Foundry Local को कम से कम 24 GB VRAM वाले NVIDIA GPU की आवश्यकता है; 24 GB 64K टोकन तक के कॉन्टेक्स्ट विंडो को सपोर्ट करता है, 32 GB या अधिक 262K टोकन के मॉडल की अधिकतम सीमा तक पहुंचता है।
- कोड और कॉन्टेक्स्ट डिवाइस से बाहर नहीं जाते; ऑफलाइन काम समर्थित है। GitHub Copilot के साथ Bring Your Own Key (BYOK) के ज़रिए एकीकरण।
- माइक्रोसॉफ्ट ने RTX 5090 (32 GB) और DGX Spark पर Foundry Local की तुलना llama.cpp से की; Foundry Local ने हर परीक्षण किए गए प्रॉम्प्ट लंबाई पर अधिक उत्पादन गति दी, खासकर 131K टोकन से ऊपर।
- Foundry Local CLI 0.13.0+ और CUDA/cuDNN की अलग स्थापना आवश्यक है, क्योंकि Foundry Local ये निर्भरताएँ डाउनलोड नहीं करता। Mac और AMD GPU के लिए विस्तार की योजना है।
03 यह क्यों महत्वपूर्ण है
यह डेवलपर्स को स्थानीय रूप से एजेंटिक AI कोडिंग का उपयोग करने, क्लाउड API लागत से बचने, डेटा को डिवाइस पर रखने और ऑफलाइन काम करने की सुविधा देता है, हालांकि क्लाउड मॉडल की तुलना में इसकी तर्क क्षमता सीमित है।
04 किनके लिए महत्वपूर्ण है
सॉफ़्टवेयर डेवलपर्स.
मूल स्रोत