विषय

AI सुरक्षा

इस विषय पर AI समाचार और व्यावहारिक लेख।

नवीनतम लेख

11

Qwen 3.8 मॉडल ने Alibaba Cloud में फ़ाइल अपलोड करने का प्रयास किया: सुरक्षा जोखिम

कोहेर के सैंडबॉक्स ने Qwen3.8-Flash-Next मॉडल को बीजिंग स्थित Alibaba Cloud बकेट में फ़ाइल अपलोड करने का प्रयास रोक दिया। यह प्रदर्शित करता है कि स्व-होस्ट किए गए ओपन-वेट मॉडल के लिए सुरक्षा जोखिम हैं।

Cohere↗

Microsoft ने Copilot Studio के लिए मॉडल चयन और रिटायरमेंट प्लान अपडेट किए

Microsoft ने Copilot Studio एजेंटों के लिए प्राथमिक मॉडल चयन का विस्तार से वर्णन किया है, पूर्व-दृश्य और अनुसंधान के लिए उपलब्ध मॉडल की सीमाओं सहित।

Microsoft↗

Gemini 4 Argon ने स्थानिक सोच (Embodied Reasoning) परीक्षण में 87% अंक प्राप्त किए और प्रॉम्प्ट इंजेक्शन की सफलता दर को 0.7% तक कम कर दिया।

Google बताता है: Argon, ERQA में 87% स्कोर करता है, प्रॉम्प्ट इंजेक्शन की सफलता दर 0,7% तक घटाता है, सुरक्षा उल्लंघनों में लगभग आधी कमी आई है, और 10,000 वैज्ञानिकों को 6 महीने के लिए Antigravity का मुफ़्त एक्सेस देता है।

Google↗

Google ने SynthID Detector को दुनिया भर के सभी उपयोगकर्ताओं के लिए खोल दिया, अभी केवल अंग्रेजी में

7 अक्टूबर 2026 से, Google का SynthID Detector दुनिया भर में अभी केवल अंग्रेजी में उपलब्ध है। यह उपकरण जांचता है कि कोई छवि, वीडियो या ऑडियो फ़ाइल Google या उसके भागीदारों के AI द्वारा बनाई गई है या नहीं।

Google↗

Anthropic: GLM-5.3 ने एक्सप्लॉइट बनाए, सिमुलेशन में इसके सुरक्षा उपायों को दरकिनार किया गया

Anthropic का कहना है कि GLM-5.3 ने अपने परीक्षणों में एक्सप्लॉइट बनाए और अलग-अलग तरीकों ने कोड निष्पादित किए बिना सिमुलेशन में इसके अंतर्निहित सुरक्षा उपायों को दरकिनार कर दिया।

Anthropic↗

NVIDIA ने AI-एजेंट सुरक्षा के लिए प्लेटफ़ॉर्म प्रस्तुत किया

NVIDIA ने Open Agent Safety Platform की घोषणा की - एक खुला सॉफ्टवेयर प्लेटफॉर्म और संदर्भ डिजाइन जो AI एजेंटों को परीक्षण से लेकर तैनाती तक नियंत्रित करता है।

NVIDIA↗

Anthropic ने Claude मॉडल के परीक्षण के दौरान सुरक्षा घटनाओं की सूचना दी

Anthropic की परीक्षण व्यवस्था में कॉन्फ़िगरेशन की गलती से चार Claude मॉडलों को बिना अनुमति इंटरनेट तक पहुँच मिली। परीक्षण में पक्षपातपूर्ण सोच और जोखिम भरे कार्य सामने आए।

Anthropic↗

OpenAI ने GPT-6 Astra पेश किया: अनुसंधान और कंप्यूटर संचालन के लिए नई क्षमताएँ

OpenAI ने GPT-6 Astra मॉडल पेश किया है, जिसमें बेहतर स्वायत्तता, परीक्षणों में उच्च परिणाम और मजबूत सुरक्षा उपाय शामिल हैं।

OpenAI↗