01 क्या हुआ
Anthropic ने Zhipu AI (Z.ai) के GLM-5.3 के साइबर क्षमताओं का एक मूल्यांकन प्रकाशित किया है। कंपनी का कहना है कि मॉडल ने अपने परीक्षणों में एक्सप्लॉइट बनाए। GLM-5.3 को ओपन वेट्स के साथ जारी किया गया था; Anthropic के अनुसार, इसमें दुरुपयोग के खिलाफ सार्थक सुरक्षा उपायों का अभाव है, हालांकि इसमें अंतर्निहित इनकार (refusals) मौजूद हैं।
02 मुख्य विवरण
- Anthropic के ExploitBench परीक्षण में, GLM-5.3 ने 410 में से 50 प्रयासों में एंड-टू-एंड एक्सप्लॉइट बनाए; Claude Mythos Preview ने 410 में से 56 में ऐसा किया।
- एक अलग आंतरिक परीक्षण में, 100 बेतरतीब ढंग से चुने गए कार्यों में, GLM-5.3 ने 4% परीक्षणों में पूर्ण नियंत्रण-प्रवाह अपहरण (full control-flow hijack) प्राप्त किया, Claude Mythos Preview ने 6% में; Claude Opus 4.6 और GLM-5.2 किसी भी कार्य में सफल नहीं हुए।
- Anthropic के सिमुलेशन में, प्रति शर्त 50 नमूनों के साथ, एक भ्रामक कवर स्टोरी, प्रीफिलिंग थिंकिंग टोकन, और रिफ्यूज़ल हटाए गए कॉपी ने क्रमशः 64%, 92% और 100% मामलों में प्रतिक्रिया उत्पन्न की। कोई कोड निष्पादित नहीं किया गया, और मॉडल बाहरी सिस्टम तक पहुंच नहीं सका।
- Anthropic का कहना है कि रिफ्यूज़ल हटाने में लगभग 2,200 GPU-घंटे लगे और लगभग $4,400 की लागत आई। रिफ्यूज़ल दरें 90% से ऊपर से घटकर JailbreakBench पर 3%, HarmBench पर 2% और StrongREJECT पर 12% हो गईं।
03 यह क्यों महत्वपूर्ण है
Anthropic के परिणाम एक ओपन-वेट मॉडल में एक्सप्लॉइट-निर्माण क्षमता और सिम्युलेटेड परीक्षणों में विफल रहे अंतर्निहित सुरक्षा उपायों की ओर इशारा करते हैं। ये निष्कर्ष सुरक्षा टीमों और ओपन मॉडलों के साइबर जोखिमों का आकलन करने वाले संगठनों के लिए महत्वपूर्ण हैं।
04 किनके लिए महत्वपूर्ण है
सूचना सुरक्षा विशेषज्ञ, AI डेवलपर, मॉडल मूल्यांकन विशेषज्ञ और ओपन AI मॉडलों के जोखिमों का आकलन करने वाले संगठन।
मूल स्रोत