01 क्या हुआ

4 नवंबर 2026 को AWS ने एक ब्लॉग पोस्ट प्रकाशित किया जिसमें प्रोडक्शन AI एजेंटों के लिए कॉन्टेक्स्ट इंजीनियरिंग की चार परतों का विवरण दिया गया, जिसमें ओपन-सोर्स रेफरेंस इंप्लीमेंटेशन Deep Insight का उपयोग किया गया। पोस्ट टोकन कटौती को मापता है: एक संयुक्त write-and-execute टूल प्रति स्क्रिप्ट ~95% टोकन बचाता है, और आवश्यकतानुसार स्किल लोड करने से सिस्टम प्रॉम्प्ट 20,000 से अधिक से घटकर स्टार्टअप पर लगभग 500 टोकन रह जाता है — ~97% की कमी।

02 मुख्य विवरण

  • AWS ने कॉन्टेक्स्ट इंजीनियरिंग की चार परतें प्रस्तावित कीं: आर्किटेक्चर आइसोलेशन, प्रॉम्प्ट कंट्रोल, फ़ाइल-आधारित एक्सटर्नलाइज़ेशन और वेरिफिकेशन।
  • Deep Insight का write-and-execute टूल फ़ाइल लेखन और निष्पादन को एक चरण में मिला देता है, जिससे प्रति स्क्रिप्ट ~95% टोकन बचते हैं।
  • आवश्यकतानुसार स्किल गाइड लोड करने से सिस्टम प्रॉम्प्ट 20,000 से अधिक से घटकर ~500 टोकन रह जाता है (~97% कमी)।
  • बार-बार कॉल किए जाने वाले एजेंटों के लिए चुनिंदा प्रॉम्प्ट कैशिंग से इनपुट टोकन लागत में 90% तक की कटौती हो सकती है।

03 यह क्यों महत्वपूर्ण है

जटिल डेटा विश्लेषण कार्यों को संभालने वाले AI एजेंट अक्सर 200K-टोकन कॉन्टेक्स्ट विंडो को ओवरफ्लो कर देते हैं, जिससे विफलताएँ और उच्च लागतें आती हैं। वर्णित तकनीकें कॉन्टेक्स्ट को कुशलतापूर्वक प्रबंधित करने के व्यावहारिक तरीके प्रदान करती हैं।

04 किनके लिए महत्वपूर्ण है

एआई एजेंट डेवलपर्स, मशीन लर्निंग इंजीनियर्स, सूचना सुरक्षा विशेषज्ञ, एंटरप्राइज प्रशासक और तकनीकी निदेशक.

मूल स्रोत
AWS