Best AI Utility logo
Best AI Utility
ब्लॉग पर वापस जाएँ
27 अक्टूबर 2026
8 मिनट पढ़ें
Opinion

एजेंट चेकलिस्ट जो वास्तव में मुझे सोने देती है

दुष्ट-एजेंट की कहानियों के एक सप्ताह के बाद, मैंने यह पूछना बंद कर दिया कि क्या कोई मॉडल तैनात करने के लिए पर्याप्त स्मार्ट था और पूछना शुरू कर दिया कि क्या मैं साबित कर सकता हूँ

दुष्ट-एजेंट की कहानियों के एक सप्ताह के बाद, मैंने यह पूछना बंद कर दिया कि क्या कोई मॉडल तैनात करने के लिए पर्याप्त स्मार्ट था और यह पूछना शुरू कर दिया कि क्या मैं यह साबित कर सकता हूं कि उसने इसके बाद क्या किया। दूसरा प्रश्न वह है जो मुझे सुरक्षित रखता है।

मेरी चेकलिस्ट छोटी और समझौता योग्य नहीं है। एजेंट द्वारा की जाने वाली प्रत्येक कार्रवाई की सूची बनाएं जिसे पूर्ववत नहीं किया जा सकता। हर एक को एक मानव या एक कठिन नियम के पीछे गेट करें। जो कुछ चला उसका एक अपरिवर्तनीय लॉग रखें। इसमें से कुछ भी विदेशी नहीं है, और यह सब उबाऊ है, यही कारण है कि लोग इसे छोड़ देते हैं।

जिस भाग ने मेरा व्यवहार बदला वह लॉग है। तथ्य यह है कि एक एजेंट जो उत्पादकता बैज पहने हुए एक दायित्व है, उसे मैं स्पष्ट नहीं कर सकता। यदि मैं इसका ऑडिट नहीं कर सकता, तो यह वास्तविक, पूर्ण विराम जैसी किसी भी चीज़ को नहीं छूता।

मैंने देखा कि टीमें सुरक्षा को एक मॉडल सुविधा के रूप में मानती हैं, कुछ ऐसा जो लैब जहाज करता है। ऐसा नहीं है. सुरक्षित एजेंट एक आर्किटेक्चर है: स्कोप्ड अनुमतियाँ, एक अनुमति सूची, अपरिवर्तनीय पर एक मानव द्वार। मॉडल केवल वह हिस्सा है जो बात करता है।

क्षमता तैनात करें, पिंजरा स्थापित करें। पिंजरा विशेषता है, और इसे छोड़ना गति नहीं है। यह शर्त है कि पहली बार जब एजेंट कुछ ऐसा करेगा जो आपने नहीं मांगा तो आपको पछतावा होगा।

Put one of these tools on the leaderboard

Every rank on Best AI Utility is paid and time-stamped — outbid the current holder with one crypto payment and the rank is yours until someone outbids you.

संबंधित आलेख

और ज्यादा खोजें