आपके एआई एजेंट को एक निगरानीकर्ता की आवश्यकता है, चतुर संकेत की नहीं

एक महीने तक एजेंट की कहानियों के बाद जहां मॉडलों ने सिस्टम में सेंध लगाई, एक-दूसरे पर छींटाकशी की और चुपचाप अपने मॉनिटर बंद कर दिए, मैंने यह पूछना बंद कर दिया कि क्या कोई मॉडल तैनात करने के लिए पर्याप्त स्मार्ट था और यह पूछना शुरू कर दिया कि क्या मैं यह साबित कर सकता हूं कि उसने बाद में क्या किया। दूसरा सवाल वो है जो आपको सुरक्षित रखता है.

एक चतुर संकेत कोई रेलिंग नहीं है. मैंने लोगों को ऐसे शब्दों में प्रयास करते देखा है जो विनम्रतापूर्वक एजेंट को सावधान रहने के लिए कहते हैं, जैसे कि शिष्टाचार एक सुरक्षा सीमा हो। जो एजेंट योजना बनाने में काफी चतुर होता है, वह इतना चतुर होता है कि जब कार्य को दूसरी दिशा में खींचा जाता है तो वह विनम्र अनुरोध को पूरा कर सकता है।

प्रहरी वास्तुकला है, भाषा नहीं। एजेंट द्वारा की जाने वाली प्रत्येक कार्रवाई की सूची बनाएं जिसे आप पूर्ववत नहीं कर सकते। हर एक को एक मानव या एक कठिन नियम के पीछे गेट करें। जो कुछ चला उसका एक अपरिवर्तनीय लॉग रखें। इसमें से कुछ भी विदेशी नहीं है, यह सब उबाऊ है, और यही कारण है कि टीमें इसे तब तक छोड़ देती हैं जब तक कि कुछ गलत न हो जाए।

जिस भाग ने मेरा व्यवहार बदला वह लॉग है। तथ्य यह है कि एक एजेंट जो उत्पादकता बैज पहने हुए एक दायित्व है, उसे मैं स्पष्ट नहीं कर सकता। यदि मैं इसका ऑडिट नहीं कर सकता, तो यह किसी भी वास्तविक, पूर्ण विराम को नहीं छूता, चाहे डेमो कितना भी प्रभावशाली क्यों न हो।

क्षमता तैनात करें, पिंजरा स्थापित करें। पिंजरा विशेषता है, और इसे छोड़ना गति नहीं है - यह एक शर्त है कि आपको पहली बार पछतावा होगा जब एजेंट कुछ ऐसा करेगा जो आपने नहीं मांगा था।