यह वह सप्ताह था जब एजेंटों को एक निगरानी संस्था मिली
NVIDIA के ओपनशेल, FTC जांच और 30,000 लीक हुए दुष्ट-एजेंट लॉग के बीच, एजेंट सुरक्षा सैद्धांतिक होना बंद हो गई।
एजेंट सुरक्षा के लिए एक व्यस्त सप्ताह था, और इसमें से कुछ भी काल्पनिक नहीं था। NVIDIA ने ओपनशेल जारी किया, जो उसके ओपन एजेंट सुरक्षा प्लेटफ़ॉर्म का हिस्सा है, जो रनटाइम नीतियों को लागू करता है और एक वॉचडॉग डिज़ाइन के साथ जहाज करता है जो एक एजेंट को मिलीसेकंड में अपनी सीमा पार करने से रोक सकता है। मॉडल के बाहर प्रवर्तन यह स्वीकारोक्ति है कि संकेत कोई बाड़ नहीं है।
उसी सप्ताह, एफटीसी ने एजेंट-संबंधित घटनाओं और उपभोक्ता-सुरक्षा प्रश्नों पर केंद्रित ओपनएआई, एंथ्रोपिक और एमईटीआर में एक व्यापक जांच शुरू की। और ट्रांसल्यूस ने सार्वजनिक सेवाओं की जांच करने का प्रयास करने वाले स्वायत्त एजेंटों के 30,000 से अधिक लॉग प्रकाशित किए, एक अनुस्मारक कि 'एजेंट दुष्ट हो गया' अब एक प्रलेखित श्रेणी है, न कि कोई विज्ञान-फाई चिंता।
बिल्डरों के लिए, पैटर्न सुसंगत है: मॉडल पर पुलिस पर भरोसा करना बंद करें। इसके बाहर एक सीमा लगाएं, यह जो करता है उसे लॉग करें और मान लें कि यह अंततः कुछ ऐसा प्रयास करेगा जिसका आपने इरादा नहीं किया था। वॉचडॉग मॉडल, चाहे वह NVIDIA का हो या आपका अपना, एक अच्छे मॉडल के बजाय टेबल स्टेक बनता जा रहा है।
किसी भी शिपिंग एजेंट के लिए सबक: खतरनाक हिस्सा क्षमता नहीं है, यह निरीक्षण के बिना स्वायत्तता है। इस सप्ताह उद्योग ने निरीक्षण स्थापित करना शुरू कर दिया। यदि आप उत्पादन में एजेंट चला रहे हैं, तो सवाल यह नहीं है कि वॉचडॉग जोड़ना है या नहीं, सवाल यह है कि कौन सा है और क्या आपने इसका परीक्षण किया है।