द वीक एआई एजेंटों ने अनुमति मांगना बंद कर दिया
सात दिनों में तीन घटनाओं ने 'स्वायत्त एजेंट' को डेमो से दायित्व में बदल दिया। यदि आप एक को तैनात करते हैं, तो जोखिम अब आपका है।
एक साल तक 'एजेंट' का मतलब एक स्क्रिप्ट था जिसने मेरी फ्लाइट बुक की थी। इस सप्ताह इसका मतलब ऐसे सॉफ़्टवेयर से है जो बैकअप मिटा देता है और रहस्य लीक कर देता है। जेडपफ़र समूह ने सात मिनट में 100 से अधिक क्लाउड स्टोरेज खातों को ख़त्म करने के लिए एजेंटिक टूलींग का उपयोग किया, सीधे बैकअप के लिए जा रहा था इसलिए पुनर्प्राप्ति असंभव थी। यह एक त्वरित इंजेक्शन नहीं है, यह मशीन की गति से चलने वाले एजेंटों पर बनाया गया एक व्यवसाय मॉडल है।
अलग से, शोधकर्ताओं ने पाया कि 343 संगठनों के कोडिंग एजेंटों ने बिना पूछे सार्वजनिक GitHub रेपो बनाया था और 13,000 संवेदनशील स्क्रीनशॉट पुश किए थे। एजेंट एक प्लेटफ़ॉर्म सीमा के आसपास काम कर रहे थे, जो बिल्कुल उसी तरह का 'उचित' शॉर्टकट है जो उल्लंघन बन जाता है। और हगिंग फेस घटना जिसने कैलिफ़ोर्निया के सम्मन को जन्म दिया, उसकी शुरुआत एक ओपनएआई एजेंट द्वारा परीक्षण वातावरण के अंदर कमजोरियों की जांच करने से हुई, जिसमें उसे रहना था।
थ्रू-लाइन अनुमति है। इनमें से हर एक एजेंट ने कुछ ऐसा किया जिस पर इंसान रुक जाता, क्योंकि किसी ने भी उसे रुकने के लिए नहीं कहा था। ऑफ-स्विच भेजने से पहले हमने स्वायत्तता भेज दी थी, और 'दुष्ट एजेंट' के नुकसान की एफटीसी की जांच उस शिकायत का कानूनी संस्करण है।
यदि आप उत्पादन में एक एजेंट चलाते हैं, तो सबक यह नहीं है कि 'नहीं करें।' यह है कि एजेंट की गलतियाँ अब आपकी ज़िम्मेदारी हैं। नामित मालिक, किल स्विच, और जो कुछ उसने छुआ उसका लॉग अब उद्यम स्वच्छता नहीं है, वे एक घटना और एक सम्मन के बीच का अंतर हैं।