एआई एजेंट अभी भी क्या नहीं कर सकते (प्रतिनिधित्व की कोशिश के एक वर्ष के नोट्स)
डेमो में एजेंटों को उड़ानें बुक करने और बग्स को ठीक करते हुए दिखाया गया है। वास्तविक प्रतिनिधिमंडल के एक वर्ष ने मुझे सीमाएँ सिखाईं, और यह सुसंगत है।
मैंने वास्तव में एआई एजेंटों को काम सौंपने की कोशिश में एक साल बिताया है: वास्तविक कार्य, वास्तविक समय सीमा, वास्तविक परिणाम। डेमो नकली नहीं हैं; उनमें कार्य सम्पन्न हो जाते हैं। डेमो में जो छिपा है वह सीमा का आकार है, जो मेरे द्वारा आजमाए गए प्रत्येक एजेंट के लिए उल्लेखनीय रूप से सुसंगत है।
सीमा का पहला पक्ष: एजेंट उन लक्ष्यों में विफल होते हैं जिनका पूरा होना अस्पष्ट होता है। 'इस कोडबेस को साफ़ करें' आत्मविश्वास से गलत पुनर्गठन उत्पन्न करता है, क्योंकि कोई विशिष्टता नहीं थी और एजेंट कार्यालय से ऐसे प्रश्न नहीं पूछ सकता जो सतह पर आ जाएं। प्रत्यायोजन ठीक उस स्तर तक कार्य करता है जो पहले से निश्चित है। अधिकांश ज्ञान कार्य नहीं है.
दूसरा पक्ष: एजेंट उन संदर्भों में विफल हो जाते हैं जो गणना का विरोध करते हैं। उड़ान की बुकिंग असंख्य है (साइटें, फॉर्म, पुष्टिकरण)। किसी ऐसे व्यक्ति के साथ अनुबंध पर दोबारा बातचीत करना जिसका दिन ख़राब चल रहा हो, सही नहीं है। असफलता क्षमता नहीं है; यह है कि वास्तविक संदर्भों में ऐसी जानकारी होती है जो इसे कभी भी किसी संकेत में नहीं डालती है, और एजेंट को वह नहीं पता होता है जो वह नहीं जानता है।
तीसरा पक्ष शांत है: एजेंट परिणाम में असफल हो जाते हैं। वे गलत आधार पर भी उसी आत्मविश्वास के साथ कार्य करेंगे जैसे कि सही आधार पर, क्योंकि उनके पाश में कुछ भी दांव पर नहीं लगता। मेरे द्वारा बनाए गए प्रत्येक वास्तविक प्रतिनिधिमंडल प्रणाली में अंततः अपरिवर्तनीय कार्रवाई के क्षण में एक मानव चेकपॉइंट विकसित हुआ, इसलिए नहीं कि एजेंट अक्सर गलती करता था, बल्कि इसलिए क्योंकि जब वह गलती करता था तो क्षति होने तक कोई संकेत नहीं होता था।
इनमें से कोई भी बर्खास्तगी नहीं है; इस वर्ष असंख्य और निश्चित क्षेत्र में भी वास्तविक जीत हासिल हुई, जो संशयवादियों के विचार से कहीं अधिक बड़ी है। लेकिन सीमा का ईमानदार नक्शा डेमो से अधिक मायने रखता है, क्योंकि विफल प्रतिनिधिमंडल क्षमता की समस्या नहीं थे। वे विशिष्टता संबंधी समस्याएं थीं, और कोई भी मॉडल सुधार आपके लिए आपकी विशिष्टता नहीं लिखता।