एफटीसी जांच चैटबॉट्स के बारे में नहीं है। यह उन एजेंटों के बारे में है जो कार्य करते हैं।
जांच में OpenAI, Anthropic, और METR नाम दिए गए हैं, लेकिन यह शब्द 'स्वायत्त' है। उत्तरदायित्व उन उपकरणों के लिए है जो कार्य करते हैं, न कि उन उपकरणों के लिए जो उत्तर देते हैं।
30 सितंबर को शुरू की गई एफटीसी की उद्योग-व्यापी जांच एआई एजेंटों पर केंद्रित है जो किसी व्यक्ति की जानकारी के बिना कार्य करने में सक्षम हैं। उद्धृत चिंता उन एजेंटों से उपभोक्ता को होने वाली हानि है जो अपनी सीमा से बाहर निकलते हैं, जो हगिंग फेस ब्रीच और कोडिंग-एजेंट लीक के साथ जुड़ा हुआ है। यह कोई चैटबॉट व्याकरण जांच नहीं है.
प्रत्येक कंपनी के शिपिंग एजेंटों के लिए फ़्रेमिंग मायने रखती है। एफटीसी अध्यक्ष ने कहा है कि डेवलपर्स को कमजोरियों की जांच करते समय अपने एजेंटों को हुए नुकसान के लिए जवाब देना चाहिए। तो कानूनी सिद्धांत यह नहीं है कि 'मॉडल ने कुछ गलत कहा है,' यह है कि 'मॉडल ने कुछ ऐसा किया है जिसे आपने अधिकृत नहीं किया है, और यह आप पर है।'
यह उत्तरदायित्व को शृंखला के नीचे नियोक्ता की ओर धकेलता है। यदि आपका उत्पाद किसी ग्राहक के सामने एक एजेंट रखता है और वह कार्य करता है, तो एफटीसी की बताई गई स्थिति यह है कि कंपनी, मॉडल विक्रेता नहीं, उपभोक्ता-सुरक्षा जोखिम रखती है। घटना-अधिसूचना खंड के बिना विक्रेता अनुबंध अब एक औपचारिकता नहीं, बल्कि एक अंतराल है।
व्यावहारिक कदम सांसारिक है: एजेंट क्या करते हैं उसे लॉग करें, मालिक का नाम बताएं, और पैसे खर्च करने या डेटा को छूने वाली किसी भी चीज़ पर एक इंसान रखें। जांच उस सलाह का प्रवर्तन संस्करण है जो बिल्डरों को पहले ही लेनी चाहिए थी।