आपका AI सारांश कुछ भी नहीं बताता है, और यही समस्या है
बिना किसी स्रोत वाला साफ़ सारांश एक विश्वसनीय अफवाह है। मैंने ऐसे किसी भी AI उत्तर पर भरोसा करना बंद कर दिया जिसका मैं पता नहीं लगा सका।
चैटबॉट से सबसे अच्छा दिखने वाला आउटपुट सारांश है: सुव्यवस्थित गोलियां, शांत स्वर, कोई हेजिंग नहीं। यह सबसे खतरनाक भी है, क्योंकि इसमें अक्सर कोई उद्धरण नहीं होता है जिसे आप जांच सकें।
मैंने इसे तब पकड़ा जब नीति परिवर्तन के एआई 'सारांश' में तारीख गलत हो गई, जो प्रशंसनीय लग रही थी। गद्य आश्वस्त था, तथ्य एक वर्ष पीछे था, और सत्यापित करने के लिए कोई लिंक नहीं था। स्रोत के बिना सारांश अच्छी फ़ॉर्मेटिंग के साथ केवल एक विनम्र अनुमान है।
अब मैं जिस सुधार का उपयोग करता हूं वह सरल है: मैं जिस किसी भी चीज पर कार्रवाई करूंगा या दोहराऊंगा, मैं स्रोत के बारे में पूछता हूं, फिर उसे खोलता हूं। यदि उपकरण यह नहीं बता पाता कि दावा कहां रहता है, तो मैं दावे को असत्यापित मानता हूं, भले ही यह कितना भी पक्का क्यों न लगे।
यही कारण है कि मैं साक्ष्य-आधारित किसी भी चीज़ के लिए एलिसिट और स्काइट जैसे अनुसंधान उपकरणों पर निर्भर रहता हूँ। वे कागज़ और सटीक वाक्य दिखाते हैं। एक चैटबॉट जो मेमोरी से व्याख्या करता है वह हमेशा उस टूल से एक कदम पीछे रहेगा जो अपना काम दिखाता है।
सारांशों का उपयोग उन्मुखीकरण के लिए करें, निष्कर्ष निकालने के लिए कभी नहीं। जिस क्षण आप शब्दों पर कुछ दांव पर लगाते हैं, मॉडल आपको रसीद दिखाता है।