एआई का अजीब मामला जिसने इनकार कर दिया
जब कोई मॉडल उचित अनुरोध को अस्वीकार कर देता है, तो यह आपको अपने प्रशिक्षण के बारे में कुछ बता रहा है, न कि आपके कार्य के बारे में।
मैंने एक मॉडल से एक हल्की-फुल्की मार्केटिंग लाइन का मसौदा तैयार करने के लिए कहा और उसने सुरक्षा का हवाला देते हुए इनकार कर दिया। अनुरोध हानिरहित था; इनकार एक खिड़की थी कि मॉडल को कैसे आकार दिया गया था। ये क्षण कष्टप्रद हैं और अजीब तरह से जानकारीपूर्ण भी।
इनकार एक रुका हुआ अनुमान है, निर्णय नहीं। मॉडल आपके इरादे को नहीं तौल रहा है, यह उस पैटर्न से मेल खा रहा है जिसे उसके प्रशिक्षकों ने चिह्नित किया है। कभी-कभी यह सही होता है और नुकसान से बचाता है; कभी-कभी यह एक कुंद वस्तु होती है जो उचित प्रश्न को विफल कर देती है क्योंकि पैटर्न खराब प्रश्न के समान दिखता है।
मैंने इनकारों को एक दीवार नहीं, बल्कि एक त्वरित-डिज़ाइन संकेत के रूप में लेना सीख लिया है। लोड किए गए शब्द के बिना दोबारा लिखें, संवेदनशील भाग को अलग करें, या बस तटस्थ संस्करण के लिए पूछें और किनारे को स्वयं जोड़ें। दस में से नौ बार ट्रिगर शब्द चले जाने पर मॉडल खुशी-खुशी मदद करती है।
अजीब बात यह है कि इनकार से लैब के डर के बारे में कितना पता चलता है। एक मॉडल जो समुद्री डाकुओं का चुटकुला नहीं लिखती, वह आपको चोरी की तुलना में अपने प्रशिक्षण डेटा के बारे में अधिक बता रही है। इनकारों को किसी और की चिंता के मानचित्र के रूप में पढ़ें।