अद्यतन 28 अक्टूबर 2026
5 मिनट पढ़ें
Opinion
$0.04 निर्णय मॉडल चुपचाप मेरी बहुत सारी प्रॉम्प्ट इंजीनियरिंग की जगह ले रहा है
मेरे आधे 'चतुर' संकेत सिर्फ ट्रेंच कोट में वर्गीकरण थे।
मैं फ्रंटियर मॉडल को चीजें तय करने के लिए विस्तृत संकेत लिखता था: स्पैम या नहीं, टियर ए या बी, आगे बढ़ना या बंद करना।
$0.04 प्रति मिलियन टोकन पर पर्प्लेक्सिटी के पीपीएलएक्स-निर्णायक और उसके साथियों ने मुझे एहसास दिलाया कि ये संकेत महंगे थिएटर थे।
दो बिलियन-पैरामीटर निर्णय मॉडल एक बार में वर्गीकरण करता है और एक साफ़ लेबल लौटाता है, पार्स करने के लिए कोई गद्य नहीं है।
मैंने उनमें से एक दर्जन कॉलों को बड़े मॉडल से हटा दिया और उपयोगकर्ता को कोई फर्क नजर आए बिना ही बिल कम हो गया।
प्रॉम्प्ट इंजीनियरिंग ख़त्म नहीं हुई है, लेकिन इसका एक हिस्सा वास्तव में कभी भी प्रेरित करने वाला नहीं था। यह निर्णय लेने की प्रक्रिया थी जिसके लिए हमने जरूरत से ज्यादा भुगतान किया।