निर्णय मॉडल बनाम बड़े मॉडल: जब एक छोटा मॉडल सही उपकरण होता है
एक दो-बिलियन-पैरामीटर मॉडल एक प्रतिशत से भी कम के लेबल के साथ उत्तर दे सकता है। इससे जो स्वचालित करने लायक है वह बदल जाता है।
यहां एक अंतर है जो एआई प्रवचन में खो जाता है: प्रत्येक प्रश्न के लिए एक मॉडल की आवश्यकता नहीं होती है जो निबंध लिख सके। पिछले वर्ष एक नई श्रेणी सामने आई है - निर्णय मॉडल - और वे बड़े पैमाने पर स्वचालित होने वाली चीज़ों को चुपचाप बदल रहे हैं।
एक निर्णय मॉडल एक काम करता है: कुछ इनपुट और एक टाइप किए गए प्रश्न को देखते हुए, यह एक संरचित विकल्प देता है। स्पैम या नहीं. यहां या वहां रूट करें. अनुमोदन करना या बढ़ाना। क्लाउड या स्व-होस्टेड। आउटपुट एक स्कोर वाला लेबल है, गद्य नहीं। क्योंकि इसमें केवल एक संकीर्ण कॉल करना होता है, यह छोटा हो सकता है - कुछ अरब पैरामीटर - और अनुरोध के अंदर, लैपटॉप पर, या फ़ोन पर चलाने के लिए पर्याप्त तेज़।
अर्थशास्त्र वह हिस्सा है जो निर्णय बदलता है। पर्प्लेक्सिटी का निर्णायक बिना किसी आउटपुट शुल्क के लगभग चार सेंट प्रति मिलियन इनपुट टोकन पर चलता है। क्लाउडफ्लेयर भी ऐसा ही है। कुछ स्थानीय स्तर पर दस मिलीसेकेंड से कम समय में चलते हैं। एक पाइपलाइन पर अंकगणित करें जो एक महीने में दस लाख वस्तुओं को वर्गीकृत करती है और एक सामान्य मॉडल और एक निर्णय मॉडल के बीच का अंतर संपूर्ण परियोजना बजट है।
जहां वे असफल होते हैं, वह बात हर किसी को बहुत देर से पता चलती है: निर्णय मॉडल निर्माण की दृष्टि से संकीर्ण होते हैं। किसी को किसी दस्तावेज़ का सारांश देने, उत्तर लिखने, या संदर्भ के दो परस्पर विरोधी टुकड़ों पर तर्क करने के लिए कहें और आपको आत्मविश्वास से कुछ छोटा और गलत मिलता है। उन्हें अपने प्रशिक्षण में जो भी पूर्वाग्रह बैठता है वह भी विरासत में मिलता है - पिछले निर्णयों पर प्रशिक्षित एक क्लासिफायर पैटर्न को नोटिस करने की क्षमता के बिना, बुरे निर्णयों सहित पिछले निर्णयों को पुन: उत्पन्न करेगा।
जो आर्किटेक्चर काम करता है वह स्तरित है, और यह वास्तव में उपयोगी हिस्सा है। निर्णय मॉडल को सामने रखें, जहां यह नियमित ट्रैफ़िक को फ़िल्टर करता है - वर्गीकृत करें, रूट करें, स्कोर करें - और केवल अनिश्चित मामलों को बड़े मॉडल तक बढ़ने दें। आपके अधिकांश वॉल्यूम को कभी भी महंगे स्तर की आवश्यकता नहीं होती है, और महंगे स्तर को अपना बजट उन मामलों पर खर्च करना पड़ता है जहां एक इंसान वास्तव में इंतजार कर रहा है।
मैं जिस मानसिक मॉडल पर वापस आता रहता हूं: उस मॉडल का उपयोग करें जो गद्य लिखता है जब आपको गद्य की आवश्यकता होती है, और एक मॉडल का उपयोग करें जो लेबल की आवश्यकता होने पर एक लेबल लौटाता है। लोग डिफ़ॉल्ट रूप से फ्रंटियर मॉडल तक पहुंचते हैं क्योंकि यह वह है जिसे वे जानते हैं, और फिर चुपचाप उन पैराग्राफों के लिए भुगतान करते हैं जिन्हें वे फेंकने जा रहे थे। पूछने लायक सवाल यह नहीं है कि मॉडल कितना स्मार्ट है, बल्कि यह है कि उत्तर का आकार क्या होना चाहिए।
अक्सर पूछे जाने वाले प्रश्न:
प्रश्न: एआई निर्णय मॉडल क्या है?
ए: एक टाइप किया गया उत्तर - एक लेबल, एक स्कोर, एक रूटिंग विकल्प - को टेक्स्ट उत्पन्न करने के बजाय, एक ही पास में वापस करने के लिए बनाया गया एक छोटा मॉडल। यह आम तौर पर एक सामान्य सहायक के आकार और लागत का एक अंश है, जो उच्च-मात्रा स्वचालन को किफायती बनाता है।
प्रश्न: मुझे चैटजीपीटी या क्लाउड के बजाय निर्णय मॉडल का उपयोग कब करना चाहिए?
उत्तर: जब कार्य गुप्त रूप से वर्गीकरण करना हो - स्पैम फ़िल्टरिंग, टिकट ट्राइएज, रूटिंग, अनुमोदन-या-बढ़ाना, डिडुप्लीकेशन - और उत्तर एक लेबल है। जब आपको गद्य, संदर्भ के आधार पर तर्क, या किसी व्यक्ति द्वारा पढ़ी जाने वाली किसी भी चीज़ की आवश्यकता हो तो एक सामान्य मॉडल का उपयोग करें।
प्रश्न: क्या निर्णय मॉडल बड़े मॉडलों की जगह लेते हैं?
उत्तर: वे पाइपलाइन के सामने बड़े मॉडलों को बदलते हैं, उसके बीच में नहीं। जो पैटर्न काम करता है वह है पहले सस्ता वर्गीकरण, दूसरा महंगी पीढ़ी, इस तरह आप लागत के एक अंश के लिए अधिकांश वॉल्यूम को संभाल लेते हैं।