मैं नियमित रूप से 80% बोरिंग को सस्ते मॉडल में भेजता हूँ। तुम्हें भी चाहिए।
क्लाउड हाइकू 5.5 अपने पूर्ववर्ती की तुलना में लगभग 75% सस्ता है, जिसने एआई पर मेरे पैसे खर्च करने के तरीके को बदल दिया है, न कि उस तरीके से जैसा आप सोचते हैं।
क्लॉड हाइकु 5.5 अपने पूर्ववर्ती की तुलना में लगभग 75% सस्ता है, इसने एआई पर मेरे पैसे खर्च करने के तरीके को बदल दिया है, न कि उस तरीके से जैसा आप सोचते हैं।
मेरी अधिकांश कॉलें उच्च-मात्रा और कम-हिस्सेदारी वाली होती हैं: टैगिंग, सारांश, रूटिंग, त्वरित उप-एजेंट चरण। उन्हें सबसे बड़े मॉडल की आवश्यकता नहीं है, और उनके लिए शीर्ष डॉलर का भुगतान करना बिल को बढ़ाने जैसा है।
तो मैं रूट करता हूं। सस्ता, तेज़ मॉडल 80% यांत्रिकी को संभालता है, और मैं भारी मॉडल को केवल निर्णय कॉल के लिए लाता हूं जहां गुणवत्ता वास्तव में दिखाई देती है। परिणाम अंतिम उपयोगकर्ता के लिए समान होता है और इसकी लागत बहुत कम होती है।
एंथ्रोपिक का समायोज्य सोच प्रयास और ओपनएआई के छोटे रूटिंग मॉडल एक ही तरह से इंगित करते हैं: भविष्य एक विशाल मॉडल नहीं है, यह एक डिस्पैचर वाला एक बेड़ा है।
जिस काम के लिए तेज छोटा मॉडल अच्छा काम करता है, उसके लिए प्रमुख कीमतें चुकाना बंद करें। डिस्पैचर ही असली अपग्रेड है.