आपको संभवतः फ्रंटियर मॉडल की आवश्यकता नहीं है। यहाँ गणित है.
फ्रंटियर मूल्य निर्धारण केवल तभी समझ में आता है जब कार्य इसके लिए भुगतान करता है। अधिकांश कार्यों के लिए, लागत के दसवें हिस्से पर एक छोटा मॉडल जीतता है।
सीमांत मॉडल आश्चर्यजनक हैं और मैं जो भी करता हूं उनमें से अधिकांश पैसे की बर्बादी है। एस्ट्रा की कीमत के पांचवें हिस्से पर जीपीटी-6.1 सोल, प्रति कार्य 30% कम लागत पर क्लाउड सॉनेट 5.5, और एक दर्जन ओपन-वेट मॉडल जिन्हें आप स्वयं होस्ट कर सकते हैं, सभी वास्तविक कार्यों को संभालते हैं: प्रारूपण, सारांश, वर्गीकरण, हल्की कोडिंग। फ्लैगशिप की बढ़त मेरे बिलों का भुगतान करने वाले काम में शायद ही कभी दिखाई देती है।
वास्तविक कार्य पर गणित करें। यदि एक छोटा मॉडल आपको लागत के दसवें हिस्से पर 95% परिणाम देता है, और आप इसे महीने में दस हजार बार चलाते हैं, तो सीमांत मॉडल की गुणवत्ता के एक टुकड़े के लिए आपको नौ गुना अधिक कीमत चुकानी पड़ती है, जिस पर किसी का ध्यान नहीं जाता है। कठिन तर्क समस्या पर 5% वास्तविक है और समर्थन उत्तर पर अदृश्य है।
जहां सीमांत अभी भी कमाता है वह वास्तव में कठिन चीज है: लंबी-क्षितिज कोडिंग, गड़बड़ बहु-चरण अनुसंधान, कुछ भी जहां गलत होना महंगा है। मैं उनके लिए एक फ्रंटियर सब्सक्रिप्शन रखता हूं, और बाकी सभी चीजों को सस्ते स्तर पर ले जाता हूं। विभाजन संपूर्ण अनुकूलन है.
ट्रैप सर्वश्रेष्ठ के लिए डिफ़ॉल्ट है क्योंकि यह शीर्षक है। मॉडल को कार्य के हिस्से और मात्रा से मिलाएं। आपका अधिकांश AI खर्च उस मॉडल पर होना चाहिए जिसके बारे में कोई नहीं लिखता है, और यह ठीक है।
