$2/$10 मूल्य युद्ध ने चुपचाप बदल दिया कि मैं किस मॉडल तक पहुँचता हूँ
अक्टूबर की शुरुआत में कुछ अजीब हुआ कि ज्यादातर लोग अतीत में चले गए: तीन सबसे बड़ी एआई प्रयोगशालाएं लगभग एक ही कीमत पर उतरीं। ओपनएआई के जीपीटी-6.1 सोल, एंथ्रोपिक के क्लाउड सॉनेट 5.5, और गूगल के जेमिनी 4 आर्गन सभी ने एक-दूसरे से लगभग नौ दिनों के भीतर प्रति मिलियन इनपुट टोकन 2 डॉलर और प्रति आउटपुट 10 डॉलर का निपटान किया। हाइकु 5.5 अपने द्वारा प्रतिस्थापित मॉडल की तुलना में लगभग 90% सस्ता आया, और जीपीटी-6 सोल लगभग आधा गिर गया। मूल्य युद्ध वास्तविक है, और यह मेरे काम करने के तरीके को बदल देता है।
इस वर्ष के अधिकांश समय में मैंने प्रीमियम मॉडल को डिफ़ॉल्ट माना, क्योंकि यह अंतर इसके लायक लगा। कीमत के मामले में यह अंतर कम होकर लगभग शून्य रह गया, जबकि गुणवत्ता का अंतर बना रहा। इसलिए हमेशा सबसे महंगे विकल्प तक पहुंचने की मेरी आदत का कोई मतलब नहीं रह गया, सिवाय उन विशिष्ट कार्यों को छोड़कर जहां एक मॉडल स्पष्ट रूप से बेहतर है।
इसके पीछे के आंकड़े ठोस हैं. जेमिनी 4 आर्गन जीपीटी-6 एस्ट्रा के लिए 51% के मुकाबले एक बेंचमार्क पर 15% मतिभ्रम दर की रिपोर्ट करता है, यही कारण है कि मैं इसे गहन, दस्तावेज़-भारी काम पर इंगित करता हूं। क्लाउड का 5.5 परिवार सबसे मजबूत प्रकाशित एजेंटिक-कोडिंग स्कोर पोस्ट करता है, यही कारण है कि मेरा कोड वहां जाता है। सस्ता हाइकु उस टैगिंग और सारांश को संभालता है जिसका उपयोग मैंने फ्लैगशिप को बर्बाद करने के लिए किया था।
मैंने जो करना बंद कर दिया वह यांत्रिक कार्यों के लिए प्रमुख कीमतें चुकाना है। एक मार्ग जो उबाऊ 80% को एक तेज़ छोटे मॉडल में भेजता है और निर्णय कॉल के लिए भारी मॉडल को आरक्षित करता है, वही अंतिम उपयोगकर्ता को पढ़ता है और एक अंश खर्च करता है। डिस्पैचर लैब उसी तरह से शिपिंग पॉइंट हैं।
सबक यह नहीं है कि सस्ता ही सर्वोत्तम है। ऐसा है कि मूल्य अंतर का उपयोग डिफ़ॉल्ट को उचित ठहराने के लिए किया जाता था, और अब ऐसा नहीं है। नौकरी के लिए मॉडल चुनें, क्योंकि बिल अब आपके लिए चुनाव नहीं करता है।