एआई में इस सप्ताह: एजेंट काम पर जाते हैं, मॉडल सस्ते हो जाते हैं
ओपनएआई, एंथ्रोपिक, गूगल और माइक्रोसॉफ्ट सभी ने इस सप्ताह एजेंटों को रोजमर्रा के टूल में गहराई से धकेल दिया, जबकि छोटे मॉडल नाटकीय रूप से सस्ते हो गए।
इस सप्ताह की कहानी किसी एक मॉडल की नहीं थी। यह एजेंट उन उपकरणों के अंदर दिखाई दे रहे थे जिनका लोग पहले से ही उपयोग कर रहे हैं। Google ने 8 अक्टूबर को काम के लिए एक परसिस्टेंट जेमिनी एजेंट खोला जो क्लाउड में चलता है, सभी डिवाइसों पर संदर्भ रखता है, और आपका लैपटॉप बंद होने के बाद कार्य उठाता है। माइक्रोसॉफ्ट ने ऑटोपायलट के साथ जवाब दिया, एक 'डिजिटल सहकर्मी' जिसकी अपनी पहचान और कॉन्फ़िगर करने योग्य अनुमतियां हैं, और कोपायलट के अंदर प्राकृतिक भाषा ऐप बिल्डिंग है।
मॉडल पक्ष पर, एंथ्रोपिक ने 100,000 टोकन से कम के संकेतों के लिए 7 अक्टूबर को क्लाउड हाइकु 5.5 को $0.10 प्रति मिलियन इनपुट टोकन पर भेजा, जो पिछले हाइकु की तुलना में लगभग 75 प्रतिशत सस्ता है। उसी दिन इसने सॉनेट 5.5 कैश-रीड मूल्य को आधा करके 0.10 डॉलर प्रति मिलियन कर दिया, जो जीपीटी-6 लूना के इकोनॉमी स्तर के लिए सीधा संकेत था। Google का नैनो बनाना 2.1 छवि मॉडल और मिस्ट्रल का लार्ज 4 पूर्वावलोकन, विशेषज्ञों का 1.05-ट्रिलियन-पैरामीटर मिश्रण, दोनों 6 अक्टूबर को आए।
उलझन चुपचाप निर्णय लेने का सबसे सस्ता तरीका बन गया: pplx-decider-v1-27b, 1 अक्टूबर से, मुफ़्त आउटपुट के साथ प्रति मिलियन इनपुट टोकन की लागत $0.04 है। वर्कफ़्लो द्वारा की जाने वाली हज़ार छोटी रूटिंग कॉलों के लिए, जो बड़े सामान्य मॉडलों को बड़े अंतर से कम कर देता है।
इन सबको जोड़ने वाला सूत्र: प्रयोगशालाएँ केवल कच्ची क्षमता पर नहीं, बल्कि कीमत और स्वायत्तता पर दौड़ रही हैं। इस महीने मॉडल चुनने वाले किसी भी व्यक्ति के लिए, सही कदम यह है कि आप फ्लैगशिप की आवश्यकता मानने से पहले आज जो कुछ भी चलाते हैं उसके मुकाबले सस्ते स्तर का परीक्षण करें।
इनमें से कोई भी आपके स्टैक को फिर से लिखने का कारण नहीं है। यह उबाऊ, बार-बार कॉल को फिर से बेंचमार्क करने का एक कारण है, क्योंकि यही वह जगह है जहां बचत वास्तव में दिखाई देती है।