हाइकू 5.5 इतना सस्ता है कि मैंने टोकन जमा करना बंद कर दिया है

एंथ्रोपिक ने 7 अक्टूबर को क्लाउड हाइकू 5.5 को अपने पूर्ववर्ती की तुलना में लगभग 75% कम कीमत पर जारी किया - लगभग $0.10 इन और $0.50 प्रति मिलियन टोकन। उस संख्या ने चुपचाप मेरी वास्तुकला बदल दी।

इससे पहले, मैं रूटिंग के बारे में सोचने के ओवरहेड से बचने के लिए प्रत्येक उप-कार्य को एक बड़े मॉडल पर रख देता था। अब मैं हाइकु को वर्गीकरण, रूटिंग और संक्षिप्त सारांश भेजता हूं और उन कुछ चरणों के लिए महंगा मॉडल रखता हूं जिनके लिए निर्णय की आवश्यकता होती है।

बचत सिर्फ बिल नहीं है. ऐसा है कि मैं छोटे मॉडल को बिना किसी हिचकिचाहट के, हर संदेश पर लगातार चला सकता हूं। बड़ा मॉडल एक आकर्षण बन गया, डिफ़ॉल्ट नहीं।

यदि आप कुछ भी एजेंट बना रहे हैं, तो प्रति कॉल कीमत पीक स्कोर से अधिक मायने रखती है। हाइकु 5.5 सस्ते रूटिंग के आसपास डिजाइन करने का तर्क है।