ओपन वेट, अक्टूबर के अंत में: मिस्ट्रल का ले चोंक और डाउनलोड करने की दौड़
ओपन-वेट दीवार इस महीने दरकती रही। मिस्ट्रल का लार्ज 4 - 49 बिलियन सक्रिय और एक मिलियन-टोकन संदर्भ के साथ एक ट्रिलियन-कुल-पैरामीटर मल्टीमॉडल मॉडल - 6 अक्टूबर से एपीआई पूर्वावलोकन में लाइव है, और रेड-टीमिंग के बाद डाउनलोड करने योग्य वजन 27 अक्टूबर के आसपास कम होने वाला है। प्रति मिलियन टोकन $0.68 इंच / $2.09 प्रति के लॉन्च मूल्य पर, यह लागत के मामले में अधिकांश बंद प्रतिद्वंद्वियों को कम कर देता है।
रिफ्लेक्शन एआई का बीम, कोडिंग और तर्क के उद्देश्य से एक मिलियन-टोकन संदर्भ के साथ 501-बिलियन-पैरामीटर विरल-विशेषज्ञों का मिश्रण मॉडल, इस महीने के अंत में अपाचे 2.0 लाइसेंस के तहत अपना वजन खोलने की उम्मीद है। मेटा का म्यूज़ वंडर, 12 अक्टूबर को रिलीज़ हुआ, $4 इन / $20 आउट पर बैठता है और कथित तौर पर सीमा के पास है, हालांकि इसका डेटा डिफ़ॉल्ट है - यह डिफ़ॉल्ट रूप से उपयोगकर्ता सबमिशन पर प्रशिक्षित होता है - किसी के भी इस पर निर्माण करने से पहले सावधानीपूर्वक पढ़ने लायक है।
पैटर्न सुसंगत है: बंद प्रयोगशालाएं पूर्ण सीमा बनाए रखती हैं, लेकिन 'पर्याप्त रूप से अच्छी और स्व-मेज़बान के लिए स्वतंत्र' परत तेजी से भर रही है। उन टीमों के लिए जो किसी और के एपीआई पर डेटा नहीं भेज सकते हैं, वह परत अब वह जगह है जहां वास्तविक उत्पादन कार्य रहता है, और इस महीने ने मेनू को बहुत बड़ा बना दिया है।
पकड़ नहीं बदली है: खुले वजन का मतलब है कि आप ऑप्स के मालिक हैं - जीपीयू, सर्विंग, रेलिंग, और जब मॉडल कुछ बेवकूफी भरा कहता है तो दोष भी दिया जाता है। एक कार्यभार को स्वयं होस्ट करें जहां भवन छोड़ने वाला डेटा गैर-स्टार्टर है, और बाकी को किराए पर लें। हाइब्रिड किसी भी तरह से सस्ता है, और अक्टूबर ने इसे व्यावहारिक बना दिया है।
मैं अपनी एपीआई सदस्यताएँ ख़त्म नहीं कर रहा हूँ। मैं संवेदनशील कार्यभार को अपने नियंत्रण वाले हार्डवेयर पर ले जा रहा हूं, और इस महीने की रिलीज ने आखिरकार इसे शोध जिज्ञासा के बजाय एक वास्तविक विकल्प बना दिया है।