NVIDIA का ओपन कोडिंग मॉडल आपके डेस्क पर चलता है। बादल ने अभी-अभी एक नौकरी खोई है।
रिकर्सिव फ्लिंट एक 40बी ओपन मॉडल है जो स्थानीय रूप से 220 टोकन प्रति सेकंड पर कोड करता है। वह रेत में एक रेखा है.
हार्डवेयर के साथ-साथ, NVIDIA ने अपाचे 2.0 के तहत खुले वजन के साथ 40-बिलियन-पैरामीटर मिश्रण-विशेषज्ञों का कोडिंग मॉडल, रिकर्सिव फ्लिंट पेश किया, जो आरटीएक्स स्पार्क हार्डवेयर पर प्रति सेकंड 220 टोकन से ऊपर की रिपोर्ट करता है।
एक मॉडल जो अच्छा है, वह छोटा है, वह स्थानीय है जिसका मतलब है कि बहुत सारे 'इसे एपीआई पर भेजें' कोडिंग कार्य मशीन पर रह सकते हैं। विलंबता कम हो जाती है, और आपका कोड कभी भी बॉक्स नहीं छोड़ता है।
यह कठिन तर्क वाली नौकरियों के लिए फ्रंटियर मॉडल की जगह नहीं लेगा। लेकिन नियमित 80 प्रतिशत - बॉयलरप्लेट, परीक्षण, रिफैक्टर - के पास अब एक मुफ़्त, निजी विकल्प है।
यदि आप डेव टूलिंग का निर्माण करते हैं, तो उबाऊ भागों को करने वाले स्थानीय मॉडलों की योजना बनाएं। क्लाउड एकमात्र स्थान कोड बनना बंद कर देता है।