मैंने अपने पाँच साल पुराने लैपटॉप पर एक स्थानीय AI मॉडल डाला। यह बादल से भी धीमा है और मैं इसका उपयोग करता रहता हूं

प्रयोग को बर्खास्तगी माना जाता था। पांच साल पुराना लैपटॉप, 16 जीबी रैम, कोई अलग जीपीयू नहीं - एक स्थानीय मॉडल चलाएं और पुष्टि करें कि हर कोई क्या कहता है: अच्छा खिलौना, वास्तविक काम के लिए अनुपयोगी। एक सप्ताह बाद भी मॉडल स्थापित है और मैं इसे खोलता रहता हूं। हर चीज़ के लिए नहीं. मेरी अपेक्षा से अधिक के लिए।

संख्याएँ पहले, क्योंकि आप पूछेंगे: एक मध्यम आकार का खुला मॉडल, परिमाणित, इस मशीन पर लगभग बोलने की गति से उत्पन्न होता है। पहले टोकन में कुछ सेकंड लगते हैं। यह पूरी डरावनी कहानी है, और यह वास्तविक है - किसी भी लंबे प्रारूप के लिए, बादल पांच से दस गुना तेज और अधिक स्मार्ट है। मैं यह दिखावा नहीं करूंगा कि स्थानीय मॉडल ने मेरा न्यूज़लेटर लिखा है।

इसके बजाय यह तीन नौकरियां करता है जहां 'धीमी लेकिन निजी' पूरी तरह से जीत जाती है। क्लाइंट-पहचान करने वाली किसी भी चीज़ के साथ नोट्स को पूरा करना: प्रतिलेख मशीन को कभी नहीं छोड़ता है, जिसके बारे में मेरे वकील मित्रों ने पूछा था और मेरे क्लाउड टूल के पास इसका कोई अच्छा जवाब नहीं था। मेरे स्वयं के लेखन का दूसरा प्रारूप आधी रात को पढ़ा जाता है जब विचार कम होते हैं और इंटरनेट बंद होता है। और शून्य लॉगिंग चिंता के साथ मूर्खतापूर्ण प्रश्न पूछने का सरल आनंद।

आश्चर्य विश्वसनीयता का था, क्षमता का नहीं। क्लाउड टूल में आउटेज, दर सीमाएं और इस सप्ताह का मूल्य पुनर्गठन है। स्थानीय मॉडल का व्यक्तित्व हर दिन एक जैसा होता है। यह अत्याधुनिक काम के लिए एक खराब आधार रेखा है और आपके कार्यभार के उबाऊ मध्य के लिए एक महान आधार रेखा है - वह चीज जिसके बारे में आप कभी डींगें नहीं मारेंगे लेकिन लगातार करते रहेंगे।

इसे किसे छोड़ना चाहिए: कोई भी जिसके प्रश्नों के लिए फ्रंटियर-मॉडल इंटेलिजेंस की आवश्यकता होती है, और कोई भी जिसके पास डाउनलोड और सेटिंग पेज के लिए धैर्य नहीं है। इसे किसे आज़माना चाहिए: जिस किसी की 'चीज़ें जिन्हें मैं चैटबॉट में पेस्ट नहीं कर सकता' की सूची उन चीज़ों से अधिक लंबी होती जा रही है जो वे कर सकते हैं। लैपटॉप सुपर कंप्यूटर नहीं बन पाया. यह एक ऐसी जगह बन गई है जहां मेरे सवालों के संवेदनशील आधे हिस्से को कहीं जाना है।