हर कोई एक मिलियन-टोकन संदर्भ का पीछा करता है। अधिकांश कार्यों को इसकी आवश्यकता नहीं होती।
GPT-6.1 Sol अब एक मिलियन-टोकन संदर्भ भेजता है, और संख्या युद्ध जारी है। मैं यहां यह कहने के लिए हूं कि मेरे अधिकांश कार्यों में इसकी आवश्यकता नहीं है, और इसका पीछा करने से परिणाम खराब हो सकते हैं।
एक बड़े संदर्भ का अर्थ है अधिक गलतियाँ करना, अधिक भुगतान करना, और उस मॉडल के लिए अधिक स्थान खोना जिसकी आप वास्तव में परवाह करते हैं। आकार प्रासंगिकता के समान नहीं है.
लंबी-दस्तावेज़ नौकरियों के लिए, निश्चित रूप से, मुझे विंडो दें। रोजमर्रा के प्रश्न के लिए, एक चुस्त, अच्छी तरह से दायरा वाला संकेत हर बार संदर्भ की अग्निकुंड को मात देता है।
कार्य के संदर्भ से मिलान करें. सबसे बड़ा संदर्भ एक फ्लेक्स है, न कि एक फीचर, और इसे ऐसे व्यवहार करने से ऐसे उत्तर मिलते हैं जो लंबे, महंगे और अजीब तरह से कम उपयोगी होते हैं।
