एक डेस्कटॉप जो ट्रिलियन-पैरामीटर मॉडल चलाता है वह एक जाल और एक उपकरण है
NVIDIA का DGX स्टेशन स्थानीय ट्रिलियन-पैरामीटर अनुमान का वादा करता है। स्मृति गणित पकड़ है.
विंडोज़ के लिए NVIDIA का DGX स्टेशन, 7 अक्टूबर को दिखाया गया, 748GB की सुसंगत मेमोरी और 20 पेटाफ्लॉप्स तक पैक करता है, जिसे एक ट्रिलियन मापदंडों के करीब मॉडल के लिए स्थानीय अनुमान के रूप में पेश किया गया है। यह चौथी तिमाही में देय है।
जाल स्मृति विभाजन है. रिपोर्टों से संकेत मिलता है कि 128GB एकीकृत-मेमोरी SKU, विंडोज़ द्वारा अपना हिस्सा लेने के बाद GPU के लिए केवल 110GB ही प्रदर्शित करता है। यह तय करता है कि वज़न, कैश और रनटाइम बाकी के लिए प्रतिस्पर्धा करने पर कौन सा मॉडल वास्तव में फिट बैठता है।
इसलिए वह विवरण पढ़ें जिसे आप वास्तव में खरीदना चाहते हैं, शीर्षक नहीं। ट्रिलियन-पैरामीटर का दावा मोटे SKU के लिए है; आपकी डेस्क संभवतः छोटी हो जाएगी।
ईमानदारी से उपयोग किए जाने पर, यह उन टीमों के लिए एक वास्तविक उपकरण है जो क्लाउड पर डेटा नहीं भेज सकते हैं। स्टेटस सिंबल के रूप में उपयोग किया जाने वाला, यह सस्ते गियर पर फिट होने वाले मॉडल को चलाने का एक महंगा तरीका है।
