एनव्हिडिया डीजीएक्स स्पार्क

एनव्हिडिया डीजीएक्स स्पार्क ही एनव्हिडिया जीबी10 ग्रेस ब्लॅकवेल सुपरचिपसाठीची संदर्भ डेस्कटॉप प्रणाली आहे, जी जानेवारी 2025 मध्ये प्रोजेक्ट डिजिट्स या कार्यरत नावाने प्रथम सार्वजनिकपणे दाखवण्यात आली आणि नंतर अंतिम नावाने वितरित करण्यात आली. एनव्हिडियाने स्वतः डिझाइन केलेले, पडताळलेले आणि थेट अद्ययावत करत असलेले हे प्लॅटफॉर्म 1 पेटाफ्लॉप एफपी4 एआय कार्यक्षमता आणि 128 जीबी सुसंगत एकीकृत मेमरी 1.2 किलोच्या इतक्या लहान आवरणात पॅकेज करते की कीबोर्डच्या शेजारी डेस्कवर ठेवता येते.

डीजीएक्स स्पार्क हे एनव्हिडियाचे स्वतःचे संदर्भ डिझाइन असल्याने, नवीन जीबी10 इकोसिस्टम क्षमतांची प्रथम पडताळणी करणारे हे प्लॅटफॉर्म देखील आहे. मार्च 2026 च्या शेवटी झालेल्या एनव्हिडियाच्या जीटीसी 2026 परिषदेनंतर, 4-नोड RoCE क्लस्टरिंगसाठीचे अधिकृत समर्थन — ज्यामुळे एकाच डिप्लॉयमेंटमध्ये 512 जीबी शेअर्ड एकीकृत मेमरी उपलब्ध होते — हे भागीदार हार्डवेअरवर स्वीकारण्यापूर्वी डीजीएक्स स्पार्कवर पुष्टी करण्यात आले, जीबी10 लाइनअपमध्ये आधीच मानक असलेल्या 2-युनिट डायरेक्ट-लिंकिंग क्षमतेसोबत.

हार्डवेअर स्पेसिफिकेशन्स

त्याच्या केंद्रस्थानी एनव्हिडिया जीबी10 ग्रेस ब्लॅकवेल सुपरचिप आहे, जी 20-कोर आर्म प्रोसेसर (10 × कॉर्टेक्स-एक्स925 परफॉर्मन्स कोअर्स + 10 × कॉर्टेक्स-ए725 इफिशियन्सी कोअर्स) ब्लॅकवेल पिढीतील जीपीयूसोबत एकत्र करते ज्यात 5व्या पिढीचे टेन्सर कोअर्स आणि नेटिव्ह एफपी4 स्पार्सिटी सपोर्ट आहे. या दोघांना 128 जीबी एलपीडीडीआर5एक्स एकीकृत मेमरीने जोडले आहे जी सीपीयू आणि जीपीयू दरम्यान शेअर केलेली 273 जीबी/से सुसंगत बँडविड्थ पुरवते, ज्यामुळे वेगळ्या सीपीयू/जीपीयू मेमरी पूल्समुळे नेहमी येणारा कॉपी ओव्हरहेड काढून टाकला जातो. स्टोरेज म्हणजे 4 टीबी स्वयं-एन्क्रिप्टिंग पीसीआयई जनरेशन 4 एनव्हीएमई एसएसडी, जी मोठ्या मॉडेल चेकपॉईंट्स आणि डेटासेट्स स्थानिक स्तरावर ठेवण्यासाठी पुरेशी आहे.

सॉफ्टवेअर: संपूर्ण एनव्हिडिया एआय स्टॅक, प्री-इंस्टॉल्ड

डीजीएक्स स्पार्क एनव्हिडिया डीजीएक्स ओएस (उबंटू 24.04 एलटीएस) आणि संपूर्ण एनव्हिडिया एआय सॉफ्टवेअर स्टॅकसह प्री-इंस्टॉल्ड आणि हार्डवेअरविरुद्ध पडताळलेले येते — पहिल्या बूटवरच क्यूडीए, क्यूडीएनएन, टेन्सरआरटी आणि एनव्हिडिया कंटेनर रनटाइम तयार असते. एनव्हिडिया एनआयएम मायक्रोसर्व्हिसेसद्वारे समर्थित मॉडेल्स ऑप्टिमाइझ्ड इन्फरन्स कंटेनर्स म्हणून मॅन्युअल ट्यूनिंगशिवाय डिप्लॉय करता येतात आणि जेव्हा वर्कलोड नंतर एनव्हिडिया डीजीएक्स क्लाउड किंवा डाटासेंटर डीजीएक्स सिस्टमवर हलवला जातो तेव्हा तेच कंटेनर्स बदल न करता वापरता येतात. सतत देखभाल केलेल्या अधिकृत प्लेबुक्सचा संच सामान्य वर्कफ्लोज कव्हर करतो — vLLM आणि टेन्सरआरटी-एलएलएम सर्व्हिंगपासून नेमो आणि अनस्लोथसह फाइन-ट्यूनिंगपर्यंत — ज्यामुळे नवीन आणि प्रगत वापरकर्त्यांसाठी सेटअप वेळ कमी होतो.

एजंटिक एआय वर्कलोड्ससाठी, डीजीएक्स स्पार्कमध्ये नेमोक्लॉ समाविष्ट आहे, जी एनव्हिडियाची सँडबॉक्स्ड एजंट-एक्झिक्यूशन लेयर आहे. ही स्वायत्त एजंट्सभोवती पॉलिसी-आधारित ऍक्सेस कंट्रोल लागू करते, ऑडिटिंग हेतूंसाठी त्यांच्या क्रिया लॉग करते आणि अलीकडील डीजीएक्स ओएस अपडेट्समध्ये मोजता येण्याजोग्या वेगवान स्थानिक एजंट इन्फरन्स पुरवण्यासाठी ऑप्टिमाइझ केलेली आहे.

कनेक्टिव्हिटी आणि नेटवर्किंग

नेटवर्किंग ड्युअल 200 जीबीपीएस क्यूएसएफपी पोर्ट्ससह एनव्हिडिया कनेक्टएक्स-7 स्मार्ट एनआयसीच्या सभोवती बांधलेली आहे, जी थेट युनिट-टू-युनिट लिंकिंगसाठी किंवा मोठ्या डिप्लॉयमेंट्समध्ये मॅनेज्ड RoCE स्विच फॅब्रिकशी कनेक्शनसाठी वापरली जाते. अतिरिक्त ऑनबोर्ड कनेक्टिव्हिटीमध्ये 10 जीबीई इथरनेट (आरजे-45), वाय-फाय 7 आणि ब्लूटूथ 5.4 समाविष्ट आहे. चार यूएसबी4 टाइप-सी पोर्ट्स स्थानिक मल्टी-मॉनिटर वापरासाठी डिस्प्लेपोर्ट आउटपुटला समर्थन देतात — तीन एकाचवेळी डिस्प्लेपर्यंत — एचडीएमआयसोबत, ज्यामुळे एकाच युनिटचा वापर डेव्हलपमेंट वर्कस्टेशन आणि नेहमी चालू असलेले इन्फरन्स सर्व्हर अशा दोन्ही प्रकारे करता येतो.

एंटरप्राइझ मॅनेजमेंट आणि सुरक्षा

डीजीएक्स स्पार्क इंटरनेट कनेक्टिव्हिटी नसलेल्या वातावरणांसाठी एअर-गॅप्ड डिप्लॉयमेंटला समर्थन देते, ज्यात क्लाउड-इनिटद्वारे कस्टम आयएसओ निर्मिती आणि यूएसबी-आधारित ओएस आणि ड्रायव्हर अपडेट्स समाविष्ट आहेत — ज्यामुळे बाह्य नेटवर्क अवलंबनाशिवाय फ्लीट्स प्रोव्हिजन आणि देखभाल करता येतात. स्टोरेज डिफॉल्टनुसार स्वयं-एन्क्रिप्टिंग आहे आणि प्लॅटफॉर्ममध्ये टीपीएम 2.0 आणि सिक्युर बूट समाविष्ट आहे, ज्यामुळे नियमित, डेटा-संवेदनशील डिप्लॉयमेंट्ससाठी योग्य सुरक्षा बेसलाइन मिळते जेथे प्रोसेसिंग पूर्णपणे ऑन-प्रिमायज राहणे आवश्यक आहे.

स्केलिंग: सिंगल, 2-युनिट आणि 4-युनिट कॉन्फिगरेशन्स

एक डीजीएक्स स्पार्क स्थानिक स्तरावर सुमारे 200 अब्ज पॅरामीटर्सपर्यंतचे मॉडेल्स आरामात सर्व्ह करू शकतो. मोठ्या मॉडेल्ससाठी, दोन युनिट्स थेट कनेक्टएक्स-7 क्यूएसएफपी पोर्ट्सद्वारे एकत्रित 256 जीबी एकीकृत मेमरी पूलमध्ये जोडल्या जातात आणि 512 जीबी सुसंगत पूलसाठी चार युनिट्सपर्यंत मॅनेज्ड 200 जीबीई RoCE स्विच फॅब्रिकद्वारे जोडल्या जाऊ शकतात — जीटीसी 2026 वर एनव्हिडियाद्वारे पडताळलेला तोच क्लस्टरिंग मार्ग.

इकोसिस्टम आणि दीर्घकालीन स्केलिंग पाथ

डीजीएक्स स्पार्क एनव्हिडिया डीजीएक्स क्लाउड आणि डाटासेंटर डीजीएक्स सिस्टम्समध्ये वापरल्या जाणाऱ्या समान डीजीएक्स ओएस आणि एनव्हिडिया एआय सॉफ्टवेअर स्टॅक चालवत असल्याने, स्थानिक स्तरावर विकसित केलेले वर्कलोड्स — कंटेनर्स, एनआयएम डिप्लॉयमेंट्स, फाइन-ट्यूनिंग पाइपलाइन्स — डेस्कटॉप प्रोटोटाइपवरून मोठ्या प्रोडक्शन डिप्लॉयमेंटकडे जाण्याची वेळ आल्यावर बदल न करता पुढे नेता येतात.