NVIDIA ने विशेष रूप से भाषा मॉडल के लिए डिज़ाइन किए गए 188GB HBM3 मेमोरी के साथ एक नया हॉपर H100 NVL GPU पेश किया है। इसके अलावा, NVIDIA ने कई और त्वरक की घोषणा की है।
हूपर एच100 एनवीएल
H100 NVL PCIe ग्राफिक्स कार्ड दो H100 PCIe कार्ड हैं जो पहले से ही तीन NVLink Gen4 ब्रिज के माध्यम से एक साथ जुड़े हुए हैं। फायदा ज्यादा मेमोरी है। डुअल जीपीयू कॉम्बो 188 जीबी की एचबीएम3 मेमोरी (94 जीबी प्रति कार्ड) की पेशकश करता है – एच100 परिवार में भी आज एनवीडिया के किसी भी अन्य हिस्से की तुलना में प्रति जीपीयू अधिक मेमोरी।
H100 NVL में पूर्ण 6144-बिट मेमोरी इंटरफ़ेस (प्रत्येक HBM3 स्टैक के लिए 1024-बिट) और 5.1Gbps तक मेमोरी स्पीड है। इसका मतलब है कि अधिकतम 7.8 जीबी/एस का थ्रूपुट, जो एच100 एसएक्सएम के दोगुने से भी अधिक है।
NVIDIA द्वारा पोस्ट की गई जानकारी और छवियों के आधार पर, H100 NVL (H100 NVLink) में शीर्ष पर तीन NVLink कनेक्टर होंगे, जिसमें दो आसन्न कार्ड अलग-अलग PCIe स्लॉट में प्लग किए गए होंगे। यह सब वास्तविक समय में 175 बिलियन चैटजीपीटी मापदंडों को संसाधित करने की अनुमति देगा। H100 NVL GPU से लैस सर्वर NVIDIA DGX A100 सिस्टम की तुलना में GPT-175B के प्रदर्शन को 12 गुना तक प्रदान करते हैं, जबकि बिजली की कमी वाले डेटा सेंटर वातावरण में कम विलंबता बनाए रखते हैं।
एनवीडिया एल4
NVIDIA L4 टेंसर कोर जीपीयू 120 गुना तेज एआई वीडियो प्रदर्शन प्रदान करता है, जिसके परिणामस्वरूप 99% तक बेहतर बिजली दक्षता और पारंपरिक सीपीयू-आधारित बुनियादी ढांचे की तुलना में स्वामित्व की कुल लागत कम होती है।
एनवीडिया एल40
Ada Lovelace आर्किटेक्चर पर आधारित NVIDIA L40 GPU GPU-त्वरित डेटा सेंटर वर्कलोड के लिए ग्राउंडब्रेकिंग न्यूरल नेटवर्क ग्राफिक्स, वर्चुअलाइजेशन, कंप्यूट और AI डिलीवर करता है। L40, NVIDIA Omniverse के मूल में है, जो मेटावर्स अनुप्रयोगों के निर्माण और चलाने के लिए एक मंच है, और उद्देश्य-निर्मित डेटा सेंटर त्वरक की पिछली पीढ़ी की तुलना में स्थिर प्रसार के अनुमान प्रदर्शन को 7 गुना और Omniverse के प्रदर्शन को 12 गुना प्रदान करता है।
एनवीडिया ग्रेस हूपर
NVIDIA का नया सुपरचिप, ग्रेस हॉपर, ग्रेस सीपीयू और हॉपर जीपीयू को 900 जीबी/सेकेंड पर उच्च गति सुसंगत चिप-टू-चिप इंटरफेस के माध्यम से जोड़ता है। NVIDIA के सीईओ जेन्सेन हुआंग के अनुसार, ग्रेस हॉपर अनुशंसाकर्ता सिस्टम और बड़े भाषा मॉडल के लिए AI डेटाबेस जैसे विशाल डेटासेट को प्रोसेस करने के लिए आदर्श है।
उपलब्धता
H100 NVL GPU के इस साल की दूसरी छमाही में लॉन्च होने की उम्मीद है। कंपनी ने अभी तक नए आइटम की कीमत का खुलासा नहीं किया है।