英偉達針對AI市場推出雙GPU產品H100 NVL 單卡顯存容量94GB
zhangli 2023年03月22日 15:20
原標題：英偉達針對 AI 市場推出雙 GPU 產品 H100 NVL，最高使用 188GB HBM3 顯存
3 月 22 日消息，英偉達在 GTC Spring 2023 主題演講中，針對不斷增長的 AI 市場，推出了全新的雙 GPU 產品 H100 NVL。H100 NVL 在頂部配備了 3 個 NVLink 連接器，使用兩個相鄰的 PCIe 顯卡插槽。
英偉達表示在運行大型語言模型(LLM)時，常規顯卡的顯存無法駕馭龐大的數據流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 顯存，單卡顯存容量 94GB。
H100 NVL 的功耗略高于 H100 PCIe，每個 GPU 為 350-400 瓦(可配置)，增加了 50W。IT之家從報道中獲悉，總性能實際上是 H100 SXM 的兩倍：FP64 為 134 teraflops，TF32 為 1979 teraflops，FP8 為 7916 teraflops，INT8 為 7916 teraops。
內存帶寬也比 H100 PCIe 高很多，每個 GPU 為 3.9 TB / s，總和為 7.8 TB / s(H100 PCIe 為 2 TB / s，H100 SXM 為 3.35 TB / s)。
來源：IT之家
IT時代網(關注微信公眾號ITtime2000，定時推送，互動有福利驚喜)所有原創文章版權所有，未經授權，轉載必究。
創客100創投基金成立于2015年，直通硅谷，專注于TMT領域早期項目投資。LP均來自政府、互聯網IT、傳媒知名企業和個人。創客100創投基金對IT、通信、互聯網、IP等有著自己獨特眼光和豐富的資源。決策快、投資快是創客100基金最顯著的特點。
熱門文章
精彩評論
小何華為現在牛的不只是設備商了，，華為的手機現在也是全球銷量不錯，國內也算是老大了，之前用小米，，現在都改華為了。。產品確實不錯。- 小何三星手機在中國還有市場嗎？看看現在滿大街的vivo和oppo ，，華為，，小米線下店，，就是知道三星的市場基本沒有了。。
- 小何滴滴打車現在也沒有之前那么火了，，補貼也少了。。
- 小何今日頭條要把騰訊的地方各頻道給霸占了。。