


英偉達(dá)NVIDIA H100 80G GPU顯卡
目前英偉達(dá)提供了數(shù)種不同的H100計(jì)算卡,分別為H100 PCIe、H100 SXM和H100 NVL(雙GPU版本)。其中普通的H100配備了80GB的HBM2E,PCIe和SXM5版本都有,H100 NVL則有著188GB的HBM3,對(duì)應(yīng)每個(gè)GPU為94GB。近日更新的PCI ID列表顯示,英偉達(dá)很快會(huì)為H100帶來(lái)94GB和64GB的SXM版本,其中前者還會(huì)有針對(duì)中國(guó)市場(chǎng)的版本,型號(hào)為H800L 94GB。
64GB很好理解,但是94GB并不是尋常的數(shù)字,與H100 NVL的情況類似,英偉達(dá)并沒(méi)有解釋這種容量具體如何配置的。去年還有報(bào)道稱,英偉達(dá)還準(zhǔn)備了一款120GB的PCIe版本,不過(guò)至今還沒(méi)有得到官方的確認(rèn),有可能只是在實(shí)驗(yàn)室測(cè)試的工程樣品,終不會(huì)出現(xiàn)在任何市場(chǎng)。
完整的GH100芯片配置了8組GPC、72組TPC、144組SM、共18432個(gè)FP32 CUDA核心,采用了第四代Tensor Core,共576個(gè),并配有60MB的L2緩存。不過(guò)實(shí)際產(chǎn)品中沒(méi)有全部打開,其中SXM5版本中啟用了132組SM,共16896個(gè)FP32 CUDA核心,528個(gè)Tensor Core以及50MB的L2緩存,而PCIe 5.0版本則啟用了114組SM,F(xiàn)P32 CUDA核心數(shù)量只有14592個(gè)。暫時(shí)不清楚擁有更大顯存的H100的核心規(guī)格,估計(jì)會(huì)延續(xù)現(xiàn)有的配置。