黄仁勋总算发布了NVIDIA新一代架构与中心,当然这次是面向HPC高功能核算、AI人工智能的“Hopper”,对应中心编号“GH100”,一起发布的还有根据新中心的加快核算卡“H100”、AI核算体系“DGX H100”。
与风闻不同,GH100中心选用的其实是台积电现在最先进的4nm工艺,并且是定制版,CoWoS 2.5D晶圆级封装,单芯片规划,集成多达800亿个晶体管,声称世界上最先进的芯片。
完整版有8组GPC(图形处理器集群)、72组TPC(纹路处理器集群)、144组SM(流式多处理器单元),而每组SM有128个FP32 CUDA中心,总计1843个。
H100核算卡选用SXM、PCIe 5.0两种形状,其间后者功耗高达前所未有的700W,比较A100多了整整300W。
按常规也不是满血,GPC尽管仍是8组,但只敞开了66组TPC(魅族GPC屏蔽一组TPC)、132组SM,总计有16896个CUDA中心、528个Tensor中心、50MB二级缓存。
显存只用了五颗,最新一代HBM3,容量80GB,位宽5120-bit,带宽高达3TB/s,比较A100多了一半。
DGX H100是最小的核算单元,为了扩展,这一次NVIDIA还规划了全新的VNLink Swtich互连体系,能够衔接最多32个节点,也便是256颗H100芯片,称之为“DGX POD”。
这么一套体系内,还有20.5TB HBM3内存,总带宽768TB/s,AI功能高达颠覆性的1EFlops(100亿亿亿次每秒),完成百亿亿次核算。
体系合作伙伴包含Atos、思科、戴尔、富士通、技嘉、新华三、慧与、浪潮、联想、宁畅、超威。
云服务合作伙伴包含阿里云、亚马逊云、百度云、Google云、微软Azure、甲骨文云、腾讯云。