NVIDIA在Hot Chips芯片行业盛会上发布了Hopper GPU,Grace CPU,NVLink-C2C技术,其中新一代Hopper架构据说可以达到三倍的安培构架性能。新的“Hopper”GPU 中的流式多处理器或 SM 能够对大量矢量和矩阵数据进行数学运算。Hopper GPU采用定制版台积电4nm工艺、全新架构,集成多达800亿个晶体管、18432个CUDA核心、576个Tensor核心,支持6144-bit位宽的80GB HBM3/HBM2e高带宽内存,并支持PCIe 5.0、第四代NVLIink,性能号称四倍于上代A100,功耗最高700W。
NVIDIA推出首款面向AI基础设施和高性能计算的基于Arm Neoverse架构的数据中心专属CPU——Grace CPU超级芯片。Grace CPU采用双芯合体设计,攻击144个Arm架构核心,集成396MB缓存,支持LPDDR5X ECC内存,带宽达1TB/s,同样支持PCIe 5.0,功耗500W。
NVIDIA还打造了一颗超级芯片,Hopper GPU、Grace CPU二合一,通过NVLink-C2C技术高速总线互连,带宽达900GB/s,是一款性能最强NVIDIA超级芯片。NVIDIA NVLink 是世界首项高速 GPU 互连技术,NVLink分两种,一种是桥接器的形式实现NVLink高速互联技术,另一种是在主板上集成了NVLink接口,并通过安装NVLink接口来实现高速互联技术。