BBIN宝盈官网主页

Blackwell架构GPU性能暴涨30倍,英伟达没给追赶者一点机会|GTC2024

发布时间:2026-01-05 03:55:01

去年英伟达市值突破1万亿之后,这家加速计算公司在全球范围内就吸引了越来越多的关注。

今年2月,英伟达的市值一度突破2万亿,让这家加速计算公司的热度再次攀升,也让今天在加州圣何塞举行的GTC 2024挤满了来自全球各地超11000名与会者。

未来将是可生成的,这就是为什么这是一个全新的行业。”NVIDIA 创始人兼首席执行官黄仁勋开场就说,“我们需要一种全新的计算方式——由此我们才可以继续扩展,继续降低计算成本,并在保证可持续性的同时继续进行越来越多的计算。”

黄仁勋说道,“加速计算已到达临界点,通用计算已失去动力。与通用计算相比,加速计算使每个行业都可以大幅提速。”

Blackwell 架构GPU性能暴涨30倍,英伟达没给追赶者一点机会 |GTC 2024

全新的行业需要更大的模型,更大的多模态AI需要更大的GPU。

黄仁勋从口袋里掏出一块全新的Blackwell芯片,将它与Hopper芯片并排举起,后者显得小了一些。

Blackwell 架构GPU性能暴涨30倍,英伟达没给追赶者一点机会 |GTC 2024

基于NVIDIA GB200构建的DGX SuperPOD,相比英伟达前代H100 GPU构建的系统,大语言模型性能飙升了30倍,能够处理万亿参数的模型。

架构迭代带来如此巨大的性能提升,证明了英伟达依旧在加速计算的道路上飞速前进,英伟达进一步拉大了与追赶者们距离。

英伟达还有更远大的目标,GTC2024上推出的NVIDIA NIM微服务,通过推理加速让生成式AI能够普及,这才是生成式AI商业价值更高的地方。

“下一波AI浪潮将是AI对物理世界的学习。”黄仁勋还有更长远的布局。

Blackwell 架构如何支撑10万亿参数模型需求?

最新的Blackwell 架构是两年前推出的Hopper架构的继承者,延续过去英伟达以科学家名字命名架构的方式,新架构是以一位加州大学伯克利分校的数学家 David Harold Blackwell 命名。这位数学家专门研究博弈论和统计学,是第一位入选美国国家科学院的黑人学者。

相比Hopper架构GPU,Blackwell架构GPU单芯片训练性能(FP8)是Hopper架构的2.5 倍,推理性能(FP4)是Hopper架构的5倍。

Blackwell 架构GPU性能暴涨30倍,英伟达没给追赶者一点机会 |GTC 2024

Blackwell 架构GPU性能暴涨30倍,英伟达没给追赶者一点机会 |GTC 2024

要让Blackwell架构支撑高达10万亿参数的模型训练和实时 LLM