NVIDIA GB300 NVL72

为 AI 推理而生, 为规模化而设计。

加速面向下一代、可扩展推理服务和企业级部署的 AI 创新。

为推理而生 主导 Test-Time Scaling 时代
NVIDIA GB300 NVL72
AI 工厂整体产出
50x
对比 Hopper
推理成本
35x
单 Token 成本对比 H100 更低
显存容量
1.5x
对比 GB200
AI 算力密度
1.5x
FP4 性能优于 GB200
驱动 AI 基础设施 Blackwell Ultra 时代

扩展前沿 AI 与智能体推理

为下一代推理模型和多模态大模型提供最快上市路径。NVIDIA GB300 NVL72 凭借 288GB HBM3e 大容量显存和高达 50 倍的实时推理性能跃升,同时加速大规模后训练与实时智能体推理,帮助企业以 35 倍更低的 Token 成本部署先进 AI 产品。

驱动实时推理智能体

更大显存支持更大批次和最高吞吐性能。NVIDIA Blackwell Ultra GPU 显存容量提升 1.5 倍、FP4 算力提升 1.5 倍,全面提升超长上下文与复杂思考链下的 AI 推理吞吐。

驱动多模态创新

通过高吞吐推理为音频、语言、视觉等复杂多模态工作负载提供动力。NVIDIA GB300 NVL72 提供面向下一代 AI 应用扩展所需的高显存带宽与密度。

加速战略决策

通过高吞吐推理把复杂数据流转化为精准、可执行的洞察。NVIDIA GB300 NVL72 助力企业加速预测建模和情景仿真,在全企业范围内做出快速、高置信度的决策。

应用场景

软件与智能体 AI

面向“AI 推理时代”设计,为具备高阶自我纠错与规划能力的自主智能体提供 FP4 精度支持。借助单 GPU 288GB HBM3e 显存,智能体可处理跨越数百万 token 的超长上下文,从而在整套软件架构或海量技术资料库上实现自主推理与执行。

媒体与创意行业

驱动下一代多模态生成式应用,支撑高保真 3D 环境与交互式数字人的实时渲染。单 GPU 8.0 TB/s 内存带宽消除超高清视频生成的吞吐瓶颈,带来物理真实、即时响应的沉浸式娱乐与设计体验。

能源与公共部门

部署符合主权 AI 标准的计算集群,用于高精度气候建模与国家电网优化。NVIDIA GB300 NVL72 相较 Hopper 架构,每兆瓦性能(每单位功率的 AI 输出)显著提升,能够可持续处理 PB 级灾害预测数据,以增强公共基础设施的韧性。

NVIDIA GB300 NVL72 技术规格技术规格
NVIDIA GB300 NVL72
NVIDIA GB300 NVL721
配置
72 颗 NVIDIA Blackwell Ultra GPU,36 颗 NVIDIA Grace CPU
NVLink 带宽
130 TB/s
高速内存
37 TB
GPU 显存 | 带宽
20 TB | 最高 576 TB/s
CPU 内存 | 带宽
17 TB LPDDR5X | 14 TB/s
CPU 核心数
2,592 个 Arm Neoverse V2 核心
FP4 Tensor Core
1440 | 1080² PFLOPS
FP8/FP6 Tensor Core
720 PFLOPS
INT8 Tensor Core
24 POPS
FP16/BF16 Tensor Core
360 PFLOPS
TF32 Tensor Core
180 PFLOPS
FP32
6 PFLOPS
FP64 / FP64 Tensor Core
100 TFLOPS
1. 除特别注明外,Tensor Core 规格均含稀疏性。
2. 不含稀疏性。
常见问题
用 NVIDIA GB300 NVL72 驱动你的 AI

立即预订,获得无与伦比的性能与优先体验权。

Bitdeer AI with Nasdaq LogoNVIDIA Preferred Partner Logo
比特小鹿科技集团(Straitdeer Pte. Ltd.)是 NVIDIA 云计算的优选合作伙伴。

通过行业标准认证并广受信赖

(ISO/IEC 27001:2022 和 SOC2 Type I & Type II)

Bitdeer AI with Nasdaq LogoNVIDIA Preferred Partner Logo
比特小鹿科技集团(Straitdeer Pte. Ltd.)是 NVIDIA 云计算的优选合作伙伴。

通过行业标准认证并广受信赖

(ISO/IEC 27001:2022 和 SOC2 Type I & Type II)

Bitdeer AI with Nasdaq LogoNVIDIA Preferred Partner Logo
比特小鹿科技集团(Straitdeer Pte. Ltd.)是 NVIDIA 云计算的优选合作伙伴。

通过行业标准认证并广受信赖

(ISO/IEC 27001:2022 和 SOC2 Type I & Type II)