随着 AI Agent 从文本交互走向真实业务流程，跨模态理解信息并进行推理的能力正成为关键基础能力。无论是视频、音频、文档，还是 UI 界面，现代 Agentic 系统都需要能够在多种模态之间进行高精度、高效率推理，并满足企业级部署要求的模型。

今天，我们很高兴宣布，NVIDIA Nemotron™ 3 Nano Omni 已在 Bitdeer AI Model Studio 首发上线。作为 NVIDIA Nemotron 模型家族的重要成员，该模型代表着开放、生产就绪的多模态推理模型向前迈出的重要一步。

什么是 NVIDIA Nemotron 3 Nano Omni

NVIDIA Nemotron 3 Nano Omni 是一款面向生产级 Agentic AI 的开放式多模态基础模型。该模型能够在单一架构中统一处理视频、音频、图像、文档、图表以及文本等多种模态的信息，实现跨模态的理解与推理，从而无需依赖碎片化的多模态处理流程。

通过将感知与推理能力整合于同一系统中，Nemotron 3 Nano Omni 有效简化了智能体开发流程，降低系统编排复杂度，同时提升整体效率与可扩展性，并在多模态任务中实现领先的准确性。基于开放权重、数据集及训练方案构建，该模型为开发者与企业提供了充分的定制化能力，使其能够以更高的可控性与灵活性部署并运行多模态智能体。

关键规格:

• 模型规模：30B（A3B）
• 模态支持：输入（文本、图像、视频、音频），输出（文本）
• 架构：基于 Transformer-Mamba 设计的混合专家模型（Hybrid MoE）
• 视觉编码器：CRADIO v4-H
• 音频编码器：Parakeet
• 上下文长度：256k
• 优化特性：
  • 基于 Conv3D 的时序视频推理能力
  • 高效视频采样（EVS），降低推理成本
• 量化支持：FP8、NVFP4

为何统一的多模态模型至关重要

当前，许多企业级 AI 系统仍依赖于将视觉、语音、OCR 以及推理模型拼接而成的多阶段处理流程。这种架构往往会带来多次推理调用所导致的更高延迟，同时增加系统运维与编排复杂度，并在不同模态之间形成割裂的上下文。

Nemotron 3 Nano Omni 通过在智能体系统中充当统一的多模态感知与推理层，有效解决上述问题，实现从“感知 → 推理 → 行动”的一体化闭环。

企业应用场景

1. 客户服务智能体（Customer Service Agent）：

客户服务场景本质上是高度多模态的环境。该智能体需要分析客户交互的录音及语音转写内容，同时对客户会话的屏幕录制进行推理，并结合错误截图、发票等图像信息进行理解。此外，还需读取知识库文档、业务政策以及 CRM 历史记录。Nemotron 3 Nano Omni 将上述多源信息统一整合，使智能体不仅能够理解客户“说了什么”，还能理解客户“经历了什么”以及“业务规则允许什么”，从而实现更精准、具备上下文感知的服务响应。

2. 金融分析智能体（Financial Analyst Agent）：

金融分析并非仅依赖文本。该智能体需要在财务报告、财报电话会议记录等文档之间进行推理，同时结合图表、扫描报告等图像信息，以及电话会议中的语音内容和投资者演示视频进行综合分析。Nemotron 3 Nano Omni 能够将高管表述、数据的可视化呈现以及底层文档信息进行关联整合，从而输出基于事实支撑的洞察，而非停留在表层总结。

3. 计算机操作智能体（Computer Use Agent）：

计算机操作类智能体是统一多模态能力的典型应用之一。该智能体通过分析屏幕录制中的视频与图像，理解界面状态的动态变化，同时解析操作指令与系统音频提示，并读取任务说明及校验规则等文档。Nemotron 3 Nano Omni 使智能体能够在同一推理闭环中完成界面感知、意图理解、约束解析及动作执行。当感知与决策分散在多个模型中时，这种能力将难以实现。

4. 媒体与娱乐智能体（Media and Entertainment Agent）：

媒体处理流程不仅依赖文本转录。该智能体需要在视频内容、对话语音、屏幕文字以及场景变化之间进行联合推理，以支持更丰富的视频与语音分析。Nemotron 3 Nano Omni 能够生成高密度字幕，不仅捕捉语音内容，还能描述画面中发生的事件，同时提升大规模内容库中的视频检索与摘要能力，帮助媒体团队更高效地将原始素材转化为可搜索、具备上下文语义且可用于生产的内容资产。

通过 API即可轻松调用 Nemotron 3 Nano Omni

您可以在 Bitdeer AI Model Studio 上运行 Nemotron 3 Nano Omni。该平台是我们推出的无服务器推理服务，旨在以简单且可扩展的方式提供先进基础模型的访问能力。通过简洁易用的 API，Model Studio 使开发者与企业无需管理底层基础设施，即可快速调用模型，从而降低部署复杂度并缩短实现价值的周期。

这一能力使多模态推理更易集成至各类应用与智能体工作流中，并在少量步骤内实现从实验验证到生产落地的高效转化路径，兼顾灵活性与运行效率。

立即开始体验

1. 登录Bitdeer AI Model Studio
2. 在模型列表中找到 Nemotron 3 Nano Omni
3. 生成 API Key，开始进行 API 调用

这一简化流程可帮助您快速将多模态推理能力集成至应用与智能体系统中。

结语

NVIDIA Nemotron 3 Nano Omni 让多模态 AI 在真实业务场景中的部署更加可行与高效。相比管理多个模型与复杂流程，团队可以将重心放在构建智能体应用、自动化业务流程以及提升用户体验上。

随着该模型在 Bitdeer AI Model Studio 上的上线，企业能够更快地从实验阶段迈向生产环境，将多模态 AI 转化为可量化的业务价值。

OpenClaw 已经在 GitHub 上获得超过 29 万 Star，成为 2026 年最受关注的开源 AI Agent 框架之一。越来越多的开发者和技术爱好者开始尝试在本地部署自己的 AI 助理。

然而，本地部署在实际使用中面临不少挑战：关机即断线、环境配置复杂、API Key 安全隐患等问题，严重限制了 AI Agent 的持续可用性。

将 OpenClaw 部署到云端，可以从根本上解决这些问题。本文将分析云端部署的核心优势，介绍如何选择合适的大语言模型，并展示 OpenClaw 在实际场景中的应用能力。

OpenClaw 简介

OpenClaw 是一个开源的个人 AI Agent 框架，使用 TypeScript 编写，具备以下核心能力：

• 7x24 自主运行：内置 Heartbeat 心跳机制，能够主动监控任务并自动执行，无需用户持续干预
• 50+ 平台集成：支持 WhatsApp、Telegram、Discord、Slack、Gmail、GitHub 等主流平台，实现跨平台统一管理
• 模型灵活性：兼容 Claude、GPT、Grok 等云端大模型，同时支持通过 Ollama / vLLM 运行本地模型
• 可扩展技能系统：采用 Markdown + YAML 定义技能，ClawHub 上已有 100+ 预制技能可直接使用
• 隐私优先设计：所有数据默认存储在用户本地，记忆系统基于本地 Markdown 文件

与传统聊天机器人不同，OpenClaw 具备上下文记忆、主动行为能力和工具调用能力，更接近一个能够持续工作的 AI 协作者。

云端部署 vs 本地部署

虽然 OpenClaw 支持在本地运行，但对于追求稳定性和持续可用性的用户而言，云端部署具有明显优势。

本地部署适合短期测试和体验，而云端部署才能真正释放 AI Agent 的持续服务能力。一个需要随时待命的 AI 助理，首先需要一个永远在线的运行环境。

部署成本

运行 OpenClaw 本身不需要 GPU 资源，一台基础 CPU 虚拟机实例（2 核 / 4GB 内存 / 20GB SSD）即可稳定运行。以该配置为例，Bitdeer AI Cloud 的按需费用约为 $0.0363/小时（约 $26/月），即可获得一个 7x24 在线的 AI 助理运行环境。

Bitdeer AI Cloud 作为 NVIDIA 首选云合作伙伴（Preferred Cloud Service Provider），提供覆盖 H100、H200、B200、GB200 等多代 NVIDIA GPU 的算力资源。对于 OpenClaw 这类 Agent 部署场景，CPU 实例即可满足运行需求；如有模型微调或本地推理等进阶需求，也可灵活升级至 GPU 实例。虚拟机实例按需计费，详情请参考 GPU Compute 定价页。

模型推理部分通过 API 调用完成，按 Token 计费。Bitdeer AI Cloud 提供多厂商的模型推理服务，涵盖文本生成等多种任务类型。详细的模型推理定价请参考 AI Models 定价页。

模型选择指南

OpenClaw 的核心优势之一是模型灵活性——不绑定任何单一 LLM 厂商。Bitdeer AI Cloud 目前提供来自 10+ 厂商的 40+ 模型，涵盖文本生成、视觉理解、推理、文生图等多种任务类型，API 兼容 OpenAI 标准，模型切换成本接近于零。

以下为适用于 OpenClaw 的代表性文本生成模型及定价参考：

场景化选择建议

• 综合性价比首选 — DeepSeek-V3.2，输入输出综合成本最低，代码和推理能力业界领先
• 长文本输入场景（如文档分析、邮件摘要）— Qwen3-235B-A22B，输入单价仅 $0.22/百万 Token
• 中文深度对话 — Kimi-K2.5，中文理解能力优秀，适合需要高质量中文输出的场景
• 极致低成本 — 平台同时提供 Gemma、Ministral 等轻量模型，输入低至 $0.02/百万 Token，适合高频低复杂度任务

完整模型列表和在线体验请访问 Bitdeer AI Model Explore。

OpenClaw 通过配置文件即可完成与 Bitdeer AI 模型服务的对接——用户只需在 openclaw.json 中填入 API Key 和模型名称，OpenClaw 会自动处理所有 API 通信，无需编写任何调用代码。所有 Bitdeer AI 模型 API 兼容 OpenAI REST 标准，因此 OpenClaw 可以直接识别和调用。

API Key 可在 Bitdeer AI Cloud 控制台的 API Keys 页面生成。

部署流程

Bitdeer 官方已提供完整的部署教程，涵盖从创建云实例、安装 OpenClaw、配置模型连接到对接 Telegram 的全部步骤。详细操作指南请参考：

Installing and Configuring OpenClaw on Bitdeer AI Cloud

整个部署流程可概括为五个步骤：

1. 创建云实例 — 在 Bitdeer AI Cloud 上开通虚拟机实例
2. 安装 OpenClaw — 通过官方脚本一键完成安装
3. 配置模型 — 填入 Bitdeer API Key，指定 LLM 模型
4. 对接 Telegram — 完成 Bot 配对，实现移动端访问
5. 后台运行 — 服务自动在后台 7x24 持续运行

实际应用场景

部署完成后，OpenClaw 能够在多个维度发挥实际价值。以下列举几类典型使用场景：

个人效率管理

• 连接 Gmail 自动阅读邮件，提取待办事项，每日定时发送摘要
• 通过 Google Calendar 集成，直接在对话中创建和管理日程
• 实时多语言翻译，支持中、英、日、韩等语言互转

信息研究与分析

• 执行网络搜索，阅读网页内容，生成结构化摘要
• 对指定 URL 进行内容提取和要点总结
• 多步骤信息收集与对比分析，输出结构化报告

代码生成与执行

• 在沙箱环境中生成并执行代码，直接返回运行结果
• 支持 Python、JavaScript 等主流语言，适用于数据处理、脚本编写等场景
• 可结合网络搜索能力，自动查阅文档并生成可运行的代码方案

以上能力依托 OpenClaw 的技能系统实现。ClawHub 上已有超过 100 个预制技能可直接安装使用。如需开发自定义技能，可参考 OpenClaw Skills 官方文档。

总结

OpenClaw 作为一个功能完备的开源 AI Agent 框架，结合 Bitdeer AI Cloud 的云端基础设施和模型推理服务，能够为用户提供一个稳定、安全、持续在线的 AI 助理解决方案。

开始使用

• 注册 Bitdeer AI Cloud 账号
• 查看完整部署教程
• 访问 OpenClaw GitHub 仓库
• Bitdeer AI 文档中心

注：以上提及的模型及 GPU 价格仅供参考，具体请以平台实时价格为准。

借助 Bitdeer AI Cloud，您可以在数分钟内快速部署安全、面向生产环境的 AI 智能体NVIDIA NemoClaw。在本指南中，您将了解如何快速搭建一个完全沙箱化的运行环境，并通过 Bitdeer AI 的高性能推理端点运行 Moonshot AI 的 Kimi K2.5 等强大模型。

你将构建什么

完成本指南后，你将具备：

• 一个运行在 Bitdeer AI Cloud 上的安全沙箱化 AI 智能体
• 通过 Bitdeer AI 推理 API 访问 Kimi K2.5 等强大模型
• 完整的网络策略控制与监控能力

为什么选择 Bitdeer AI 上部署NemoClaw？

Bitdeer AI Cloud 上部署 NemoClaw 可以将安全的智能体执行能力、可扩展的基础设施和高性能推理能力结合在一起。基于 Landlock、seccomp 和网络隔离的沙箱执行机制由 NemoClaw 和 OpenShell 框架负责实现，而 Bitdeer AI Cloud 则提供底层算力环境，支持按需扩展 CPU 和 GPU 资源，并采用按量计费模式。与此同时，我们的平台还提供经过优化的推理端点，用于运行领先模型，并具备网络层级控制能力，帮助管理智能体与外部服务的交互方式，从而在灵活性与运营可控性之间实现平衡。

前置条件

NemoClaw 最低系统要求： 4 个及以上 vCPU、16 GB 内存、40 GB 可用磁盘空间、Ubuntu 22.04 LTS

Bitdeer AI Cloud 使用要求

• 已开通并可正常使用的 Bitdeer AI Cloud 账户
• 来自 Bitdeer AI Cloud 的 API Key（用于推理调用）
• Bitdeer AI 实例：选择 g4a.xlarge（4 vCPU，16 GB 内存）

重要提示： 沙箱镜像压缩后大小约为 2.4 GB。对于配备 16 GB 内存 的实例，可提供较为充足的内存资源，以确保运行过程平稳顺畅。

软件依赖

• Node.js 20 或更高版本
• npm 10 或更高版本
• Docker（已安装并正常运行）
• OpenShell CLI（由 NemoClaw 安装）

1.1 创建虚拟机

1. 登录你的 Bitdeer AI Cloud 账户
2. 进入 Virtual Machine 服务页面
3. 点击 Create Instance，并选择以下配置：
   • 实例类型：g4a.xlarge（4 vCPU，16 GB 内存）
   • 存储：至少 40 GB SSD
   • 操作系统：Ubuntu 22.04 LTS
   • 区域：选择距离你最近的区域
4. 完成下单并等待实例创建完成
5. 实例运行后，记录其公网 IP 地址

1.2 连接实例

通过 SSH 进行连接：

ssh ubuntu@<your-instance-ip>

步骤 2：安装 Docker

NemoClaw 需要使用 Docker 作为容器运行时环境：

# Update package index
sudo apt-get update

# Install Docker (service starts automatically)
sudo apt-get install -y docker.io

# Add user to docker group
sudo usermod -aG docker $USER

Important: Log out and log back in for group changes to take effect:

exit
ssh ubuntu@<your-instance-ip>

Verify Docker installation:

docker --version
docker run hello-world

步骤 3：获取 Bitdeer AI API Key

在安装 NemoClaw 之前，请先获取你的 Bitdeer AI API Key：

1. 登录 Bitdeer AI Cloud
2. 进入 Models → API Keys
3. 点击 Generate API Key
4. 复制生成的密钥并妥善保存

⚠ 安全提示： 切勿将 API Key 提交至版本控制系统，也不要公开分享。

步骤 4：安装并配置 NemoClaw

下载并运行 NemoClaw 安装程序。安装程序内置交互式向导，可用于配置你的 Bitdeer AI 推理端点：

curl -fsSL https://www.nvidia.com/nemoclaw.sh | bash

安装向导过程中

当系统提示时，请将 Bitdeer AI 配置为您的推理服务提供商：

[2/7] Configuring inference (NIM)
──────────────────────────────────────────────────

Inference options:
  1) NVIDIA Endpoints (recommended)
  2) OpenAI
  3) Other OpenAI-compatible endpoint  ← Select this
  4) Anthropic
  5) Other Anthropic-compatible endpoint
  6) Google Gemini

Choose [1]: 3

OpenAI-compatible base URL: https://api-inference.bitdeer.ai/v1
Other OpenAI-compatible endpoint API key: <paste-your-bitdeer-api-key>

Other OpenAI-compatible endpoint model []: nvidia/NVIDIA-Nemotron-3-Super-120B-A12B
# or: moonshotai/Kimi-K2.5

安装向导将会：

• 如果系统中尚未安装 Node.js 20 或更高版本，则自动安装
• 安装 npm 软件包
• 设置 NemoClaw CLI
• 将 Bitdeer AI 配置为您的推理服务提供商
• 将您的 API 密钥安全保存至 ~/.nemoclaw/credentials.json
• 创建您的第一个沙盒

安装完成后摘要

安装完成后，您应当看到：

──────────────────────────────────────────────────
Sandbox      my-bitdeer-agent (Landlock + seccomp + netns)
Model        nvidia/NVIDIA-Nemotron-3-Super-120B-A12B (Bitdeer AI Endpoint)
──────────────────────────────────────────────────
Run:         nemoclaw my-bitdeer-agent connect
Status:      nemoclaw my-bitdeer-agent status
Logs:        nemoclaw my-bitdeer-agent logs --follow
──────────────────────────────────────────────────

[INFO]  === Installation complete ===

如果安装完成后仍未找到 nemoclaw，请运行：

source ~/.bashrc
# or for zsh users:
source ~/.zshrc

验证安装：

nemoclaw --version

步骤 5：连接并与您的智能体对话

5.1 连接到沙盒

nemoclaw my-bitdeer-agent connect

您将进入沙盒命令行环境：

sandbox@my-bitdeer-agent:~$

5.2 交互式 TUI 模式

启动 OpenClaw TUI，开始进行交互式对话：

openclaw tui

发送测试消息并验证响应。

5.3 CLI 模式

如需以编程方式调用，或处理较长的输出内容，请使用 CLI：

openclaw agent --agent main --local -m "Hello, how can you help me today?" --session-id test

退出沙盒命令行环境：

exit

后续可扩展方向

现在，您的 NemoClaw 智能体已经成功运行在 Bitdeer AI Cloud 上。接下来，您可以通过以下方式进一步扩展其能力与使用场景：

• 连接 Telegram

为您的智能体接入移动端访问能力：

nemoclaw my-bitdeer-agent telegram-setup

• 尝试不同模型

通过 Bitdeer AI Model Studio 体验和测试其他可用模型：

openshell inference set --provider openai --model zai-org/GLM-5

• 监控运行状态

启动 OpenShell TUI，实时查看您的智能体运行情况：

openshell tui

• 自定义安全策略

定义自定义网络策略，以控制您的智能体可访问的资源范围。

结语

借助运行在 Bitdeer AI Cloud 上的 NemoClaw，部署安全、可用于生产环境的 AI 智能体将变得更加切实可行，并具备良好的扩展性。通过将 NemoClaw 的沙盒执行能力与策略框架，结合 Bitdeer AI 灵活的基础设施和优化的推理端点，您只需几个步骤即可从初始配置快速迈向真实业务场景落地。无论您是在探索 AI 智能体的应用潜力，还是正逐步推进生产级部署，Bitdeer AI Cloud 都能够为您提供一个可靠的运行环境，帮助您更有信心地完成工作负载的运行、扩展与管理。

资源

文档:

• NemoClaw Docs
• OpenShell Docs
• Bitdeer AI Cloud

社区与支持：

• NemoClaw GitHub
• NemoClaw Discord
• Bitdeer AI Support

近期，OpenClaw 的出现引发了业界对一类新型 AI 系统日益增长需求的关注。这类系统通常被称为“claws”，代表着一种可长时间运行、自主执行、并能够自我演进的智能体。它们能够在几乎无需用户持续干预的情况下，规划并执行多步骤工作流。与传统 AI 助手不同，claws 并不局限于单轮交互。它们可以访问本地文件，与应用程序及外部工具进行交互，并动态编排多个子智能体，对复杂任务进行拆解与协同执行。更重要的是，这类系统还能够持续优化策略，决定任务应在何处执行，并随着时间推移不断提升整体执行效果。

与此同时，这一演进也带来了新的挑战。随着智能体被赋予更广泛的数据、工具和基础设施访问能力，安全性、隐私性与治理相关的问题变得愈发关键。围绕访问控制、数据流转、模型调用以及执行边界的种种问题，已经不再只是理论讨论，而是决定这类系统能否安全落地到生产环境中的核心前提。

为应对市场对于更安全、可控的智能体执行环境不断增长的需求，NVIDIA 在 GTC 2026 上推出了面向 OpenClaw 的  NVIDIA NemoClaw。这是一个开源技术栈，旨在为长时间运行的自主智能体引入隐私与安全控制能力。NemoClaw 基于  NVIDIA Agent Toolkit 构建，作为一个集成层，使 OpenClaw 智能体能够运行在全新推出的  NVIDIA OpenShell 运行时之上。通过将NVIDIA Nemotron等开放模型与受控执行环境相结合，NemoClaw 让常驻型、持续运行的智能体在实际部署中更安全，也更具可行性。

NVIDIA OpenShell：为 NemoClaw 提供更安全的智能体执行基础

NVIDIA OpenShell 是一个开源运行时，旨在让自主 AI 智能体的部署更安全、更具实际落地可行性。其核心作用在于充当智能体与底层基础设施之间的控制层，对智能体的执行方式、可访问资源范围以及推理请求的路由路径进行统一治理。

与仅依赖提示词约束或智能体内部内置护栏机制不同，OpenShell 将策略执行下沉至运行时层面进行强制实施。它通过在隐私、安全和基础设施访问边界上提供更清晰的控制能力，帮助开发者弥合从实验验证到生产部署之间的落差，使自主、自演进的智能体能够以更可控的方式落地到真实环境中。

OpenShell 如何构建面向安全的智能体运行环境

OpenShell 通过一个网关统一管理一个或多个相互隔离的沙箱环境，智能体在这些受控沙箱中运行。要理解其工作机制，可以从两个互补维度进行分析：核心组件（components）与防护层（protection layers）。前者定义系统的结构与控制方式，后者则明确策略在何处被执行与生效。

• 网关（Gateway） 作为控制平面，负责协调沙箱生命周期管理、身份认证、服务提供方接入以及策略编排与分发。
• 沙箱（Sandbox） 是智能体执行的隔离运行时环境。内置策略引擎对文件系统、网络访问及进程行为实施细粒度约束与强制执行。
• 隐私路由器（Privacy Router） 负责推理请求的路由治理，在对敏感上下文进行更严格控制的同时，根据预设的隐私与成本策略对模型调用路径进行动态调度。

上述组件在四个关键防护层面实施统一控制：文件系统、网络、进程以及推理。其中，文件系统与进程层的控制在沙箱创建时即被固化，以确保执行环境的不可变性；而网络与推理层的控制则支持运行时动态调整，以适应不同策略与业务需求。该架构形成了典型的纵深防御（defense-in-depth）体系，在支持长时间运行的自主智能体的同时，实现对隐私、安全与治理边界的精细化管控。

为进一步理解 OpenShell 如何支撑更安全的自主智能体执行，其整体架构设计尤为关键。下图展示了各核心组件如何协同工作，以实现执行治理、策略强制与推理控制的统一闭环。 

OpenShell 面向更安全自主智能体的架构示意图，展示其核心组件：沙箱、策略引擎与隐私路由器

在 Bitdeer AI Cloud 上部署 AI 智能体

Bitdeer AI Cloud 是亚太地区的第一批 NVIDIA Cloud Partner（NCP） 之一，并作为区域内的模型提供方（model provider）接入 NVIDIA 生态，支持基于 OpenShell 的智能体工作负载在模型部署与推理层面的运行。

Bitdeer AI Cloud 提供多样化的高性能 NVIDIA AI 基础设施，包括 NVIDIA GB200 NVL72, NVIDIA HGX H200 等。用户可在多种 GPU 配置上部署工作负载，并通过内置的负载均衡与动态扩展能力，在性能、成本与可用性之间实现优化。

这使开发者能够以生产级所需的性能与可靠性，支撑智能体工作负载所依赖的模型部署与推理能力。

如何开始

在 Bitdeer AI Cloud 上运行模型流程简洁高效。开发者可在 build.nvidia.com 上启动构建，并将工作负载部署至 Bitdeer AI Cloud：

首先，从 NVIDIA 模型目录中选择所需模型，例如 Kimi K2.5 或 Nemotron 3 Super，并进入 Deploy 页面

随后，在 Partner Endpoints 中选择 Bitdeer AI 作为模型提供方。此举将使智能体工作负载所依赖的底层模型部署与推理运行在 Bitdeer AI Cloud 上，由可扩展、生产级的 NVIDIA AI 基础设施提供支撑。

完成选择后，开发者可根据业务需求，使用无服务器端点（serverless endpoints）或基于专用 GPU 的基础设施进行部署。

在此基础上，基于 OpenShell 的智能体可执行任务、调用工具，并在受控环境中运行，同时依托可扩展的生产级算力实现稳定执行。

通过将 NVIDIA OpenShell 的安全运行时与 Bitdeer AI 的基础设施能力相结合，开发者可以：

• 在专用高性能 GPU 集群上运行长时任务智能体
• 无需管理底层基础设施即可实现工作负载弹性扩展
• 在隐私、安全与推理路由方面获得更强的控制能力

这一集成有效打通了智能体开发与真实业务部署之间的路径，使开发者能够更轻松地从实验阶段迈向可规模化的生产系统。

总结

在 NVIDIA GTC 2026 上，一个尤为突出的趋势是，AI 正在从基于提示词的交互模式，演进为可长时间运行的自主系统。随着 token 消耗持续增长，其驱动力也越来越多地来自智能体本身，它们在更长上下文中进行推理、协调工具调用，并持续执行复杂任务。

这一演进带来的新要求，已不再局限于模型性能本身。智能体如何执行、数据如何治理，以及系统如何在生产环境中保持可控性，正变得同等重要。NVIDIA OpenShell 正是这一趋势的体现，它通过引入一个运行时层，为智能体执行提供了更安全、更结构化的控制机制。

在 OpenShell 为智能体执行引入更安全运行时层的同时，Bitdeer AI Cloud 则作为模型提供方，提供支撑这类系统在真实环境中落地所需的可扩展算力基础。通过提供可扩展的高性能 AI 计算能力，我们希望帮助开发者在更加重视隐私、安全与可靠性的环境中，构建并运行可长时间执行的智能体系统。

来源:

1. NVIDIA 开发者指南：  https://docs.nvidia.com/openshell/latest/about/overview.html
2. NVIDIA 博客：https://developer.nvidia.com/blog/run-autonomous-self-evolving-agents-more-safely-with-nvidia-openshell/

• 推理拐点到来：GTC 主题演讲指出，随着 AI 从预训练阶段迈向面向实时任务的智能体推理，算力需求正在发生大规模转变。
• NVIDIA Vera Rubin 平台：这一被称为“代际跃升”的平台包含七款全新芯片（包括 NVIDIA Vera CPU 和 NVIDIA Rubin GPU）以及五种专用机柜设计，旨在为全球最大规模的 AI 工厂提供动力。
• 解耦式推理：全新集成的 NVIDIA Groq 3 LPX 机柜与 Vera Rubin 平台协同，可将单位兆瓦的推理吞吐提升至最高 35 倍。
• “Moment of Claws”：NVIDIA 正通过 NVIDIA OpenShell 推动下一轮 AI 拐点的到来。作为一个开源运行时，OpenShell 使自主智能体能够在隔离沙箱中进行安全推理与执行操作。

价值 1 万亿美元的推理拐点

在 GTC 2026 上，主题演讲强调了 AI 正在从预训练模型阶段转向实时执行阶段。黄仁勋指出，这一转变正推动全球对 AI 基础设施需求出现惊人的跃升。

这种需求的倍增，源于智能体 AI 时代的到来。所谓智能体 AI，是指能够进行任务规划、调用工具并验证结果的系统。计算范式已不再停留在基于检索的阶段，而是正从生成式能力演进到以推理为核心，并进一步迈向智能体化。如今，随着 AI 智能体开始通过任务规划、任务拆解、推理与反思等迭代过程执行各类任务，推理算力需求在短短两年内已增长约 100 万倍。

Vera Rubin：AI 工厂的基础

NVIDIA 正式发布 Vera Rubin 平台。这是一套超级计算平台，可让多个机柜协同运行，形成一个大规模、统一且一致的计算系统，从而最大化每瓦功耗所产出的 token 数量。

• NVIDIA Groq 3 LPX 机柜：该机柜标志着加速计算迈入支持解耦式推理的新阶段。在这一架构中，Rubin GPU 负责 prefill、decode attention 以及大规模 KV cache 的生成，而 NVIDIA Groq LPU 则负责低时延的 decode 阶段，可为万亿参数模型带来最高达 10 倍的收入机会。
• Vera CPU 机柜：这是全球首款专为智能体 AI 打造的处理器平台。相较于传统 CPU，它可实现两倍的效率提升，并将处理速度提高 50%。凭借 88 个定制 Olympus 核心和 1.5TB LPDDR5X 内存，它能够提供智能体运行代码和验证结果所需的单线程性能。
• NVIDIA BlueField-4 STX 机柜：这是一套原生面向 AI 的存储基础设施，将数据视为“上下文记忆”。借助 NVIDIA DOCA Memos™ 框架，它可将长上下文推理场景下的推理吞吐提升最高 5 倍。

NVIDIA OpenShell：开启“Moment of Claws”

2026 年初，OpenClaw 的出现引发了业界对自主智能体的广泛关注。这类智能体能够执行多步骤工作流，并通过与本地文件及外部工具交互，推动 AI 系统从一次性响应模式走向持续运行、以执行为导向的新阶段。

为支持这些最先进智能体的安全部署，NVIDIA 推出 NVIDIA OpenShell，以迎接这一“Moment of Claws”。OpenShell 是一个开源运行时，专门用于治理智能体的执行方式。

我们也正在与 NVIDIA 合作推进 NVIDIA NemoClaw。这是一套开源技术栈，可通过单条命令，更安全地简化 OpenClaw 常驻助手的运行。作为 NVIDIA Agent Toolkit 的一部分，它会安装 NVIDIA OpenShell 运行时一个用于运行自主智能体的安全环境，以及包括 NVIDIA Nemotron 在内的开源模型。

NVIDIA OpenShell 位于智能体与底层基础设施之间，能够在隔离沙箱中运行各类代码智能体，包括 OpenClaw、Claude Code、Cursor 和 Codex，而无需修改任何代码。所有操作都会在基础设施层按照策略进行强制执行，从而为长时间运行的智能体工作流提供隐私与安全保障。

来源: NVIDIA GTC2026 主题演讲

随着全球智能体基础设施不断演进，Bitdeer AI 也正在亚太地区积极推进安全、可扩展的智能体基础设施建设。如今，开发者和企业已可在 build.nvidia.com 上看到 Bitdeer AI，作为支持这类智能体底层模型运行的基础设施提供商。

我们也很高兴地宣布，Nemotron 3 Super 已上线 Bitdeer AI 平台。作为 OpenClaw 当前表现最出色的开源模型之一，Nemotron 3 Super 具备支持复杂自主工作流所需的高阶推理与任务规划能力。

立即体验从 build.nvidia.com 开始构建属于你的安全自主智能体:

1. 登陆build.nvidia.com 上访问 NVIDIA OpenShell.
2. 无缝集成来自 Bitdeer AI 的前沿开源模型端点，为长时间运行的智能体提供算力支持。

依托部署于先进 AI 数据中心的 NVIDIA GB200 NVL72 系统，Bitdeer AI Cloud 提供运行自主进化型智能体所需的高性能基础设施，助力 NVIDIA OpenShell 场景下的大规模应用落地。通过将安全的运行时治理能力与高性能 AI 云平台相结合，我们帮助开发者构建具备更强隐私保障与基础设施可靠性的下一代 AI 应用。

来源: https://blogs.nvidia.com/blog/gtc-2026-news/

Bitdeer AI Model Studio 现已支持 NVIDIA-Nemotron-3-Super-120B-A12B，为开发者带来一款面向高级推理、长上下文理解与 Agentic AI 开发的全新开放模型。

NVIDIA Nemotron 3 Super 专为复杂多智能体应用而设计，在提供强大推理能力的同时兼顾计算效率。如今，开发者可直接在 Bitdeer AI 的高性能 NVIDIA GPU 基础设施上探索并运行该模型，更高效地开展实验、部署应用，并扩展高要求的 AI 工作负载。

什么是 NVIDIA Nemotron 3 Super

NVIDIA Nemotron 3 Super 是 Nemotron 3 开放模型家族中的重要成员，专为复杂多智能体应用场景优化。

NVIDIA-Nemotron-3-Super-120B-A12B该模型拥有 120B 总参数，采用 Mamba 与 Transformer 混合的专家混合架构（Mixture-of-Experts, MoE），在推理时仅激活 12B 参数。这一架构设计使其在复杂推理任务中具备出色表现，同时保持适合生产级部署的推理效率。

Nemotron 3 Super 的突出之处，在于它并非只是面向通用聊天场景进行优化，而是针对更复杂的 Agentic AI 工作负载进行设计。这类任务通常要求模型能够在超长上下文中进行推理，准确调用工具，并支持多步骤任务执行与智能体协作。

关键规格:

• 模型规模：120B 总参数，推理时激活 12B 参数
• 模型架构：Mamba-2、状态空间模型与 Transformer 结合的专家混合架构
• 上下文窗口：最高支持 1M tokens
• 准确率表现：在同规模模型中，于 Artificial Analysis Intelligence Index 上取得领先表现
• 最低 GPU 需求：2 × NVIDIA H100 80GB
• 多语言支持：英语、法语、德语、意大利语、日语、西班牙语、中文

为什么 Nemotron 3 Super 适合 Agentic AI

随着 AI 应用从单轮对话逐步走向更复杂的智能体系统，模型能力的要求也在不断提高。Agentic AI 系统不仅需要具备强大的推理、编码和长上下文分析能力，还必须足够高效，能够支撑生产环境中的持续运行。

与传统聊天式交互相比，多智能体工作流往往会产生更多 token 消耗。在任务执行过程中，不同智能体会反复交换对话历史、工具输出和中间推理结果，随着任务变长，上下文规模会不断扩大。这不仅会推高推理成本，也会带来通信开销和上下文漂移等问题。

NVIDIA Nemotron 3 Super 正是围绕这些核心挑战进行架构设计。

首先，Mamba 与 Transformer 的混合架构 提升了模型处理长序列任务的效率，同时保留了 Transformer 在复杂推理中的优势，使模型在长上下文任务中兼顾性能与准确率。

其次，专家混合架构 会根据任务动态选择不同专家网络参与推理，在不按比例增加计算成本的前提下进一步提升模型性能。这对于需要持续运行的大规模智能体系统尤为关键。

第三，Nemotron 3 Super 采用 完整开放模型栈，包括开放权重、开放训练数据集以及开放训练配方。这意味着开发者可以在自有基础设施上进行定制化训练与微调，同时更好地掌控数据隐私与安全。

展示 Mamba-2 与 MoE 成对模块重复排列，并与注意力层交替插入的层级结构示意图。

来源: NVIDIA

综合来看，Nemotron 3 Super 非常适合用于构建复杂多智能体系统和企业级 AI 工作流。该模型特别针对 工具调用、多步骤推理与智能体编排 进行了优化，而这些能力正是新一代 AI Agent 系统的关键基础。随着越来越多应用需要模型与外部工具、API 及数据源协同完成任务，Nemotron 3 Super 的价值也变得更加突出。

对于企业级 Agentic AI 应用而言，模型不仅要“会回答”，更要能够在复杂任务中持续保持上下文、调用外部能力并完成多阶段决策。

Nemotron 3 Super 的架构设计使其能够更好地支持以下场景：

• 在长文档、代码库或多轮对话历史中保持推理连贯性
• 在复杂工作流中更准确地执行工具调用
• 在多智能体协作任务中降低上下文膨胀带来的成本压力
• 在企业环境中实现更高效、更可控的模型定制与部署

这使其不仅适用于实验性应用，也更适合逐步走向真实业务生产场景。

基准测试表现

Nemotron 3 Super 在多项 Agentic AI 与推理类基准测试中展现出领先准确率，同时保持了较高吞吐效率。

Nemotron 3 Super 与同规模开源模型基准准确率对比

来源: NVIDIA

从公开表现来看，该模型在以下关键能力上具备较强优势：

• 指令遵循能力： 能够更好地理解复杂任务要求，并按预期执行
• 代码能力：在编码、调试及代码相关任务中表现出色
• 工具使用能力： 能够更可靠地完成工具调用，提升复杂任务执行成功率
• 长上下文推理能力：适合处理跨长文档、多步骤、跨来源信息整合等任务

这些能力共同奠定了 Nemotron 3 Super 在智能体系统和复杂企业应用中的实用价值。

企业级应用场景

Nemotron 3 Super 面向复杂企业 AI 应用而设计，尤其适用于需要多智能体推理与大规模知识上下文处理的任务。以下是几个具有代表性的应用方向。

软件开发：

凭借较强的代码能力和工具调用能力，以及对大型代码库的上下文理解能力，Nemotron 3 Super 可以支持端到端的软件开发工作流，包括代码生成、自动调试与测试等任务。这使其非常适合用于 AI 编程助手、开发自动化以及工程协作类应用。

深度研究与智能搜索：

Nemotron 3 Super 在企业研究类工作流中具备良好潜力，能够支持高质量报告生成、精确信息检索和长文档事实回溯。这类能力可广泛应用于文献综述、竞争情报分析、知识发现和研究自动化等场景。

网络安全：

在网络安全场景中，工具调用的准确率至关重要。Nemotron 3 Super 能帮助自主智能体更可靠地选择并调用合适工具，从而降低高风险环境中的执行错误。这对于安全运营自动化、威胁分析和自动化安全工作流具有现实意义。

金融服务：

在金融行业中，模型往往需要一次性处理大量财报、研究资料和长篇文档，并在较长任务链路中持续保持上下文。Nemotron 3 Super 能够帮助分析型智能体提升任务连续性，从而提高分析效率与判断准确率，适用于投研支持、财务分析和知识密集型工作流。

通过 API 在 Bitdeer AI Model Studio 上快速运行 Nemotron 3 Super

Bitdeer AI Model Studio 是一个无服务器推理平台，开发者可通过简洁的 API 直接访问并运行 Nemotron 3 Super 等基础模型。

第一步：选择模型

登录 Bitdeer AI Model Studio，在模型列表中找到 NVIDIA-Nemotron-3-Super-120B-A12B，即可开始用于相关 AI 工作负载。当前定价为：输入价格：$0.30 / M tokens，输出价格：$0.80 / M tokens。

第二步：生成 API Key

在调用模型前，你需要先生成 API Key。进入左侧导航栏中的 API Keys 页面，点击 Generate API Key 即可创建。

第三步：通过 API 调用模型

创建 API Key 后，即可通过 Bitdeer AI 推理 API 调用该模型。只需在请求头中加入 API Key，即可将 Nemotron 3 Super 集成到你的 AI 应用与工作流中。

借助 Model Studio 与 API 接入能力，开发者能够更快开始实验，并将 Nemotron 3 Super 用于实际业务场景。

凭借强大的推理能力、超长上下文支持以及高效的混合架构，NVIDIA-Nemotron-3-Super-120B-A12B 为构建下一代 AI 应用和智能体系统提供了坚实基础。

结语

无论是复杂推理任务、代码相关任务、大规模知识处理，还是多智能体协作工作流，Nemotron 3 Super 都能够帮助开发者以更高效率和更大灵活性应对高要求 AI 负载。

如果你正在寻找一款能够支撑高级 Agentic AI 应用的开放模型，现在就前往 Bitdeer AI Model Studio，体验 NVIDIA Nemotron 3 Super，探索它如何加速你的下一代 AI 应用开发。

OpenClaw 是一个功能强大的 AI Agent 框架，可用于构建具备多种能力的智能助手，支持 Web 搜索、代码执行以及与多种 AI 模型的集成。基于 Bitdeer AI Cloud，OpenClaw 可在云端部署，支持灵活的资源配置与按使用量计费模式，团队无需长期硬件投入即可高效运行 AI Agent。

本文将详细介绍如何在 Bitdeer AI Cloud 上部署 OpenClaw，并完成相关配置，通过实际示例展示如何构建一个可交互、可持续运行的 AI 助手服务。

前置条件

在开始部署前，请确保已具备以下条件：

• 一个有效的 Bitdeer AI Cloud 账号
• 基本的 Linux 命令行操作经验
• 一个 Telegram 账号（用于 Bot 集成）

步骤一：创建 Bitdeer AI Cloud 实例

订购虚拟机实例

登录 Bitdeer AI Cloud 控制台，创建并订购一个新的虚拟机实例。

推荐实例配置如下：

• CPU：不少于 2 核
• 内存（RAM）：至少 4 GB
• 存储：不少于 20 GB SSD
• 操作系统：Ubuntu 20.04 或更高版本

提交订单后，请等待实例完成自动部署。

访问实例

实例状态变为 Running 后，即可通过 SSH 方式连接到服务器：

ssh username@your-instance-ip

步骤二：安装 OpenClaw

快速安装

OpenClaw 提供了一行式安装脚本，可自动处理全部依赖项。请在服务器终端中执行：

curl -fsSL https://openclaw.ai/install.sh | bash -s -- --no-onboard

该命令将自动完成以下操作：

• 安装所需的系统依赖
• 配置 Node.js 运行环境
• 安装 OpenClaw 主程序

安装完成后，可通过以下命令验证是否安装成功：

openclaw --version

💡 常见问题提示

如果出现 openclaw: command not found 错误，请执行以下操作之一：

source ~/.bashrc
# Or manually add to PATH if necessary
export PATH="$HOME/.npm-global/bin:$PATH""

步骤三：配置 OpenClaw

初始化配置

运行 OpenClaw 初始化向导，用于生成基础配置结构：

openclaw setup

该命令将在用户目录下创建默认的 OpenClaw 配置文件与工作目录。

配置 AI 模型

完成初始化配置后，请编辑 OpenClaw 的配置文件以添加 AI 模型相关设置：

vim ~/.openclaw/openclaw.json

示例配置如下（仅展示关键部分）：

{
  "agents": {
    "defaults": {
      "model": {
        "primary": "bitdeerai/moonshotai/Kimi-K2.5"
      },
      "workspace": "/home/ubuntu/.openclaw/workspace"
    }
  },
  "models": {
    "mode": "merge",
    "providers": {
      "bitdeerai": {
        "baseUrl": "https://api-inference.bitdeer.ai/v1",
        "apiKey": "your-api-key-here",
        "api": "openai-completions",
        "models": [
          {
            "id": "moonshotai/Kimi-K2.5",
            "name": "Kimi-K2.5"
          }
        ]
      }
    }
  }
}

请将 your-api-key-here 替换为你自己的 Bitdeer API Key。

你可以在模型部分查看更多详情内容：

获取 Bitdeer AI Cloud API Key

获取 API Key 的步骤如下：

1. 登录 Bitdeer AI Cloud 控制台
2. 进入 Models → API Keys 页面
3. 点击 Generate API Key
4. 复制并妥善保存生成的 Key

⚠️ 重要提示：请勿将 API Key 提交到版本控制系统中。

验证模型配置

完成模型配置后，可通过列出可用模型来验证配置是否正确：

openclaw models list

系统将返回当前已配置模型及其状态。

完成 Onboarding 流程

运行快速引导流程以完成 OpenClaw 服务初始化：

openclaw onboard --flow quickstart

集成 Telegram

在引导过程中，请选择 Telegram 作为通信渠道，并输入你的 Telegram Bot Token。

完成后，OpenClaw 服务将自动在后台运行。

访问 OpenClaw 控制面板 (可选)

如果你希望通过 Web 界面访问 OpenClaw 控制面板，可以先建立一个 SSH 隧道，并使用网关令牌（gateway token）进行访问。

首先，请在配置文件中查找你的 gateway token：

cat ~/.openclaw/openclaw.json

示例配置段落：

{
  "gateway": {
    "mode": "local",
    "auth": {
      "mode": "token",
      "token": "your-gateway-token"
    },
    "port": 18789
  }
}

建立 SSH 隧道，在本地计算机上执行：

# Run this on your local machine
ssh -L 18789:localhost:18789 username@your-instance-ip

随后在浏览器中访问：

http://localhost:18789?token=your-gateway-token

Step 4: 步骤四：与 Telegram 配对

绑定 Telegram 聊天

1. 在 Telegram 中打开你的 Bot
2. 发送 /start 命令
3. Bot 将返回一个配对码
4. 在服务器终端中执行：

openclaw pairing approve telegram <pairing-code>

交互功能说明

配对成功后，Telegram Bot 可执行以下功能：

• 基于已配置模型回答问题
• 执行 Web 搜索
• 运行代码（沙箱环境）
• 处理文件上传
• 保持上下文对话状态

常用 Telegram 指令

• /start：初始化 Bot
• /help：显示可用指令
• /status：查看当前运行状态

总结

至此，你已在 Bitdeer AI Cloud 上成功部署并运行了一个功能完整的 OpenClaw AI 助手，并完成相关集成配置。该部署方案在保障安全性与性能的同时，提供了高度可定制的 AI Agent 能力，可支持多种实际业务场景与任务需求。

Bitdeer AI Cloud 稳定可靠的云端基础设施与 OpenClaw 灵活的 Agent 框架相结合，为智能助手的构建与部署提供了理想的运行环境。随着你对平台的进一步熟悉，还可以继续探索更高级的功能，例如更丰富的 Agent 能力扩展以及与其他交互渠道的集成。

祝您开发愉快，持续构建！

*安全提示：请对敏感操作配置适当的访问控制。

更多参考

• Bitdeer AI Cloud Documentation
• OpenClaw GitHub Repository

Hack to Hire 第二期虽已落下帷幕，但活动期间诞生的用例依然令人印象深刻。不同于聚焦实验性模型或理论性基准测试，本次黑客松产出了多套切实可行的系统设计，直面供应链、零售运营以及文档密集型行业中长期存在的业务难题。

在有限的时间内完成构建，这些项目展示了当 AI 与合适的基础设施和系统架构相结合时，如何被直接嵌入到实际业务流程之中。即便在活动结束之后，这些用例依然具有现实意义，可作为企业将 AI 能力转化为真实业务价值的实践参考。以下文章将对这些原型案例进行更深入的解析，并进一步探讨其实际应用与价值。

用例一：面向可持续供应链的市场与供应商情报

背景

在纺织制造供应链中，可持续性与供应商质量已不再是次要考量。决策者需要持续评估庞大且不断变化的供应商体系，在合规性、绩效与风险等方面做出判断。然而，相关数据往往分散在内部系统、供应商提交材料、外部文件以及公开新闻等不同来源之中，难以统一管理。

技术与业务挑战

核心问题在于数据碎片化。供应商信息以多种格式存在于不同系统中，难以形成统一、实时更新的整体视图。因此，可持续合规检查与质量评估高度依赖人工流程，不仅拖慢关键决策节奏，也增加了运营风险。

解决方案架构

该方案通过集中式数据管道整合供应商数据、相关文档及外部信息。在整体系统架构中，Bitdeer AI Cloud 提供虚拟机运行环境与数据处理层，用于执行 ETL 工作流、托管分析看板，并支持基于 AI 的洞察生成。 结构化数据被集中存储，AI 模型对供应商属性进行分析，生成质量评分与具备上下文的信息化建议。分析看板将这些洞察以统一视图呈现，帮助企业更高效、及时地做出供应商管理决策。

成果

该原型展示了 AI 辅助分析如何将供应商评估从依赖人工审核的方式，转变为更加系统化、以洞察驱动的流程，尤其适用于以可持续发展为核心目标的供应链场景。

用例二：用于陈列执行的零售门店智能化管理

背景

在零售门店运营中，一线员工需要花费大量时间，按照既定的陈列规范（Planogram）完成商品摆放。门店经理往往需要管理规模庞大的团队，而品牌方和产品经理则通常缺乏对商品在实际门店中最终呈现方式的直接可见性。

挑战

依赖人工上报和目视检查的方式不仅耗时，而且结果不一致。在缺乏结构化反馈机制的情况下，企业难以系统性评估陈列执行质量，也无法在多门店场景下实现规模化管理与监督。

解决方案架构

该系统对陈列执行流程进行数字化管理，从指令下达到执行验证实现全流程覆盖。商品陈列要求通过统一的平台记录并分发给一线员工，执行完成后，员工可通过移动端浏览器上传现场照片。 在系统架构中，Bitdeer AI Cloud 托管运营看板，并支持用于图像分析的模型推理能力，对上传图片进行自动识别与评估。分析结果将被自动记录并汇总，使管理者无需依赖人工跟进，即可掌握各门店的执行状态与绩效表现。

成果

通过将视觉证据与自动化上报机制相结合，该方案显著提升了零售运营的透明度，同时降低了一线员工和管理层在执行与监督过程中的人工负担。

用例三：面向中小企业的招标文件自动化智能分析

背景

新加坡建筑行业每年发布数以千计的政府招标项目，单个招标往往包含数百页文件。对于中小企业而言，参与这些招标既至关重要，又高度消耗人力与时间资源。

挑战

招标文件通常通过电子邮件接收，并依赖人工逐页审阅。处理单个招标往往需要数天时间，给规模有限的质量与合规团队带来较大压力，同时也增加了错过截止日期或出现审查疏漏的风险。

解决方案架构

该方案通过自动化流水线实现招标文件的接收与评估。系统在接收到邮件后自动触发文档处理流程，对招标要求进行提取、分析与初步评估。AI 结合检索增强生成（RAG）技术，引用企业内部文档库（如资质证书、项目履历等），完成资格匹配与合规性核查。 在整体架构中，Bitdeer AI Cloud 提供自动化流程的执行环境，托管运行文档处理、AI 推理的虚拟机，以及用于结果可视化和流程审计的分析看板。

成果

该原型展示了 AI 驱动的自动化能力如何显著缩短招标审阅周期，帮助中小企业更高效地响应招标需求，并在高频招标环境中提升竞争力。

赋能AI工作流的基础设施

在上述三个用例中，Bitdeer AI Cloud 均作为底层执行层发挥作用，支撑数据管道、AI 推理以及分析看板的部署。通过提供一致且灵活的运行环境，团队能够将精力集中于工作流设计与问题解决，而无需耗费大量时间在基础设施搭建上。 这种将基础设施与应用逻辑解耦的方式，在黑客松有限的时间框架内，实现快速迭代起到了关键作用。

总结

Hack to Hire 所呈现的解决方案不仅是短期实验成果，更展示了当 AI 围绕真实业务流程进行设计时，如何实现真正的落地应用，而非停留在孤立模型或理论性原型阶段。

在所有用例中，一个清晰的共性逐渐显现：真正的业务价值，来自将 AI 深度嵌入端到端业务流程，并依托能够支持快速迭代与稳定执行的基础设施。在这一背景下，Bitdeer AI 定位为一体化的 AI 云平台，融合 AI 数据中心基础设施与完整的云平台能力，提供覆盖 AI 全生命周期的内置工具，支持从开发、训练到部署与生产运行的各个环节。这些项目共同勾勒出一条务实的 AI 采用路径，帮助企业以流程整合、运营成效和可衡量结果为核心，持续释放 AI 的实际价值。

随着人工智能的快速发展，模型规模和计算复杂度不断提升，对底层计算硬件提出了更高要求。其相关工作负载对算力、效率和系统稳定性的依赖日益增强，只有具备先进架构与持续性能输出能力的计算平台，才能支撑这一进程。在这一领域中，NVIDIA GB200 NVL72 的面世，是重要的一个节点，备受行业的关注。GB200 NVL72是面向高性能计算与人工智能工作负载设计，依托 NVIDIA 在加速计算领域的架构积累，正在推动人工智能开发与规模化部署进入新的阶段。

什么是 NVIDIA GB200 NVL72？ 

NVIDIA GB200 NVL72 是一套面向大规模人工智能训练与推理工作负载的机架级人工智能系统。该系统基于 NVIDIA Blackwell 架构构建，由 36 颗 Grace Blackwell Superchip 组成，每颗 Superchip 集成一颗 NVIDIA Grace CPU 与两颗 Blackwell GPU，在一个采用液冷设计的单一机架中共包含 72 颗 GPU 和 36 颗 CPU。。

通过完整的 NVLink 与 NVLink Switch 互连，系统内所有 GPU 以高度耦合的方式协同运行，使整个平台在逻辑上表现为一个整体计算单元，而非多个彼此独立的加速器。这种架构显著降低了 GPU 之间的通信开销，并针对模型规模较大、参数交换频繁，以及需要在大规模条件下保持稳定、可预测性能的长时间训练或推理任务进行了优化。

从 H100 到 GB200 NVL72 的技术演进

尽管 H100 在基于 Transformer 架构的人工智能计算方面实现了重要突破，GB200 NVL72 在此基础上通过系统级层面的改进进一步演进。相较于 H100，GB200 NVL72 引入了新一代 Tensor Core 以及更新的第二代 Transformer Engine，并针对新的 FP4 精度进行了优化。与 H100 所采用的 FP8 相比，该设计在计算能力和可支持的模型规模上实现了成倍提升，尤其有利于超大规模大语言模型的推理任务。这些改进直接作用于大语言模型的训练与推理场景，其中矩阵运算在整体运行时间中占据主导地位。

互连架构是另一项关键差异点。基于 H100 的集群通常依赖节点内的 NVLink 以及节点间的高速网络，在大规模部署时可能引入额外的延迟与同步开销。GB200 NVL72 则通过 NVLink Switch System 将 NVLink 域扩展至整个机架内的 72 颗 GPU，提供相比上一代高达 9 倍的总体带宽，使整个机架在逻辑上被视为一个统一的 GPU。

在内存访问层面，系统级优化同样带来了改进。通过加速参数共享与集合通信操作，GB200 NVL72 提升了整体资源利用效率，尤其适用于模型规模超出单个 GPU 显存容量的场景。最后，GB200 NVL72 是一套以液冷为原生设计的系统。这一转变对于应对单机架超过 120 千瓦的功率密度至关重要，使系统能够在持续运行条件下保持峰值性能，而这是传统风冷方案在物理条件上难以实现的。

这些架构层面的变化不仅体现在设计理念上，也直接反映在真实人工智能工作负载的性能表现中。后续的基准测试将从大语言模型训练效率、推理吞吐量、能效表现以及数据处理性能等方面，对 GB200 NVL72 与基于 H100 的系统进行对比分析。

来源：NVIDIA 官方网站

业务应用场景：GB200 NVL72 的适用领域

NVIDIA GB200 NVL72 面向对计算吞吐、扩展效率以及持续性能有较高要求的人工智能工作负载而设计。其机架级架构适用于多种企业级应用场景，在这些场景中，训练速度、推理效率以及运行成本会直接影响业务结果，覆盖医疗健康、金融服务以及以人工智能为核心的技术型企业等多个行业。

1. 大规模人工智能模型训练

GB200 NVL72 适合用于训练规模大、结构复杂的人工智能模型，相关应用包括自动驾驶、医疗健康、机器人技术以及自然语言处理等领域。凭借高性能的 Tensor Core 与更高的系统级吞吐能力，该平台能够缩短深度学习模型的训练周期，从而加快实验迭代速度，并推动模型从研究阶段更高效地进入部署阶段。

2. 高性能人工智能推理

除训练场景外，GB200 NVL72 同样适用于对响应速度和稳定性要求较高的推理工作负载。视频分析、推荐系统以及实时决策支持等应用，能够受益于其在大规模条件下高效执行推理任务的能力，帮助企业提供更具响应性的人工智能服务。在医疗健康与生命科学领域，医学影像分析、基因组计算以及药物研发等工作负载通常涉及大规模数据集和长时间运行的训练任务，该平台有助于缩短训练时间并提升资源利用效率，从而支持更快的实验推进以及从研究环境向临床或生产环境的过渡。

3. 面向规模化部署的能效优化

GB200 NVL72 在设计上兼顾性能与能效，适用于对功耗与运营成本较为敏感的大规模人工智能部署场景。这一特性对于持续运行工作负载的云服务提供商、企业级人工智能平台以及科研机构尤为重要，因为在规模化运行条件下，系统效率将直接影响整体拥有成本。

4. 支撑下一代人工智能应用

通过支持更大规模的数据集以及日益复杂的模型结构，GB200 NVL72 为不同行业开发和部署下一代人工智能应用提供了基础能力。这类应用包括多模态人工智能系统、共享型基础模型，以及服务于多个业务部门或客户的人工智能平台。该平台使企业能够在模型复杂度不断提升的过程中，逐步扩展人工智能能力，同时保持性能表现与系统架构的一致性。

Bitdeer AI 与 NVIDIA GB200 NVL72 集群

随着 Bitdeer AI Cloud 平台不断扩展其 NVIDIA GPU 产品体系，平台正在覆盖更加多样化的人工智能计算需求。NVIDIA GB200 NVL72 的引入，使平台在支持更大规模、通信更密集的人工智能工作负载方面具备了更强的能力。同时，平台原有的 NVIDIA H100 仍然在大量训练与推理场景中发挥着稳定作用，共同构成了覆盖不同模型规模与部署需求的计算基础。

通过同时提供这两类GPU资源，Bitdeer AI Cloud 使用户能够根据模型规模、工作负载特征以及运行需求，选择更契合自身场景的 GPU 配置。

数据中心始终反映着其所处时代的主流计算范式。长期以来，企业软件、Web 服务以及数据库系统主导了数据中心的设计与运营方式。这类工作负载强调可靠性、稳定性能以及高效的资源共享。

人工智能的兴起带来了截然不同的需求特征。现代 AI 系统的训练与部署需要大规模并行计算、快速的数据传输能力以及显著更高的功率密度。因此，在传统数据中心之外，一种新的基础设施形态逐渐成型，AI 数据中心。本文将系统性地分析传统数据中心与 AI 数据中心在架构设计、应用场景及商业价值方面的差异。

什么是传统数据中心？

传统数据中心旨在支持多样化的通用计算工作负载，其架构设计以灵活性和整体运行稳定性为核心目标。

其主要特征包括：

• 以 CPU 为核心的计算架构，适合顺序型和事务型处理
• 中低功率密度，通常可通过风冷方式满足散热需求
• 通用型网络架构，主要面向客户端到服务器的通信模式
• 多租户工作负载支持，常通过虚拟化技术实现资源隔离与调度

这一模式至今仍非常适合企业信息系统、Web 平台以及对稳定性和高可用性要求较高的关键业务应用。

什么是 AI 数据中心？

AI 数据中心是专为机器学习和人工智能工作负载而设计的基础设施，其核心不再是通用处理器，而是各类计算加速器。

其关键特征包括：

• 以 GPU 或 AI 加速器为核心的计算集群，支持大规模并行计算
• 极高的功率与热密度，需要更先进的散热方案
• 高带宽、低延迟的互连网络，以支撑密集的数据交换
• 计算、存储与网络的深度集成，以减少系统瓶颈

AI 数据中心并非同时承载大量彼此无关的工作负载，而是被优化用于高效运行数量较少但计算强度极高的任务。与传统数据中心普遍采用的标准以太网不同，AI 数据中心通常采用专用的 InfiniBand 或 RoCE（基于融合以太网的 RDMA）网络架构，以确保网络不会成为 GPU 性能发挥的瓶颈。

数据中心机房等级划分：Tier I、Tier II 与 Tier III

在比较传统数据中心与 AI 数据中心之前，有必要先了解业内常用的数据中心机房等级体系。Tier 等级主要用于衡量数据中心在可靠性、冗余能力和可维护性方面的设计水平，而非计算性能本身。

Tier I 数据中心

Tier I 是最基础的数据中心等级，通常采用单一路径的供电与制冷架构，几乎不具备冗余能力。无论是计划内维护还是突发故障，通常都需要整体停机。该等级适用于对可用性要求较低的非关键业务场景。其预期可用性为 99.671%（每年约 28.8 小时的停机时间）。

Tier II 数据中心

Tier II 在 Tier I 的基础上增加了有限的冗余设计，例如备用电源或冗余制冷设备。但整体系统仍以单一路径为主，因此在维护或切换过程中仍可能影响业务运行。Tier II 通常适用于对稳定性要求中等的业务负载。其预期可用性为 99.741%（每年约 22 小时的停机时间）。

Tier III 数据中心

Tier III 数据中心具备可维护性冗余能力，关键基础设施通常采用 N+1 冗余设计，并支持多路径供电与制冷。其特点是在不中断业务运行的前提下，可对单个系统组件进行维护或更换。Tier III 是当前企业级与云计算数据中心中广泛采用的等级，也更适合承载关键业务及多数 AI 工作负载。其预期可用性为 99.982%（每年约 1.6 小时的停机时间）。

需要注意的是，Tier 等级衡量的是基础设施的可靠性水平，并不直接决定是否适合 AI 工作负载。AI 数据中心通常在 Tier III 或更高可靠性等级的基础上，进一步强化高密度供电能力、散热方案以及面向加速计算的系统设计。

架构与运维分析

传统数据中心与 AI 数据中心之间的架构差距正在迅速扩大。CPU 以通用性见长，但 AI 工作负载需要在成千上万个相同运算上实现并行执行。GPU 和 AI 加速器弥补了这一能力缺口，同时也引入了新的基础设施约束。

AI 数据中心必须重点解决以下问题：

• 供电能力挑战：高密度机柜对电力需求大幅提升
• 散热管理难题：单纯依赖风冷已难以满足需求
• 网络拥塞风险：模型训练高度依赖 GPU 之间的持续通信
• 数据局部性要求：需要确保存储与计算资源紧密耦合

在运维层面，管理重心也从单台服务器或虚拟机，转向以集群为整体的系统管理。效率评估不再仅依赖资源利用率，而更多关注训练时间、推理延迟以及能效表现。

以下是传统数据中心与AI 数据中心之间的关键对比：

业务应用与行业影响

AI 数据中心正迅速成为现代企业获取竞争优势的核心基础。它们使组织能够从零散的 AI 实验，迈向大规模模型训练、高吞吐推理，以及用于自动化客户支持、软件开发和数据分析等复杂工作流程的 AI 智能体。计算能力、数据传输能力以及功率密度的可扩展性，直接影响创新速度和产品上市周期。

在各行各业中，AI 数据中心正在重塑价值创造方式。金融机构利用其进行实时风险建模和欺诈检测，医疗机构将其应用于先进的医学影像和诊断，制造企业则依托其开展仿真计算、数字孪生和预测性维护。这些由 AI 驱动的工作负载正从探索性应用，逐步演变为关键业务系统。

随着 AI 应用的加速普及，企业正将基础设施战略围绕 AI 数据中心进行重构，将其视为长期的战略性资产。AI 数据中心不再只是支撑系统，而是逐渐成为推动创新、提升运营效率和塑造竞争优势的核心引擎，决定着组织在业务层面扩展智能能力的速度与成效

总结

随着 AI 系统在规模和复杂度上的持续提升，基础设施决策已不再只是技术层面的选择，而是上升为战略层面的考量。将云平台的灵活性与专为 AI 打造的数据中心设计相结合，正成为组织实现先进 AI 稳定、高效部署的关键能力。

在 Bitdeer AI，我们正是基于这一现实来构建云平台。通过整合集团层面的全球基础设施资源，包括利用现有的数据中心站点和电力资源优势，并与灵活的云能力相结合，我们打造了一套专为先进 AI 工作负载而设计的 AI 云基础，全面支持基于新一代 NVIDIA GPU 的高性能计算。这种一体化模式在保障性能、能效和运行韧性的同时，实现了 AI 的规模化部署，使客户能够专注于智能能力的构建与落地，而底层 AI 基础设施的复杂性则由我们以安全、可持续、可规模化的方式统一管理。

在数据驱动应用与 AI 创新加速发展的时代，企业对可靠、可扩展且高性能的数据库解决方案的需求日益增长。为满足这一需求，Bitdeer  AI 云平台上线 RDS（关系型数据库服务）。我们的 RDS 解决方案专为简化数据库管理而设计，同时兼顾安全性与可扩展性，针对 PostgreSQL 进行了优化，为开发者和企业用户提供无缝体验。

RDS 服务核心功能

1. 全托管 PostgreSQL：我们的 RDS 支持 PostgreSQL，这是一款可靠且高度可扩展的开源数据库。凭借广泛的社区支持和丰富的扩展生态系统，包括分析、地理空间数据、全文检索、时间序列工作负载等，PostgreSQL 能够轻松适应各种应用场景。
2. 数据库监控：通过我们的 RDS，可使用 Prometheus、Grafana 和 Loki 对数据库进行监控，实现实时指标查看、清晰的可视化以及高效的日志分析，从而保障数据库性能与健康状态。

3. 安全与合规
   • VPC（虚拟私有云）隔离：通过将数据库实例与未经授权的访问隔离，提供网络级安全保障。
   • 加密：保护敏感数据，防止未经授权的访问，确保符合安全最佳实践。
4. 免维护服务器管理：减轻硬件维护和操作系统管理的负担，让用户专注于应用开发，无需担心基础设施维护问题。

Bitdeer AI RDS 服务的优势

基于上述功能，我们的 RDS 提供了多项显著优势：

• 简化数据库管理：自动化常规数据库任务，如监控，降低运维负担。
• 增强安全性：数据加密确保您的数据免受外部威胁。
• 性能优化：利用 PostgreSQL 的高级索引、查询和事务能力，RDS 为数据密集型应用提供强大支持。
• 自动故障切换：在集群部署模式下启用自动故障切换功能，可在主节点故障时防止应用中断。

应用场景

Bitdeer AI 云上的 PostgreSQL 功能丰富，能够支持各种实际应用场景：

• 企业应用后台数据库为 ERP、CRM 以及大规模 SaaS 平台等关键系统提供可靠、高性能的 PostgreSQL 基础设施，保障数据一致性、高可用性，并确保事务操作顺畅。
• 原生 RAG 工作流的向量数据库通过 PostgreSQL 向量扩展存储和查询高维向量，支持检索增强生成（RAG）、语义搜索、推荐引擎以及其他基于向量嵌入的 AI 应用。
• 图数据库用于图 RAG 与关系智能利用 PostgreSQL 的图和 JSONB 功能建模复杂关系，实现图查询、实体关联、欺诈检测以及需要深度关系推理的图 RAG 场景。
• 面向 OLAP 的数据湖集成借助 PostgreSQL 的 OLAP 友好特性、列存扩展以及数据湖连接器，支持分析型工作负载，实现统一存储、高速聚合及 ETL 流程，无需跨系统搬移数据。
• 日志存储与全文搜索利用 PostgreSQL 原生全文搜索（FTS）功能，对日志数据进行高效索引和查询，实现快速检索、筛选及模式检测，提升可观测性与运维分析能力。
• 时间序列数据库用于仪表盘与可视化通过 PostgreSQL 时间序列扩展存储大规模时间序列数据，如指标、事件和遥测数据，为实时仪表盘、监控系统、物联网分析及运营洞察提供高效的数据写入和查询能力。
• Web 应用与 SaaS为 CMS 平台、电商系统、移动应用及多租户 SaaS 产品提供可扩展且可靠的数据库基础设施，确保稳定性能和强数据完整性。
• AI 与机器学习工作流作为 AI 流程的统一数据层，存储结构化数据集，支持实时分析，并可与 AI 框架集成，用于推理、推荐和预测建模等任务。

使用指南

在Bitdeer AI RDS 平台上部署 PostgreSQL 实例非常简单。您可以选择所需的配置，使用 Prometheus 设置监控，只需要简单操作就可以使用。 

步骤 1：进入 RDS 控制台

步骤 2：选择实例类型

步骤 3：选择 PostgreSQL 扩展

此外，请参考下方完整的视频教程。

结语

RDS 服务旨在为企业提供全托管的 PostgreSQL 解决方案，兼具易用性、可扩展性和企业级安全性。无论您是在推动 AI 驱动的创新、管理企业级工作负载，还是运行大规模 Web 服务，Bitdeer AI 云都能确保最佳性能与可靠性。通过采用我们的云端 RDS，企业能够简化运营流程、提升数据驱动的决策能力，并加速数字化转型。

人工智能正日益成为金融业实现更广泛数字化转型目标的核心要素。随着数据量激增及客户期望转向即时响应、精准服务和全天候可用，金融机构逐渐认识到人工智能在优化决策、强化运营、提升客户互动速度与质量方面的潜力。

随着工具、模型和部署框架日趋成熟，人工智能正从实验阶段迈向多业务线的规模化应用。在银行、保险和资产管理领域，人工智能的应用主要聚焦于三大价值凸显的方向：客户智能、风险与决策、市场与数据智能。这些领域共同构成了现代金融机构生成洞察、管理复杂性及提供差异化服务的基石。

客户智能与体验转型

金融机构正在从以产品为中心的互动模式，转向数据驱动的个性化客户旅程。人工智能能够帮助机构更深入地理解客户行为、意图及财务状况，从而实现更相关、更及时的互动。

1. 高度个性化与精准服务：人工智能综合行为数据、消费模式、人生阶段指标和风险画像，为客户量身定制信贷额度、贷款定价、保险产品和投资建议。这种精准服务不仅提高了转化率，更增强了客户的长期忠诚度。
2. 智能客户服务与自动化支持：基于人工智能的服务代理能够即时解答咨询、获取账户信息并完成各项任务，同时支持多语言多渠道服务。这不仅降低了机构的运营成本，也保证了更稳定的服务质量。
3. 人工智能增强型顾问与情景规划：投资顾问与客户利用人工智能生成的分析报告，包括投资组合诊断、风险收益情景模拟和经济走势推演等，做出更明智的决策。这显著提升了零售银行和财富管理领域的顾问服务能力与规划准确性。

越来越多的金融机构将客户智能视为战略差异化的关键，通过人工智能实现大规模个性化客户旅程的深度赋能。

风险、合规与核心决策

高效决策是金融运营的核心所在。人工智能技术能够提升决策过程的精准性、速度与一致性，使金融机构能够更清晰地管理不确定性。

1. 风险管理与欺诈预防： 机器学习模型可检测交易网络、设备、账户及行为模式中的异常情况。相较于基于规则的系统，人工智能能快速适应新型威胁并降低误报率，这在欺诈检测、反洗钱和风险监控领域至关重要。
2. 自动化授信与信贷决策：基于人工智能的评分模型整合更广泛的数据集，生成更全面的信用评估，同时提供清晰的决策依据。这不仅缩短了审批周期，提升了资产组合质量，更为创新信贷产品的推出创造了条件。
3. 合规与报告自动化：人工智能可从各类文档、表格及内部记录中提取、验证并核对信息，从而加速客户尽职审查与报告流程。通过智能验证确保财务报告及披露信息具有更高的完整性与准确性。

在这一领域，人工智能的应用显著增强了企业的运营韧性，并为全机构范围内的高吞吐量、高精度决策流程提供了有力支撑。

市场智能与数据自动化

在信息周期飞速运转、数据流日益复杂的市场环境中，人工智能为机构提供了分析优势与实时洞察能力。

1. 预测分析与趋势研判：模型能够预判流动性需求、定价风险、贷款表现、客户流失及宏观经济指标的变动趋势。这些预测为战略规划、资本配置和风险缓释提供了更可靠的决策依据。
2. 算法交易与市场分析：人工智能可识别海量高速数据流（包括市场数据、新闻情绪与宏观信号）中的潜在规律，为交易员提供更精准的策略优化与执行支持。
3. 高级数据整合、文档智能与叙事报告：基于大语言模型的系统能够解读申报文件、合同协议、结算报表及监管文档，将非结构化信息转化为可分析的标准化数据。人工智能还可自动生成结果解读报告，不仅加速了报告周期，更支撑着新兴的“持续结算”实践，使财务洞察实现近实时更新。

这些能力使金融机构能够以更完整、更及时的视角掌控财务与市场动态。正如以下例子所示，人工智能正在重塑现代银行业的几乎所有职能，其影响力覆盖定价、客户准入、运营管理、服务交付与风险控制全链条。当下的核心挑战已不再是寻找应用场景，而是构建能够在全组织范围内持续扩展这些应用的基础架构。这正是统一人工智能平台的价值所在。

图1. 银行机构案例（来源 The World Economic Forum)

Bitdeer AI 赋能金融解决方案

为了在大规模环境中真正实现 AI 的落地，金融机构需要一个统一的平台，将高性能算力、安全的数据基础设施、可直接投入生产的模型以及自动化工作流程紧密整合。Bitdeer AI 提供统一的云端环境，将可扩展的 GPU 算力与安全的数据和模型开发工具相结合。通过 AI Studio，用户可以使用笔记本环境、RAG 流程和训练任务，高效构建、优化并部署开源大模型。同时，可依托集成的数据库与向量搜索能力，全面支持以数据为驱动的金融类工作流程。

在此基础之上，Agent Builder 使金融机构能够利用开源模型、工具集成以及数据库查询，构建定制化的智能代理工作流。这些智能代理可自动化处理文档理解、KYC 数据抽取、校验与摘要等任务，帮助金融团队更一致、更快速地处理高容量业务流程。

结语

AI 正在重塑金融机构的运营方式，使其能够实现更加个性化的客户体验、更精准的决策能力以及更快速、基于洞察的报告生成。随着 AI 能力的不断成熟，能够在核心业务中实现稳健、安全且持续部署的机构将脱颖而出。借助专为高性能、生产级 AI 打造的一体化平台，Bitdeer AI 帮助金融机构自信地扩大 AI 的应用规模，释放智能化转型的最大价值。

由 Bitdeer AI与GECO Asia联合主办的 Hack to Hire 黑客马拉松 于九月初圆满落幕。此次活动汇聚了来自各领域的工程师、开发者与数据分析师等技术人才，共同针对真实商业挑战制定创新性的 AI 解决方案。

在为期数天的比赛中，参赛团队基于 Bitdeer AI Cloud 的 GPU 虚拟机与 AI 模型库，围绕出版、物流及快速消费品行业，成功构建出具备实际应用价值的原型方案。活动充分展示了可扩展算力与预训练 AI 模型如何显著加速开发流程，使创意能够在数日内转化为可部署的智能解决方案，体现了 AI 技术在商业创新中的巨大潜力。

接下来，将通过这几个案例，具体分析参赛团队如何利用 Bitdeer AI Cloud 的算力与模型资源，实现从构想到落地的技术创新与应用突破。

案例1: 为出版行业构建数据驱动的市场洞察

背景： 一家总部位于新加坡、拥有三十多年历史的出版公司，是亚太地区最大的科学出版商之一。公司每年出版超过 600 本新书和 130 种期刊，涵盖多种语言，服务全球多样化学术群体。

挑战：公司团队需花费大量时间手动收集和分类来自大学、期刊和书籍的信息。由于缺乏实时分析或洞察生成，管理层难以识别高效内容领域、预测需求，或了解学术机构与销售表现之间的关系。

解决方案：参赛者构建了一个 AI 驱动的分析平台，利用自然语言处理和数据挖掘模型分析海量数据集，挖掘主题、读者群和市场趋势之间的潜在联系。通过可配置的提示，用户无需技术背景即可自动生成定制洞察，如新兴研究方向或最佳销售渠道。

成果: 原型为智能决策提供了基础，使公司从手动数据探索转向预测性市场分析。管理层能够可视化实时绩效指标、识别增长领域，并主动应对行业趋势。

案例2: 药品供应链管理自动化

背景： 一家跨亚洲运营的物流公司，专注于药品分销、定制包装，并向日本和印度尼西亚中转。公司业务高度依赖人工仓库检查和库存追踪。

挑战： 记录产品信息和医疗套件需耗费大量时间和人工操作。仓库数据以电子表格形式记录，分析可视性有限。这些低效不仅延迟报告，还增加了人为错误，影响公司有效监控运营能力。

解决方案：参赛者利用 Bitdeer AI Cloud 的 GPU 基础设施开发了一款移动友好的网页应用，将拍照功能与 AI 图像识别结合。仓库人员可拍摄纸箱或医疗套件照片，实时上传分析。AI 模型自动识别 SKU、验证包装并更新库存记录。

成果：系统显著减少了人工录入时间和错误率，同时提高了库存准确性。实时分析仪表盘让主管全面掌控物流操作和库存动态。原型展示了基于云的 AI 如何提升高度监管药品物流的运营效率和合规性。

案例3: 构建快消品行业客户与员工互动的一体化 AI 生态

背景： 一家拥有超过 50 年历史的领先快消品公司，面临管理分散数字系统的挑战。随着时间推移，公司为客服、营销和内部沟通部署了独立工具，导致数据孤岛和信息流不一致。

挑战： 公司缺乏统一的业务审查仪表盘和全天候客户服务渠道。企业网站聊天机器人在非工作时间下线，员工需花大量时间处理重复的 HR 和 IT 请求。决策者无法集中查看销售、营销或运营绩效。

解决方案： 黑客马拉松团队基于 Bitdeer AI Cloud 创建了完整的 AI 生态系统，包括三个互联模块：

1. 面向客户的聊天机器人：利用大语言模型提供实时自然语言交互，为用户提供信息或支持。
2. 商业智能 (BI) 仪表盘：基于 Microsoft BI，将营销、销售和库存数据汇聚成交互式可视化，供管理层审查。
3. 面向员工的助理聊天机器人：自动处理 HR 和 IT 查询，提高内部团队效率和响应速度。

各模块均通过 Bitdeer AI Cloud 的模型库和虚拟机进行部署和测试，实现公司系统快速迭代和集成。

成果：原型为客户互动和内部运营建立了统一 AI 基础，提高了响应速度、增强了数据可视性并降低了行政工作量，展示了企业级 AI 如何推动组织敏捷性和智能化连接。

Bitdeer AI Cloud：可扩展创新的基础

所有三个项目均在 Bitdeer AI Cloud 上开发和部署，平台提供 GPU 计算能力、预训练 AI 模型及灵活开发环境，使团队无需复杂设置或基础设施管理即可构建、训练和部署模型。

通过简化 AI 实验与部署，Bitdeer AI Cloud 使参赛者能够专注于解决业务问题并交付可量化成果。黑客马拉松真实展示了强大 AI 基础设施如何加速学习与创新。

加速 AI 发展的未来

Hack to Hire 展示了先进云基础设施与 AI 技术如何结合，推动企业在各行业实现数字化转型。在短短几天内，参赛者便构建了可运行的原型，解决了从制造到零售等不同行业的核心业务挑战，显著提升了效率、智能化水平和创新能力。

Bitdeer AI 提供高性能、成本高效且可落地的 AI 解决方案，助力企业快速将 AI 项目从概念落地，实现实际应用与商业价值。此次活动也凸显了一个越来越明显的趋势：可扩展的 AI 基础设施已成为推动各行业智能增长、优化运营和实现创新发展的核心支撑。本次活动的成功为下一轮奠定了基础，Hack to Hire即将回归，敬请期待带来更多的创新与协作的机会。

人工智能在逐渐演变成完整的工业生态系统的同时, 也正在逐渐增加消耗前所未有的电力。无论是生成式模型、大型语言模型（LLM），还是多模态智能体，它们在数据中心的运行都依赖于一个共同支柱：电力容量。在人工智能飞速发展的背后，能源消耗问题也日益凸显，成为业内关注的焦点。甚至有人提出，“AI的尽头是算力，而算力的尽头是电力”。

随着模型规模不断扩大、实时推理需求持续上升，AI行业面临着新的问题不“我们是否有足够的电力来驱动它们”？

AI电力需求的指数式增长

根据国际能源署（IEA）的预测，到2030年，全球数据中心的用电量预计将翻倍，达到每年约945太瓦时（TWh）。其中，为AI优化的高性能数据中心的电力消耗可能是当前的四倍，相当于在全球电网中增加一个中等发达国家的全年电力需求。就功耗而言，传统数据中心的规模可能在10-25兆瓦（MW）左右。超大规模、专注于人工智能的数据中心的容量可达100兆瓦或更高，每年的用电量相当于10万户家庭的用电量。以人工智能为中心的数据中心的规模正在不断扩大，以容纳越来越大的模型和日益增长的人工智能服务需求。

2020年，GPT-3训练耗电约300兆瓦，而在GPT-5生成约1000个tokens的中等长度回答，平均消耗18.35 瓦时（相当于运行微波炉约76.46秒），最高可达40瓦时，远超其前代产品GPT-4的2.12瓦时，增幅约为8.6倍。每一代新模型，尤其是参数规模超过千亿的大模型，都需要更长的训练周期、更高密度的GPU集群，以及持续高负载的电力供给。当前AI模型的发展还是在比拼规模化，模型的规模越来越大，所需的GPU计算集群密度增加，耗电量的需求也极具的成倍增长。简而言之，电力已成为新的计算货币。

电力容量如何塑造AI的发展

 “速度即电力”成为竞争核心指标。在全球AI基础设施竞赛中，Speed-to-Power，即数据中心接入稳定电力的速度，已成为决定胜负的关键。 即便土地、冷却系统和网络带宽都具备，若电网接入延迟，AI部署仍将被迫停滞。

电力生产与传输基础设施的扩张极为缓慢。从规划、审批到建成投运往往需数年，而AI的需求几乎以季度为单位增长。公用事业单位面临如何在保障民用与工业供电的同时，为AI数据中心分配可持续电力的双重挑战。 美国是世界AI数据中心最集中占比最大的国家，但其部分地区因AI带来的新增负荷，已接近电网安全阈值。

AI训练任务会在极短时间内引发高强度功率激增，给地方电网带来巨大压力并增加不稳定风险。特别是在超大型的AI数据中心有大型GPU集群同时开启时，可能会导致电网电压波动，尤其是在与可再生能源并网的系统中。因此AI的基础建设里电力还有很多待优化，补充的地方。

如何弥合电力缺口

AI对电力的消耗增长已成为企业面临的核心挑战之一。随着电力供应成为AI发展的关键因素，越来越多企业开始通过内部优化与多元能源策略来增强应对能力，减少对外部电网扩容或政策支持的依赖。

首要方向是能效提升与算力优化。通过模型压缩、稀疏计算、量化推理、动态调度等手段，AI企业正努力让每一瓦电力产出更多计算结果。同时，数据中心的硬件架构也在革新液冷、高密度机柜设计等方案，使PUE（能源利用效率指标）持续下降。

其次是能源多元化与储能建设。许多AI基础设施运营方已不再完全依赖公共电网，而是部署分布式发电与储能系统，如园区级光伏、风能和BESS电池储能，通过削峰填谷平衡负载并增强能源弹性。

此外，智能电力管理系统正成为行业新标配。AI驱动的能源监测平台可实时追踪算力集群功率波动，预测电力峰值并自动调整供能策略，实现算力调度与能耗管理的双重优化。最后，企业间协作也在兴起。大型AI公司与能源供应商正共同投资新型电力基础设施，签订长期购电协议（PPA），推动绿色电力直采和区域能源互联。

总体而言，AI行业的重心正在从单纯扩容算力，转向追求“更聪明的能耗”即在电力有限的世界中，用更高的效率支撑更强的智能。

电力从资源到战略资产

如今，电力容量已不仅是技术参数，而是连接数字创新、工业政策与能源转型的战略杠杆。

未来的AI竞争，将不仅比拼算力和算法，而是比拼谁能更快、更稳、更绿色地获得电力。

结语

当行业仍在讨论如何满足AI的电力需求时，Bitdeer AI已开始行动。我们计划在2026年前将AI专用电力容量扩大至200兆瓦（MW），以支撑遍布东南亚及美国和挪威等覆盖全球的高性能GPU数据中心网络。这一目标不仅代表规模增长，更是我们建设高能效、AI原生基础设施的战略蓝图。通过200 MW的电力扩展计划，Bitdeer AI不仅在扩大计算规模，更是在为下一代智能基础设施奠定电力基础。

随着全球AI需求的急剧增长，电力容量正从约束条件变为机遇焦点。AI的下一个突破，不仅取决于更强的芯片与算法，也取决于谁能在全球范围内提供稳定、高效、可持续的电力支撑。

GPU 已成为现代人工智能（AI）、高性能计算（HPC）以及生成式 AI 的核心支撑。NVIDIA 在这一变革中发挥了关键作用，从最初的图形加速器供应商发展为推动工厂级 AI 平台的核心力量。每一代架构的发展都遵循一个原则：解决限制计算能力、内存带宽或可扩展性的系统性瓶颈。

本文对 NVIDIA GPU 架构进行了系统性的回顾，从 CUDA 可编程性，到 NVLink 与 NVSwitch 的突破，再到 Blackwell 架构及即将推出的 Vera Rubin 平台，探讨 GPU 的演进如何塑造智能计算的现在与未来。

什么是GPU

要理解 GPU 演进的方向，首先必须审视其结构。GPU（图形处理单元）最初是为图像渲染而设计，但如今已发展为驱动 AI 和高性能计算（HPC）的核心引擎。与强调单线程低延迟执行的 CPU（中央处理器）不同，GPU 以大规模并行处理和高吞吐量为设计目标。

这种架构使 GPU 在处理需要成千上万任务并行执行的工作负载时具有无可比拟的优势，使其在深度学习训练、推理以及科学模拟中不可或缺。有关关键 GPU 参数的更多细节，请参见我们之前的文章“AI入门须知：GPU基础指南”.

NVIDIA GPU 架构的演进

尽管 GPU 通过并行设计在吞吐量方面表现出色，但它们长期以来也面临诸多瓶颈：可编程性挑战、有限的内存带宽、功耗效率限制以及多 GPU 通信开销。NVIDIA 的架构创新史，正是一段系统性克服这些限制的过程。

从图形处理到通用计算（1999–2012）

关键里程碑：

• Tesla（2006）：CUDA 可编程性使 GPU 可用于科学与工业计算
• Fermi 与 Kepler（2010–2012）：扩展内存层次结构，提高效率，支持超级计算机

行业与商业影响：这一阶段，GPU 脱离了“仅限图形”的局限。CUDA 使在物理学、天气预测和金融模拟等领域运行并行工作负载成为可能。这为企业将 GPU 视为计算引擎而非游戏芯片奠定了基础。企业能够以可负担的成本获得高性能计算能力，从而降低了制药、金融和工程等领域研发的门槛。

AI 突破时代（2014–2022）

关键里程碑：

• Pascal（2016）：FP16 精度，NVLink 1.0，实现大规模深度学习
• Volta（2017）：Tensor Core，为神经网络训练带来突破
• Ampere（2020）：TF32 与 INT8，提升训练与推理的规模

行业与商业影响：这一时期，GPU 与 AI 密不可分。尤其是 Tensor Core 改变了神经网络训练的经济模式，大幅降低了成本和时间。NVLink 实现了多 GPU 的分布式 AI，这是现代大型语言模型（LLM）的前提条件。深度学习从研究实验室走向生产应用，语音助手、零售与制造中的计算机视觉，以及预测分析等都变得具有商业可行性。早期采用 GPU 的企业在自动化与个性化方面建立了持久的竞争优势。

生成式 AI 时代（2022–2024）

关键里程碑：

• Hopper（2022）：FP8 精度，NVLink 4.0，引入面向安全大规模训练的保密计算功能
• Blackwell（2024）：NVLink 5.0，Grace CPU 集成，数据中心级 AI 工厂

行业与商业影响：这些平台不仅是加速器，更是完整的 AI 工厂。Hopper 实现了万亿参数模型的训练，而 Blackwell 引入了工厂级可扩展性，实现 CPU 与 GPU 的无缝整合。企业能够部署生成式 AI 助理、实时推荐系统以及特定领域的 AI 平台。生成式 AI 从实验性试点转向核心业务战略，正在重塑生产力、客户参与度以及竞争差异化。

超越硬件：生态系统与可扩展性

NVIDIA GPU 的演进不仅关乎计算能力、内存和互连技术的提升，更涉及将这些进步转化为可用性能的支持生态系统。

• CUDA（软件基础）：将 GPU 并行能力转化为可编程性，提供 cuBLAS、cuDNN 和 TensorRT 等库。
• Tensor Core：重新定义了神经网络训练的效率。
• 内存层次结构：经历了 GDDR → HBM → HBM3e 的演变，带宽达到 TB/s 级别。Hopper 扩展了缓存一致性，Blackwell 则提升了容量与速度。
• NVLink（互连）：解决了 CPU-GPU 和 GPU-GPU 的通信瓶颈。Hopper 的 NVLink 4 每块 GPU 提供约 900 GB/s 带宽；Blackwell 的 NVLink 5 翻倍至约 1.8 TB/s，Blackwell 进一步把该能力扩展到更大的规模并与 Grace 形成更紧耦合的一致性内存域。
• NVSwitch（可扩展性）：将 NVLink 扩展为完整交换网络，使多 GPU 系统能够作为单一逻辑加速器运行，这对于分布式 AI 训练和集群级 AI 工厂至关重要。

这一演进路线图中的每一步都消除了瓶颈，极大地拓展了企业利用 AI 可实现的能力。

商业影响

对于 AI 来说，这意味着从单设备限制向工业级系统的转变。通过专用计算加速训练效率，HBM 内存创新提升了容量，多 GPU 网络现在可支持万亿参数模型的部署。

• 大规模模型训练不再仅限于超大规模云服务提供商。借助现代 GPU 集群，企业现在能够构建和微调大型语言模型，打造差异化的专有 AI 资产，从而在市场中脱颖而出。
• 推理服务已发展为企业级平台，使协作助手、智能助理和自动化决策系统能够在整个组织范围内可靠扩展。
• 金融、制造和医疗等行业现在可以将数字孪生、场景模拟和预测分析投入实际运营，而这些在过去往往因成本高昂而难以实现。
• 与此同时，企业领导者必须在收益与日益增加的能源成本、基础设施复杂性及可持续性挑战之间取得平衡，这些决策正越来越多地影响竞争定位和行业整合。

GPU 已从加速器演变为企业级 AI 的核心支撑。问题不再是运行速度有多快，而是它们能创造哪些新可能性。关注点已从速度转向规模，从实验转向核心基础设施。企业竞争力现在取决于将 GPU 战略与业务成果对齐，将计算能力转化为生产力提升、创新能力以及长期市场优势。

未来发展

继 Blackwell 之后，NVIDIA 于 2025 年 9 月宣布，其下一代 Vera Rubin 架构将于 2026 年发布。Rubin CPX GPU 及 Vera Rubin NVL144 平台提供 8 exaflops 计算能力、100TB 高速内存以及 1.7 PB/s 内存带宽，专为百万 token 上下文处理和生成式视频设计。Vera Rubin 直接面向超长上下文 AI 应用，模型将不再局限于千 token 对话，而能处理完整代码库、数小时视频及多模态历史数据，从而推动 AI 助手、自动化代码生成和创意媒体制作的进步。

尽管 Rubin 的能力具有突破性，但也加剧了现有挑战：确保百万 token 上下文下的稳定性和一致性，在极端计算与内存需求与可持续部署之间取得平衡，以及在多租户环境中强化数据安全与隐私。这些问题将定义 Rubin 时代及其之后的发展方向。

总结

GPU 的演进不仅仅是提升原始计算能力，更是计算、内存与互连的协同发展。每一次架构升级都解决了新的瓶颈，使得更大、更复杂的 AI 模型成为可能。从可编程性到分布式可扩展性，GPU 已成为将 AI 从研究推动到工业级部署的核心引擎。

即将推出的 Vera Rubin 平台凸显了未来的发展方向：不仅更快，更加专业化。Rubin 专为长上下文、多模态及系统级 AI 设计，标志着 GPU 从加速器向 AI 工厂核心基础设施的转变。

在 Bitdeer AI，我们构建的云基础设施正是为了适应这一演进，结合高密度 GPU 集群、优化冷却方案以及高可靠网络架构。我们的平台支持大规模、多样化的 AI 工作负载，从模型训练到推理，使企业能够高效部署大型复杂 AI 应用。凭借无缝扩展性和集成管理工具，我们的云让 AI 变得简单易用。