2023 年 11 月 DeepSeek 发布第一代模型时，它的 KV 缓存是每 token 389,120 字节。这在当时并不特别。但到 2025 年 12 月的 DeepSeek-V3.2，这个数字变成 48,068，缩小了八倍。实验版 V3.2-Exp 专门引入 DeepSeek Sparse Attention（DSA），就是为了让长上下文的训练与推理都更便宜。再到 V4 Preview，DeepSeek 给它起的标题很讲究：《进入低成本百万级上下文时代》。重点不在"百万级上下文" ，而是在"低成本"。2026 年 4 月的 V4-Flash，缓存降到 3,514 字节，而 DeepSeek V4.1 Flash 的 KV 缓存数据更是降低到了至 890。

来源：DeepSeek

三年过去，DeepSeek 提供了"倍数"级的改进。相比上一代，DeepSeek V4.1 Flash 只需要 1/4 的 HBM 和 1/8 的 SSD 存储。

DeepSeek V4.1 Flash 是什么

DeepSeek V4.1 Flash 是一个 5520 亿参数的 MoE 模型，为DeepSeek 全新架构家族中最小的成员，而这个家族基于 Causal Encoder–Decoder 设计，在激活参数上做了一件不太常见的事：把"读"和"写"当成两份不同的工作，给了不同的预算：输入侧 80 亿激活参数负责处理输入，输出侧 160 亿负责生成。

这个非对称拆分不是随手划分，它对应的是工作量的真实分布。一个 Agent 在解析 200 个文件的仓库、一段很长的工具调用日志，或者一叠截图时，读的量极大，写的量相对很小。如果按"更难的那一半"来给两边统一配置算力，那么上下文里的每一个 token 都在浪费；分开配置就不会。再叠加上每 token 890 字节的缓存，这个模型被优化的对象非常明确：是长时间运行的 Agent，而非简单的一轮对话。

DeepSeek 把能力提升归因于新的预训练方法，以及更大规模的强化学习后训练。另外值得单独点出来的是：它给了这个模型原生视觉理解能力，不是在文本模型上外挂一个视觉适配器，而是把多模态输入做成架构属性。

以上数据均参考 DeepSeek 2026 年 9 月 10 日官方公布数据。

基准测评成绩 

DeepSeek 公布的对比对象包括自家 V4-Pro（0813）与 V4-Flash（0731），以及 GLM-5.3、Kimi K3、GPT-5.6-Sol、Claude Opus 5。

来源：DeepSeek

对运行 Agent 的团队意味着什么

一个 Agent 做重构，可能会调用六十次工具。每一次都会往它必须继续背着的历史里再追加一段。每一步的输出是几百个 token；上下文是几万个，而且还在长。把上下文里每一个 token 的缓存开销乘进去，就能看出钱花在哪了。也就能看出，把 HBM 减少到 1/4、SSD 减少到 1/8，和把输出价格削减一点，是两类完全不同的改进。前者与其说是让每一步更便宜，不如说是让"更多步"成为可能。而对一个只有跑完才算创造价值的 Agent 来说，这才是真正卡住它的约束。

适用场景

最清晰的落点是长周期的工程工作：仓库级重构、CI 失败定位、需要 Agent 在很长的工具调用历史里保持连贯的多步后端任务。这正是 Terminal-Bench 3.0 与 4.0 相比 V4-Pro 翻倍以上所反映的能力，也是"HBM 占用小四倍"能在一次运行的每一步上不断累积收益的地方。

其次是高并发 Agent 流水线：单步成本决定你能负担多少步的那类工作流。在这里，"以输入 8B、输出 16B 的激活参数拿下 DeepSeek 全表 Automation-Bench 与 Agents' Last Exam 最高分"是真正相关的事实。

安全团队有一个更窄但十分真实的切入口。CyberGym 的 88.1 是 DeepSeek 公布数据中的最高分，高于此前的 83.3，SEC-Bench Pro 与 ExploitGym 相比 V4-Pro 也都有明显提升。但两项都仍落后于 GPT-5.6-Sol，所以诚实的定位是漏洞初筛、安全代码审查与崩溃分析，而不是端到端的漏洞利用推理。

除此之外还有两类：可以省掉抽取环节的文档与视觉理解流水线。

通过 API 在 Bitdeer AI Model Studio 运行 DeepSeek V4.1 Flash

您可以在 Bitdeer AI Model Studio 上运行  DeepSeek V4.1 Flash，而无需管理底层基础设施，从而降低了部署复杂性和实现价值的时间。作为 NVIDIA 优选云服务合作伙伴（Preferred NVIDIA Cloud Partner），并通过 ISO/IEC 27001:2022 与 SOC 2 Type I & Type II 认证，我们为生产级 Agentic 部署提供所需的安全、合规与高性能底座。

如何开始

1. 登录 Bitdeer AI Model Studio。
2. 在模型列表中找到 DeepSeek V4.1 Flash。
3. 生成 API 密钥并开始进行 API 调用。

curl -v --location 'https://api-inference.bitdeer.ai/v1/chat/completions' --data '{"model":"deepseek-ai/DeepSeek-V4.1-Flash","messages":[{"role":"system","content":"You are a knowledgeable assistant. Provide concise and clear explanations to scientific questions."},{"role":"user","content":"Can you explain the theory of evolution in simple terms?"}],"max_tokens":200,"top_p":1.0,"temperature":1.0,"frequency_penalty":0.0,"presence_penalty":0.0,"seed":0,"stream":false}' --header 'Authorization: Bearer <API_KEY>'

Bitdeer AI 团队于 2026 年 8月 4日至 6日参加了在美国内华达州拉斯维加斯举办的 Ai4 2026 大会。此行我们不仅与众多客户、合作伙伴及行业领袖进行了深度交流，更在密集的议程中清晰捕捉到了 AI 产业演进的关键风向标。

贯穿本届大会的一个核心趋势十分明确：AI 创新正在从实验验证和模型开发阶段，加速迈向规模化生产部署。 随着这一转变不断深入，市场对于可靠、可扩展且易于获取的 AI 基础设施的需求也在持续增长

从三天的议程来看，大会内容本身也呈现出清晰的递进关系：第一天聚焦制约 AI 增长的基础设施瓶颈；第二天深入讨论企业如何将 AI 从技术能力转化为可运营的业务体系；第三天则进一步探讨如何实现可靠、负责任且规模化的 AI 生产部署

Day 1 亮点：AI 增长背后的基础设施约束

第一天的议程围绕支撑 AI 快速扩张所需的基础设施展开。

在开场主题演讲之一《AI 的清算时刻：芯片、约束与下一代算力》(The AI Reckoning: Chips, Constraints and the Next-Generation of Compute) 中，来自 Playground Global 的 Pat Gelsinger 指出，AI 创新正在飞速推进，但硬件与基础设施层面的限制，包括 GPU 供给、能源容量、数据中心可扩展性、网络以及硬件创新，已成为关键的制约因素。这一观点同样体现在人工智能赋能医疗、新药研发的相关圆桌讨论里。

类似的观点也出现在 AI 医疗和药物研发相关讨论中。

在《从分子到市场：AI 如何重塑药物研发》(From Molecule to Market: How AI is Reshaping Drug Discovery) 议程上，与会嘉宾分享了 AI 在靶点识别、分子设计、临床研究与试验优化等环节的应用，以及这些应用如何加快研发周期、提升决策质量。但讨论也直指另一面：算力是否充足，正在成为这类 AI 驱动研究的瓶颈。随着 AI 向医疗健康、科学研究、机器人以及高级仿真等算力密集型行业延伸，基础设施容量将在很大程度上决定各类组织能以多快的速度将 AI 创新转化为真实世界的成果。

Day 2 亮点：从 AI 能力走向企业级运营

第二天深入探讨了各类组织在推进 AI 落地运营时遇到的挑战。

当天以主题演讲《智能的缔造者：一次历史性的汇聚》(The Architects of Intelligence: A Historic Convergence) 开场，Geoffrey Hinton、李飞飞、Andrew Ng 等嘉宾共同探讨了 AI 普及所带来的深远影响。对话强调，既要看到 AI 潜力所带来的乐观前景，也要坚持负责任的应用方式，同时通过投入教育与 AI 素养建设，帮助组织与社区更好地适应变化。

随后来自 Vultr 与 PayPal 的主题演讲则指出，今天的挑战已不再是 AI 的能力本身，而是企业如何采用并将其真正落地运营。

当前沿 AI 公司持续推进模型能力边界的同时，企业的关注点日益转向如何借助可扩展的基础设施、推理能力、AI 智能体以及安全的部署环境，把 AI 落到实处。随着模型能力不断进步，组织越来越需要相应的基础设施、平台与运营能力，才能将这些能力转化为业务成果。

Day 3 亮点：让 AI 真正达到生产级可靠性

大会最后一天的讨论集中在一个关键问题上：如何让 AI 具备足够的可靠性，从而真正进入生产环境。

成功的企业AI 的落地，需要基础设施、安全、治理与人才准备度的多方配合。在 Cisco、Waymo 与 Crusoe 的主题演讲及相关议程中，信息十分明确:构建一个 AI 模型或原型仅仅是起点，真正的挑战在于规模化、可靠地部署 AI。

越来越多的组织正聚焦于以下方向：面向生产的 AI 应用与智能体、可靠的推理与负载性能、运营一致性、持续评估与度量、可扩展性与可预期的性能表现，以及从演示走向关键业务负载。

结语

综合三天的讨论，本届 Ai4 传递出了一个非常清晰的行业信号：:AI 的重心已不只是构建能力更强的模型。AI 正从实验阶段迈向生产阶段，支撑它的基础设施也必须同步演进——从单纯提供算力，转向交付可靠、可扩展、安全且面向生产的 AI 环境。

对 Bitdeer AI 而言，这些趋势进一步印证了在 AI 全栈层面为各类组织提供灵活基础设施与云能力的重要性。Bitdeer AI 整合了 AI 数据中心 (AI Datacenter)、AI 基础设施 (AI Infrastructure)、AI 云 (AI Cloud)、AI 平台 (AI Platform) 以及 Model Studio / 模型即服务 (MaaS) 等能力，支持组织从实验探索到生产落地的完整 AI 生命周期。在企业规模化应用 AI 的过程中，可靠的基础设施与灵活的模型获取方式，能够帮助组织加快部署节奏，提升可扩展性、性能与运营灵活度，而无需自行搭建每一层技术栈。

是否前沿人工智能领域的大多数进步都源于更大型的基础模型? Z.ai 刚刚证明了这并非唯一途径：GLM-5.3 使用与其前身 GLM-5.2 完全相同的基础模型，却依然实现了 GLM 系列历史上最大的编码和安全性能飞跃，且完全是通过经过扩展的后期训练实现的。对于运行长周期编码智能体或漏洞发现管道的工程和安全团队来说，这意味着无需等待新的基础模型周期，就能获得一个能力显著增强的模型。

今天，“为编码而生，为网络防御打造”的 GLM-5.3 在 Bitdeer AI Model Studio 上线。它将最强大的开源权重编码和智能体模型之一引入我们的无服务器推理平台，专为安全、可扩展的企业级 AI 构建。您无需配置或管理底层的 GPU 基础设施，通过单一 API 即可立即开始调用。

什么是 GLM-5.3？

GLM-5.3 是 Z.ai 在 GLM-5 系列中的发布的最新模型，它是一个混合专家模型 (MoE) 基础模型，总参数量为 7440 亿，每次前向传播激活约 400 亿参数，并使用稀疏注意力机制以实现高效的长上下文推理。关键在于，GLM-5.3 重用了与 GLM-5.2 完全相同的基础权重。每一项报告的能力提升均来自扩展的后期训练流水线，该流水线建立在更广泛的任务环境、更多的环境类型以及 Z.ai 的异步智能体强化学习框架之上。

这种方法将收益集中在两个领域：长周期编码和网络安全。Z.ai 称，GLM-5.3 是其迄今为止最强大的开源权重编码模型，在最困难、最智能化的基准测试中表现出最大的飞跃。此外，该模型的漏洞发现能力比团队预期的提升更多，GLM-5.3 开始能够跨越漏洞利用的多个阶段进行推理，并为完整的利用链形成连贯的计划。

关键规格

为什么仅通过后期训练获得的提升至关重要

• 新基础模型与更快的迭代。 重新训练基础模型既缓慢又昂贵。Z.ai 的结果表明，成熟的基础模型依然可以通过仅进行后期训练来吸收巨大的能力提升，这意味着更有意义的升级可以更快、更频繁地发布。
• 通用编码能力与长周期执行。 许多模型可以很好地处理短小的编码任务，但在长时间、多步骤的智能体运行中性能会下降。GLM-5.3 的收益恰恰集中在这一点上，即在衡量持续性、多步骤执行的基准测试中，而非单次代码生成上。
• 开放访问与双重用途风险。 GLM-5.3 的网络安全能力非常强大，以至于 Z.ai 推迟了其开源权重的发布，以完成其迄今为止最广泛的风险审查。这对企业来说是一个明确的信号，表明了该模型的实际能力，以及 Z.ai 对部署采取的严谨态度。

编码和智能体性能

Z.ai 称，在其内部 Z.ai 代码基准测试中，较 GLM-5.2 提升了 50%，并在多个公开的智能体基准测试中取得了开源领域的顶尖成果：

最大的飞跃出现在最长周期、最智能化的任务中，例如 Terminal-Bench 3.0，该测试衡量模型在多个步骤中链接 shell 命令、读取输出并从错误中恢复的能力。在公开排行榜上，GLM-5.3 在一些最困难的编码评估中落后于顶尖的闭源前沿模型，Z.ai 也坦诚其 50% 的核心数据来自内部基准测试，旨在减少污染风险，而非可独立复现的公开套件。

意外的网络安全成果

Z.ai 表示，他们添加了漏洞发现训练数据，本期望在单漏洞推理方面获得渐进式提升。然而，随着训练规模的扩大，能力不断累积，模型开始形成连贯的、多阶段的利用计划，而不仅仅是单步发现。通过与安全团队及研究小组合作，Z.ai 使用 GLM-5.3 在 269 个开源项目中发现了 2436 个漏洞，其中一些代码库的历史可追溯至大约 40 年前。在基准测试中：

CyberGym 分数超过了 Claude Mythos 5 (83.8%) 和 GPT-5.6 Sol (83.6%)，尽管差距很小，可能归因于运行间的偏差。ExploitBench（需要从根本原因推理到可工作的漏洞利用）的分数提升了一倍多，但仍落后于 Mythos 5 的 78.0%，这凸显了最深奥、最模糊的利用推理目前仍是前沿模型的强项。

应用场景

• 长周期编码智能体。 需要在数十次工具调用中保持持续上下文和错误恢复的仓库级重构、CI 失败分类以及多步骤后端工程。
• 应用和产品安全。 为发布内核、浏览器引擎、网络堆栈或其他安全敏感软件的团队提供安全代码审查、崩溃分类和白盒漏洞发现。
• DevSecOps 流水线。 自动化的拉取请求审查，以及 CI 集成的静态和动态分析，在代码发布前标记可利用的模式。
• 金融科技和电子商务工程。 维护复杂、多服务代码库的长期运行智能体，其中跨多个步骤的可靠性和指令遵循与原始代码质量同样重要。
• MSSP 和安全供应商。 以原本需要大量分析师人手才能实现的规模，进行结构化的漏洞分类、关联和报告。

通过 API 在 Bitdeer AI 模型工作室运行 GLM-5.3

您可以在 Bitdeer AI Model Studio 上运行 GLM-5.3，而无需管理底层基础设施，从而降低了部署复杂性和实现价值的时间。作为 NVIDIA 优选云服务合作伙伴（Preferred NVIDIA Cloud Partner），并通过 ISO/IEC 27001:2022 与 SOC 2 Type I & Type II 认证，我们为生产级 Agentic 部署提供所需的安全、合规与高性能底座。

如何开始

1. 登录 Bitdeer AI Model Studio。
2. 在模型列表中找到 GLM-5.3。
3. 生成 API 密钥并开始进行 API 调用。

curl -v --location 'https://api-inference.bitdeer.ai/v1/chat/completions' --data '{"model":"zai-org/GLM-5.3","messages":[{"role":"system","content":"You are a knowledgeable assistant. Provide concise and clear explanations to scientific questions."},{"role":"user","content":"Can you explain the theory of evolution in simple terms?"}],"max_tokens":200,"top_p":1.0,"temperature":1.0,"frequency_penalty":0.0,"presence_penalty":0.0,"seed":42,"stream":false}' --header 'Authorization: Bearer <API_KEY>'

结论

GLM-5.3 提醒我们，前沿进展并不总是需要一个新的基础模型，它可以通过教导现有模型进行更深入的推理和更长远的规划来实现。

2026年 8 月 20 日，OpenRouter 上出现了一个神秘模型。

模型列表里只有一行标识：stealth/ox-alpha，它唯一公开的信息是：100 万 token 上下文窗口，原生支持文本、图像与视频输入，预览期内免费且不限量。

结果是 OpenRouter 历史上规模最大的一次模型上线。短短几天内，Ox Alpha 冲上该平台使用量榜首。工程师们发现这个来历不明的模型能完成本应需要前沿模型才能完成的任务。

来源：OpenRouter

随后，社区开始“指纹比对”，猜测持续了整整一周，最终锁定了一个“怀疑对象”。

8 月 26 日， 谜底浮现。Z.ai 宣布 Ox Alpha 是 GLM 系列的全新迭代版本：GLM-5.3-Flash，一个总参数 320B、激活参数 18B 的混合专家（MoE）模型， GLM-5 系列首个原生多模态成员。

今天，GLM-5.3-Flash 正式上线 Bitdeer AI Model Studio，我们面向企业级安全与弹性扩展而构建的 Serverless 推理平台，可以立即调用，无需管理底层基础设施或通过匿名供应商中转。

GLM-5.3-Flash 是什么?

GLM-5.3-Flash 是一个混合专家（MoE）模型，总参数 320B，每 token 激活参数 18B。据 Z.ai 介绍，它是 GLM-5 系列中首个原生多模态模型，并非从 GLM-5.3 旗舰版本蒸馏或后训练而来，而是基于全新训练的基座模型，其架构与训练配方围绕“单位算力可获得的能力”重新设计。

根据 Z.ai 公布的结果，它在基准测试与真实工作负载上全面超越 GLM-5.2，而价格约为后者的十分之一；在编码与 Agentic 基准上接近 Claude Opus 4.8。模型权重已以 MIT 许可证发布至 Hugging Face。

其中三项架构改动值得理解，因为它们正是这次隐身预览能扛住真实生产压力的原因：

• 稀疏注意力与线性注意力混合架构。 这是 GLM 系列首次将两者结合:线性注意力高效处理局部依赖,稀疏注意力负责检索全局相关上下文。该设计大幅降低长上下文的服务成本,同时保留精确的长上下文能力。
• IndexPool。 在百万 token 量级下，检索本身会成为瓶颈。IndexPool 通过加权池化压缩索引器 key 向量组，以控制延迟与显存占用。Z.ai 报告称，相比 GLM-5.3，注意力计算量减少约 3 倍，KV 缓存缩小 4.4 倍。
• 流形约束超连接（mHC）。 用于进一步提升扩展效率，让模型在单位激活算力下交付更强能力。

配合最新的 30 万亿 token 多模态预训练语料，这些改动使一个仅激活 18B 参数的模型，得以逼近前沿模型的编码分数。

关键规格

官方公布的性能表现

据 Z.ai ，在六项编码与 Agentic 基准测试中，GLM-5.3-Flash 超越了 GLM-5.2，且通常以较大优势胜出：在 DeepSWE v1.1 上为 63.4 对 46.2，在 AutomationBench 上为 48.8 对 26.2，同时整体表现接近 Claude Opus 4.8。

来源:https://z.ai/blog/glm-5.3-flash

第三方机构 Artificial Analysis 在其 Intelligence Index v4.1.1 中给出 57 分，使其成为当前开放权重模型中“单位成本智能水平”最强的选项之一。

来源：Artificial Analysis

为什么这对 Agent 经济性至关重要

当企业把 Agentic 系统推向生产环境时，需权衡多种条件。GLM-5.3-Flash 能很好地解决它们：

上下文成本 vs. 上下文长度。 多数号称大窗口的模型，在远未触及上限时就已不具经济性，因为注意力成本的增长方向对你不利。混合注意力设计直接针对这一点：注意力计算量减少约 3 倍、KV 缓存缩小 4.4 倍，意味着百万级窗口在生产环境中真正可用，而不只是规格表上的数字。

多模态 vs. 管道复杂度。 构建“读仪表盘、验证 UI 回归、处理扫描件”类 Agent 的团队，通常要在推理模型之前拼接一个 OCR 或视觉转文本环节。原生图像与视频输入直接去掉这一层，连同它带来的精度损失和延迟一起去掉。

能力 vs. 成本。 当大多数步骤是高频重复性工作时，把每一步都路由到前沿模型代价高昂。一个以极低单 token 成本逼近前沿编码水平的模型，会改变哪些步骤“值得跑”，以及 Agent 在完成任务前能负担多少次迭代。

开放性 vs. 生产就绪度。 MIT 许可权重意味着模型可被自主掌控、审计与自建部署。但即便激活参数仅 18B，320B 规模的模型仍是一项严肃的部署工程：FP8 权重本身约 306 GiB（尚未计入 KV 缓存），此外还需处理张量并行、显存容量与服务栈选型等一系列决策。

企业应用场景

仓库级编码与工程 Agent。 将整个代码库一次性纳入上下文，而无需切块处理；运行需要跨多轮保持连续性的长周期终端与重构任务。

浏览器与计算机操作 Agent。 原生视觉输入让 Agent 能直接理解屏幕上的真实内容，完成界面导航并验证执行结果，无需额外的视觉处理环节。

百万 token 级文档与日志分析。 合同审阅、合规检查、故障溯源与事后复盘。这类语料若走传统路径，必须依赖检索管道，也就要承受它固有的失效模式。

视觉 QA 与 UI 回归检查。 将截图与预期状态比对，描述视觉缺陷，并输出结构化结论。

中后台与知识工作自动化。 表格、演示文稿与仪表盘的推理任务。源材料是视觉化的，而结果需要结构化输出。

通过 API 在 Bitdeer AI Model Studio 上运行 GLM-5.3-Flash

你可以在 Bitdeer AI Model Studio 上运行 GLM-5.3-Flash。这是我们的 Serverless 推理平台，旨在让先进基础模型的调用变得简单且可弹性扩展。通过统一的、兼容 OpenAI 规范的 API，开发者与企业可以快速开始使用模型，无需管理底层基础设施，从而降低部署复杂度、缩短价值实现时间。

MIT 许可开放权重模型的一项实际优势在于可移植性：权重本身并不绑定于任何单一的服务环境。Bitdeer AI 在自主运营的数据中心中，基于 NVIDIA 算力基础设施提供 MaaS 服务。作为 NVIDIA 优选云服务合作伙伴（Preferred NVIDIA Cloud Partner），并通过 ISO/IEC 27001:2022 与 SOC 2 Type I & Type II 认证，我们为生产级 Agentic 部署提供所需的安全、合规与高性能底座。

快速开始

1. 登录 Bitdeer AI Model Studio。
2. 在模型列表中找到 zai-org/GLM-5.3-Flash。
3. 生成 API Key， 即可开始调用。

curl -v --location 'https://api-inference.bitdeer.ai/v1/chat/completions' --data '{"model":"zai-org/GLM-5.3-Flash","messages":[{"role":"system","content":"You are a knowledgeable assistant. Provide concise and clear explanations to scientific questions."},{"role":"user","content":"Can you explain the theory of evolution in simple terms?"}],"max_tokens":512,"top_p":1.0,"temperature":1.0,"frequency_penalty":0.0,"presence_penalty":0.0,"seed":42,"stream":false}' --header 'Authorization: Bearer <API_KEY>'

结语

Agentic 工作负载的瓶颈已不在智能水平，而在于一个团队能负担多少上下文成本，以及 Agent 与“它需要看到的东西”之间还隔着多少层管道。GLM-5.3-Flash 同时解决了这两点：总参数 320B、激活参数 18B，混合注意力架构让百万 token 窗口在经济上真正可用，原生图像与视频输入，以及可自主掌控的 MIT 许可权重。

随着 GLM-5.3-Flash 上线 Bitdeer AI Model Studio，你可以立即在安全、企业级的基础设施上开始构建，并在需要扩张生产规模时，平滑扩展至 Bitdeer AI 的专属 GPU 算力。

在搭建 AI 业务时，很多团队容易陷入一个常见误区：把大量精力放在“到底需要多少块 GPU”上。但在企业 AI 基础设施规划中，真正需要解决的并不是单纯的卡数问题，而是不同工作负载在开发、训练、评估和生产阶段分别需要怎样的资源组合。训练与推理都依赖加速计算，但前者更关注任务完成速度和大规模数据传输，后者则关注持续服务、响应时间、并发能力与长期成本。

因此，资源方案不能只列出 GPU 型号和数量，还应覆盖 CPU、主机内存、显存、存储、网络、调度、监控、安全与扩展机制。先识别工作负载，再确定容量和部署方式，通常比先采购硬件、再适配业务更稳妥。

为什么 AI 训练与推理需要分开规划

训练属于高强度、阶段性的计算任务。模型需要反复执行前向传播和反向传播，多 GPU 或多节点训练还会频繁同步梯度，因此容易受显存、GPU 互连、存储吞吐和网络带宽限制。任何一层供给不足，都会让昂贵的加速器等待数据或通信。

推理则是长期在线的生产服务。它必须在流量波动下维持 P50、P95 和 P99 延迟、吞吐量、可用性与单次请求成本。生成式 AI、RAG 和智能体任务还可能在一次用户请求中触发多次模型调用、检索和工具执行，因此不能只按“单次推理”估算容量。

AI 训练需要配置哪些计算资源

训练资源应根据模型规模、训练方法、数据集大小和迭代频率配置。领域模型微调通常不需要长期占用大规模集群，而基础模型训练、长上下文训练或多模态训练更依赖大显存、高速互连和稳定的分布式执行环境。

计算、显存与互连

GPU 选型前应估算单步显存需求，包括参数、梯度、优化器状态、激活值和通信缓冲区。显存不足时可以采用梯度累积、混合精度、参数高效微调或模型并行，但这些方法会改变训练速度和通信开销。多卡训练还要检查 GPU 拓扑，避免高速卡被低带宽链路限制。

数据流水线、存储与调度

CPU 负责数据加载、预处理、日志和任务编排，主机内存不足或数据加载器过慢都会降低 GPU 利用率。热数据可放在本地 NVMe 或高吞吐存储，长期数据和模型版本可放在对象存储。检查点频率应在恢复时间与 I/O 开销之间取舍，并通过队列、配额和优先级来避免多个团队争抢同一 GPU 资源池。

当企业需要集中管理 Notebook、训练任务、实时日志、资源调度、框架环境和团队权限时，统一的 AI 训练平台可以将这些能力整合到同一工作流中，减少团队自行部署和维护分布式集群的负担。

AI 推理需要配置哪些计算资源

推理规划应从业务服务等级开始，而不是从 GPU 峰值算力开始。内部文档处理可以接受批量执行，客服助手或实时视觉分析则需要稳定低延迟。企业应先明确并发用户、请求长度、输出长度、超时率、可用性目标和峰值流量，再决定实例规模。

上下文、批次与吞吐量

语言模型的显存不仅用于权重，还用于 KV Cache。KV Cache 的占用通常会随着上下文长度、生成长度和并发请求数量增加，并受到模型架构与缓存精度影响。上下文越长、并发越高，可用于模型权重和其他请求的显存就越少。增大批次通常可以提高 GPU 吞吐量，但也可能增加排队时间和首 Token 延迟。生产环境通常采用连续批处理，根据请求长度、并发量和延迟目标动态组织批次，并结合量化、缓存和模型路由，让高价值请求使用更强模型，简单任务交给较小模型。

扩展、可用性与安全

持续在线服务应设置最低副本数、预热容量、扩容阈值、排队上限和故障回退。GPU 虚拟机适合快速创建、释放或调整计算资源；如果需要根据流量自动扩缩容，还应结合容器编排、负载均衡、监控指标和节点扩容机制。对性能抖动敏感、需要专用网络或完全控制软件栈的任务，可选择裸金属 GPU 服务器。模型、依赖和访问策略可通过容器固化，同时隔离开发、测试和生产环境。

安全设计还应明确端点暴露方式、身份认证、日志脱敏、数据保留和密钥管理。对于敏感数据，不应只关注推理速度，还要确认数据是否进入共享环境、日志是否包含原始提示词，以及模型版本是否可以审计和回滚。

企业应如何制定 AI 资源规划流程

第一步：分类工作负载。区分预训练、微调、评估、批量推理、实时推理、RAG 和智能体执行，并记录模型规模、输入输出长度、数据敏感性和运行周期。

第二步：定义可量化指标。训练关注 GPU 利用率、训练耗时、失败恢复时间和单次任务成本；推理关注 P95/P99 延迟、每秒请求数、每百万 Token 成本、错误率、冷启动和扩容时间。没有指标，资源“够不够”就无法验证。

第三步：匹配基础设施。短期峰值训练可使用弹性集群，稳定高负载可使用专用裸金属；开发环境适合灵活虚拟机，生产服务适合版本化容器或托管端点。API 网关、监控、调度、数据库和部分数据预处理任务可运行在通用 CPU 实例、虚拟专用服务器（VPS）或容器服务上，让 GPU 专注于模型训练和推理等加速工作负载。

第四步：建立容量与成本闭环。用压测结果确定基线容量和安全余量，再按项目、部门或应用拆分训练与推理成本。上线后持续观察利用率、排队时间和流量增长，定期调整模型大小、实例类型和扩容策略。

企业 AI 资源规划中常见哪些错误

最常见的错误包括：只预算训练、不估算长期推理费用；只比较 GPU 参数、不检查存储和网络；把实验与生产放在同一环境；忽视模型版本、回滚和访问控制。高性能 GPU 无法弥补低效的数据流水线，也无法替代生产治理。

成熟的方案应让训练更快完成，让推理在目标延迟和成本内稳定运行，并能随着模型和业务变化持续调整。资源规划的终点不是“拥有更多 GPU”，而是建立一套可测量、可扩展、可审计的生产 AI 环境。

AI 云平台可以支持哪些资源环节

企业采用AI 云平台的价值，不只是更容易获得 GPU，而是把计算、存储、网络、模型工具、权限和部署流程连接起来。Bitdeer AI Cloud覆盖从开发到生产的资源路径，适合需要统一管理训练、推理和智能体工作流的团队。

在训练高峰期，团队可按任务扩展容量；进入推理阶段后，可通过 Serverless Model APIs调用文本、Embedding、图像理解及其他 AI 模型，减少自建服务层的工作。复杂业务自动化还可借助 AI Agent 平台连接模型、检索系统和企业工具，但仍需把每次任务产生的多轮调用纳入容量与成本模型。

当“全天候运行”智能体运行卡顿或产生高额账单时，用户的直觉往往是去寻求一个规模更大、更智能的模型，但大多数智能体的工作并非前沿推理任务。“全天候运行”智能体通过收集上下文、观察环境、基于已知信息推理并执行动作来完成复杂的多步骤任务，而这一过程的每一步都需要调用语言模型。这些步骤往往具有高频、重复且特定于领域的特征：这正是较小、专业且可控的模型，相较于前沿模型更快速、更具成本效益的优势领域。

这也正是“模型系统（Systems of Models）”背后的核心逻辑：与其把每一个步骤都交给同一个大模型处理，智能体应该为每一步任务匹配最合适的模型，在需要协调调度和高难度推理的环节使用前沿模型的能力，而在高频、重复的环节则交给专精模型完成。

今天，NVIDIA Nemotron 3.5 Lightning，这一同级别中面向“全天候运行”速度最快的开源模型，正式首发上线 Bitdeer AI Model Studio。用户可在 Model Studio 这一专为安全、可扩展企业级 AI 打造的无服务器推理平台部署使用，无需自行管理复杂底层基础设施。

什么是 NVIDIA Nemotron 3.5 Lightning？

NVIDIA Nemotron 3.5 Lightning 是一款 300 亿参数的混合专家模型（Mixture-of-Experts，MoE），激活参数为 30 亿，由 NVIDIA 前沿模型 Nemotron 3 Ultra 蒸馏而来。它是一款完全可定制的开源模型，专为驱动生产环境中的“全天候运行”AI 智能体而打造，赋予企业自主掌控模型、针对特定任务进行后训练（post-train），并将其部署到智能体实际运行的任何环境中的能力。

该模型由 Nemotron Coalition 共同开发，并针对主流智能体框架（agent harness）进行了优化。Nemotron 3.5 Lightning 在代码生成、工具调用、指令遵循以及多轮对话工作流方面均具备领先的准确率，能够帮助智能体更快完成专项任务。该模型天生适配“模型系统”架构：诸如 NVIDIA NeMo Switchyard 这样的路由系统，可以在指定的模型池中智能地将智能体工作流的每一步导向最合适的模型：当 Nemotron 3.5 Lightning 在准确率、速度和部署灵活性方面最匹配某类高频专项任务时，路由系统便会选择调用它。

该模型围绕三大核心优势构建：

• 模型可控性：作为一款采用开放数据集训练的开源模型，企业可以对其进行掌控、定制，并部署到边缘设备、本地环境或数据中心，同时管理模型行为、数据处理方式与智能体工作流。
• 可定制实现高准确率：模型已针对主流智能体框架进行训练，在智能体任务中开箱即用即可实现出色的准确率表现，同时支持针对特定工作流进行后训练，以进一步提升在具体企业场景中的准确率。
• 快速完成任务：吞吐量最高可提升 4 倍，配合高效的 Token 生成机制，帮助“全天候运行”智能体和个人智能体在更短时间内完成更多步骤，加快专项任务的完成速度，同时降低推理成本。

关键规格参数

为何"模型系统"理念正在决定智能体的经济性

随着企业将全天候运行智能体推向生产环境，权衡关系正变得愈发清晰：

• 能力与成本：把每一个步骤都交给前沿模型处理的成本较为高昂，尤其是当大多数步骤本身都是高频、重复性的工作。
• 能力与速度：更大的模型会给每一轮交互增加延迟，而“全天候运行”智能体需要运行成百上千轮交互。
• 通用模型与专精模型：单一的通用模型很难在特定企业场景中匹敌经过针对性后训练的专精模型。
• 开放性与生产可用性：开放模型固然可以被企业掌控和定制，但团队仍然需要经过充分验证、达到企业级标准的服务基础设施才能实现大规模稳定运行。

Nemotron 3.5 Lightning 正是为直接解决上述问题而设计：

• 掌控与自主权：作为一款基于开放数据集训练的开放模型，Nemotron 3.5 Lightning 让企业能够自主掌控模型行为、数据处理方式与智能体工作流，并可将其部署到智能体实际运行的任何位置，从边缘设备到数据中心与云端，一应俱全。
• 面向专项场景的精准优化：模型针对主流智能体框架进行了训练，在智能体任务中开箱即用即可实现出色的准确率表现，并可针对特定工作流进一步后训练，从而在企业真正关心的具体业务场景中，让“小模型”实现优于“通用大模型”的表现。
• 更快完成任务：高 Token 生成吞吐量使每一步的延迟与成本都保持在较低水平，让全天候运行智能体能够在同等时间内运行更多步骤、更快完成专项任务。根据 NVIDIA 的初步基准测试结果，在多轮智能体工作负载场景下，Nemotron 3.5 Lightning 的吞吐量最高可达同类开放模型的 4 倍，从而使智能体能够更快完成专项任务。

企业级应用场景

全天候个人与生产力智能体：为处理邮件、日程、项目管理与预订等日常任务的长期运行助手提供支持，尤其适合那些高频、重复性步骤能够充分受益于快速、可控模型的场景。

金融服务工作流：运行专项智能体，完成文档数据提取、合规规则核查、风险信号监测，以及结构化摘要生成等任务。

网络安全运营：驱动专项安全智能体完成告警、事件分类、日志查询、控制项验证、指标关联，并为分析师生成结构化分析结果。

电信行业：支持自动化网络运维与主动式客户服务,包括网络告警分类处理、配置优化，以及账单问题解答。

零售行业：丰富商品目录信息、处理库存与履约异常、辅助商品发现，并解答订单、退货或会员积分相关问题。

在 Bitdeer AI Model Studio 上通过 API 调用 Nemotron 3.5 Lightning

即日起，您可在 Bitdeer AI Model Studio 平台上运行 Nemotron 3.5 Lightning，这是我们推出的无服务器推理平台，旨在简化对先进基础模型的访问并提供卓越的可扩展性。通过统一的 API 接口，Model Studio 允许开发者和企业无需管理底层基础设施即可快速上手使用模型，从而显著降低部署复杂性并缩短变现时间。

Bitdeer AI 是 NVIDIA 优选云合作伙伴（Preferred NVIDIA Cloud Partner），获得 ISO/IEC 27001:2022 以及 SOC2 Type I & Type II 认证，致力于提供生产级检索与智能体 AI 部署所需的高安全性、合规性、高性能和企业级标准的基础设施。

如何开始

1. 登录 Bitdeer AI Model Studio。
2. 在模型列表中找到 NVIDIA Nemotron 3.5 Lightning。

3. 生成 API Key 并开始调用。

curl -v --location 'https://api-inference.bitdeer.ai/v1/chat/completions' --data '{"model":"nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16","messages":[{"role":"system","content":"You are a knowledgeable assistant. Provide concise and clear explanations to scientific questions."},{"role":"user","content":"Can you explain the theory of evolution in simple terms?"}],"max_tokens":4096,"top_p":1.0,"temperature":1.0,"frequency_penalty":0.0,"presence_penalty":0.0,"seed":0,"stream":false}' --header 'Authorization: Bearer <API_KEY>'

结语

全天候运行智能体不需要一个“万能大模型”来处理每一步工作，而是根据需要选择最合适的模型。NVIDIA Nemotron 3.5 Lightning 为这一架构带来了完全可定制的开源模型：它是一款拥有 3B 活跃参数的 30B MoE 模型，蒸馏自前沿模型，适配主流智能体框架，专为高频专业工作负载的高吞吐量而设计。NVIDIA Nemotron 3.5 Lightning 在 Bitdeer AI Model Studio 上首发上线，您可以立即开始将智能体的专业任务路由至一个您可以拥有、定制并大规模运行的模型，在实现更高吞吐量、更低延迟和更低推理成本的同时，保持对数据和工作流的完全控制。

AI工作流正在从"模型能不能跑通"，转向"能不能稳定进入生产环境"。开发者要解决的已经不只是模型选型和推理代码；企业技术团队更要面对的，是把数据处理、模型训练、推理服务、Agent编排、运行监控和安全控制拼成一条能长期运转的工程链路。

这也是AI GPU计算重新被重视的原因。多数AI项目卡在demo到production这一步时，问题很少出在"模型能不能调用"，而是出在算力够不够稳定、环境能不能复制、推理成本能不能控住、服务在高并发下扛不扛得住。GPU早已不只是训练大模型的加速硬件——它决定训练周期长短、推理延迟高低、并发能力上限，直接影响企业规模化部署AI时的成本结构。

AI 工作负载对 GPU 算力的核心诉求

传统云计算主要服务于网站、数据库、CRM、API 网关等通用工作负载，更多依赖 CPU 处理事务逻辑和请求调度。AI 工作负载则不同，它的核心计算更多来自矩阵乘法、张量运算、注意力机制、embedding 生成和多模态数据处理；在大规模向量计算或需要加速检索的场景中，GPU 也可能参与向量相关任务，但并不是所有向量数据库和 ANN 检索都必须依赖 GPU。

这种变化正在推动 AI 数据中心 架构升级。AI 数据中心通常以 GPU 或 AI 加速器为核心，同时需要高带宽低延迟互连网络、高吞吐存储，以及计算、网络、存储之间更紧密的协同。也就是说，AI 工作流的瓶颈往往不是单一代码问题，而是系统架构问题。

在 AI 全生命周期中，不同阶段对 GPU 算力架构的要求截然不同：

• 模型训练阶段： 极度关注 GPU 显存容量、计算吞吐量、多卡互连通信（如 NVLink）以及长时间高负载运行的稳定性。
• 模型推理阶段： 更看重低延迟、高并发、每秒吞吐量（Tokens/s）以及单位请求的成本控制。
• Agent 部署阶段： 则需要保障 Always-on 持续运行、权限隔离、工具调用接口的高可用和失败重试机制。

AI GPU 计算在工作流中起什么作用？

GPU 适合 AI，是因为现代神经网络的关键计算天然适合并行处理。模型训练中的矩阵乘法、卷积、注意力计算和梯度更新，都可以拆分成大量相似的小计算任务并行执行。相比 CPU 更擅长复杂控制逻辑，GPU 更擅长高吞吐并行计算。

但企业选择 GPU 资源时，不能只看单张 GPU 的理论性能。生产环境更关心模型是否能放入显存，多卡训练时通信是否足够快，存储能否持续供给数据，容器、驱动、CUDA 和框架版本是否兼容，推理服务是否能按流量扩展，以及任务状态、日志、权限和计费是否可管理。

高密度 GPU 系统也在重新定义基础设施要求。以现代 GPU 散热方案涉及的 GB200 NVL72 为例，单柜可集成 72 个 Blackwell GPU 和 36 个 Grace CPU，每个 GPU 在峰值负载下功耗超过 1000 瓦，并采用以冷板现代GPU散热方案：从风冷到冷板液冷液冷为主、风冷为辅的混合冷却架构。在部分公开规格中，约 132kW 机柜功耗里液冷承担约 115kW、风冷承担约 17kW，更准确地体现了高密度 AI GPU 系统对电力、散热和机柜工程能力的要求。

贯穿 AI 全生命周期的 GPU 算力优化策略

1. 开发与原型验证：灵活的 GPU 虚拟机

在此阶段, 团队通常不需要最大规模 GPU，而是需要快速启动、环境一致和成本可控。通过GPU 虚拟机实例，开发者可以快速配置 PyTorch、TensorFlow、CUDA、JupyterLab 或常用推理框架，测试数据管道、RAG 架构、模型 API 和 Agent 逻辑。对企业来说，这能减少本地环境差异，让 AI 场景更快进入验证阶段。

2. 模型训练与微调：可扩展的分布式任务

当模型越大、数据越多，对显存容量、计算吞吐、网络互连和存储 I/O 的要求越高。分布式训练任务的价值在于帮助团队完成任务提交、资源分配、状态监控、日志查看、权限控制和成本管理，减少训练失败、环境不一致和资源空转带来的隐性成本。把实验变成可管理的工程任务。

3. 推理与模型服务：高弹性的 Serverless 端点

当前的终极目标是低延迟、高并发、稳定 API、模型可切换和单位调用成本可控。通过 模型 Serverless 端点，开发者可以使用 API 调用文本生成、图像生成、视觉理解等模型能力。相比从零搭建推理集群，这种方式更适合快速验证场景，并根据业务规模逐步扩展。

Agent 部署与编排：高可用的云端运行环境

基础设施要支持的不只是模型调用，还包括工具连接、访问控制、日志追踪和后台运行。需要注意的是，OpenClaw 这类 Agent 编排或云端运行环境的基础部署通常不需要 GPU，稳定的 CPU VM 就可以承担 always-on 运行、工具接入和后台任务；GPU 的价值更多体现在背后的模型推理、embedding 生成或多模态任务上。长期依赖本地笔记本运行 Agent，容易遇到关机断线、环境配置复杂和 API Key 安全隐患。采用OpenClaw 云端部署后，团队可以把云实例、模型配置、通信工具接入和后台运行放在更稳定的环境中完成。

不同 AI 工作负载应该选择什么架构？

AI 工作流中的不同阶段，不应该使用同一种资源策略。开发验证适合使用 GPU 虚拟机，高性能训练或专属推理适合使用裸金属，可复现部署适合使用容器服务，快速推理集成适合使用 AI 模型库和 Serverless Models，大规模训练适合使用分布式训练任务，业务自动化则适合使用 AI Agent 平台。

这种分层选择比单纯追求最高规格 GPU 更重要。企业真正需要的是一条可以从原型、训练、推理到 Agent 自动化逐步升级的路径。早期可以用较轻量的资源验证模型和业务假设，进入生产阶段后再逐步引入专属 GPU、容器化部署、分布式训练和 Agent 工作流。具体整理如下：

Bitdeer AI Cloud 如何支持完整 AI 工作流？

Bitdeer AI Cloud 的平台结构围绕完整 AI 生命周期展开，支持从开发到部署，并提供 GPU Cloud Services （GPU云服务）和 AI Studio & AI Solutions 两类能力。

在基础设施层，Bitdeer AI Cloud 提供虚拟机、裸金属和容器服务；在训练层，提供分布式训练任务能力，帮助团队管理训练任务、监控状态和日志；在推理层，Model Studio 和 Serverless Models 让开发者通过 API 调用模型；在应用层，AI Agent 平台进一步把模型能力连接到企业工具和业务流程。

在高性能基础设施方面，Bitdeer AI Cloud 已提供 NVIDIA GB200 NVL72 集群，可支持大规模训练、实时推理、多代理 AI、HPC 模拟和大规模数据分析等高性能工作负载。对于需要高密度 GPU、低延迟互连和液冷能力的团队，这类集群更适合承载计算强度高、运行时间长且对稳定性要求高的生产级 AI 场景。

总结

AI GPU 计算的意义，已经从“加速模型训练”扩展为“支撑完整 AI 生命周期”。从开发验证到训练微调，从推理服务到 Agent 部署，再到监控、扩展和成本优化，GPU 云平台正在决定 AI 项目能否真正进入生产环境。

下一阶段的 AI 竞争，不只是模型能力竞争，也是基础设施效率竞争。企业需要的不只是更大的 GPU，而是一套能够让算力、模型、部署和 Agent 一起扩展的工作流架构。

无论您是处于构建 Demo 的初期开发阶段，还是正在进行高并发的商业化部署，Bitdeer AI Cloud 都能为您提供兼顾高可用与高性价比的算力底座，让 AI 真正转化为可持续运转的业务生产力。

当 AI 智能体给出错误答案时，人们很容易将责任归咎于模型的推理能力。但在生产环境的智能体系统中，故障往往发生在更早的一步，即检索环节。如果检索层遗漏了正确的段落、代码文件、策略或特定客户的记录，下游智能体就会从错误的上下文开始运行，再强大的推理能力也无法挽救糟糕的起点。

智能体会非常频繁地进行检索，它们将任务分解为多个查询，不断重写查询直到提取出正确的数据，搜索记忆，并在单次任务中对代码进行数十次检查。每次表现不佳的检索，都会徒增交互轮数、Token 消耗、系统延迟以及产生幻觉的风险。随着企业从简单的语义搜索向检索驱动的 AI 系统演进，检索质量已成为控制系统准确率、成本与信任度的核心环节。

今天，NVIDIA Nemotron 3 Embed 8B 和 NVIDIA Nemotron 3 Embed 1B 正式在 Bitdeer AI Model Studio 平台上线，为 RAG（检索增强生成）、企业搜索、代码检索和智能体工作流带来了可用于生产环境的开源嵌入模型。您可以通过 Bitdeer AI Model Studio 专为安全且可扩展的企业 AI 打造的无服务器推理平台，立即部署这些模型。

什么是 NVIDIA Nemotron 3 Embed？

Nemotron 3 Embed 是一组开源嵌入模型系列，专为那些构建企业搜索系统和新兴智能体工作流的企业及独立软件供应商 (ISV) 团队而设计。本次发布的两款模型，为开发者提供兼顾准确率与效率的理想选择：

• Nemotron 3 Embed 8B： 一款前沿的嵌入模型，旨在各大主要检索基准测试中树立准确率天花板。该模型在综合了开源和闭源嵌入模型的 RTEB 排行榜上位列榜首。
• Nemotron 3 Embed 1B： 一款高效的嵌入模型，通过剪枝、蒸馏和量化感知训练 (QAT)，保留了 8B 模型 95% 以上的准确率，专为需要高准确率、同时在吞吐量和服务部署效率上有更高要求的高强度生产工作负载而构建。

设计理念非常明确： 在极致检索质量至关重要的场景下使用 8B 模型，在需要高效处理高并发工作负载的场景下使用 1B 模型。二者的结合，让团队在提升检索质量的同时，无需在算力资源上做出不切实际的妥协。

核心技术规格

为何检索质量如今决定了智能体的质量？

大多数企业级检索技术栈都面临着一系列艰难的权衡：

• 准确率 vs. 成本： 更好的检索质量通常意味着每次查询的费用更高。
• 准确率 vs. 模型参数量： 较大的嵌入模型可以提升检索质量，但难以在规模化部署中提供服务。
• 延迟 vs. 召回率： 生产系统需要极速的查询响应，但高质量检索往往意味着需要搜索海量内容。
• 开放程度 vs. 生产就绪度： 开源模型支持定制化微调，但团队仍然需要经过实战测试的部署路径、量化支持以及企业级的服务能力。

这种权衡在智能体系统中体现得最为明显。多轮交互智能体会为了进行规划、提取记忆、查找代码以及获取工具使用的上下文而反复检索。薄弱的检索能力会增加交互轮数、Token 消耗、产生幻觉的风险，并导致用户体验下降。而强大的检索能力则能够减少无关的上下文，确保智能体的生成内容始终锚定事实 (Grounded)。若要让检索成为智能体默认的基础能力，嵌入模型就必须做到像本地文件搜索一样简单易用：快速、廉价、精准，并且不需要在算力上做出重大妥协。

Nemotron 3 Embed 正面解决了这些问题：

• 为检索智能体提供前沿准确率。 Nemotron 3 Embed 模型在企业搜索、RAG、代码检索和智能体检索工作流中均提供了顶尖的检索准确率。Nemotron 3 Embed 8B 在 RTEB 排行榜上击败了其他开源和闭源嵌入模型，其设计旨在以最少的 Token 消耗实现开源嵌入模型中最高的智能体检索准确率。
• 兼顾高效且无需不切实际的算力妥协。 Nemotron 3 Embed 1B 通过剪枝、蒸馏和量化感知训练保留了 8B 模型 95% 以上的准确率，而其在 NVIDIA Blackwell 上对 NVFP4 的支持更是使吞吐量翻倍。这使得语义搜索变得足够快速且低成本，智能体可以像进行文件搜索一样持续高频地进行检索。在 NVIDIA Blackwell GPU 上，NVFP4 版本的吞吐量提升了 2 倍，同时保持了 99% 的 BF16 准确率。
• 从权重到训练方法全面开源透明。 Nemotron 3 Embed 发布时全面开放了模型权重、数据集、训练配方、优化技术和微调指南。团队可以检查模型的构建过程，针对特定领域的检索进行微调，并能在对自身数据和基础设施拥有完全控制权的前提下进行部署：告别黑盒，拒绝供应商绑定。

企业级应用场景

• 智能体检索 (Agentic Retrieval)： 为智能体提供更强大的检索层，助力多轮规划、工具调用、记忆提取及重复查找循环。Nemotron 3 Embed 支持查询分解（智能体将单一用户请求拆分为多个检索查询）和查询重写（智能体多次重新构建查询语句直至检索到准确数据）。
• RAG 与企业搜索： 凭借前沿级别的检索精准度，将 Copilot（副驾驶助手）和 RAG 流水线锚定在正确的企业上下文文档、知识库和策略中，减少无关上下文并降低下游 Token 的浪费。
• 代码检索： 为开发者 Copilot 和软件工程智能体准确检索相关的源文件、函数和实现示例。凭借将文本和代码嵌入集于单一模型中的优势，工程团队能够通过同一个检索层同时支持代码搜索与代码智能体的上下文需求。

在 Bitdeer AI Model Studio 通过 API 运行 Nemotron 3 Embed

即日起，您可在 Bitdeer AI Model Studio 平台上运行 Nemotron 3 Embed，这是我们推出的无服务器推理平台，旨在简化对先进基础模型的访问并提供卓越的可扩展性。通过统一的 API 接口，Model Studio 允许开发者和企业无需管理底层基础设施即可快速上手使用模型，从而显著降低部署复杂性并缩短变现时间。

Bitdeer AI 是 NVIDIA 优选云合作伙伴 (Preferred NVIDIA Cloud Partner)，获得 ISO/IEC 27001:2022 以及 SOC2 Type I & Type II 认证，致力于提供生产级检索与智能体 AI 部署所需的高安全性、合规性、高性能和企业级标准的基础设施。欢迎在 Bitdeer AI 专为 AI 工作流打造的 GPU 算力集群上，以满足您业务需求的精度和规模运行嵌入工作负载。

快速入门

1. 登录 Bitdeer AI Model Studio。
2. 在模型列表中选择 NVIDIA Nemotron 3 Embed 8B 或 NVIDIA Nemotron 3 Embed 1B。

3. 生成 API 密钥 (API Key)，并开始发起嵌入 API 调用：

NVIDIA Nemotron 3 Embed 1B:

curl -v --location 'https://api-inference.bitdeer.ai/v1/embeddings' --data '{"model":"nvidia/Nemotron-3-Embed-1B-BF16","input":"The cat danced gracefully under the moonlight, its shadow twirling like a silent partner."}' --header 'Authorization: Bearer <API_KEY>'

NVIDIA Nemotron 3 Embed 8B

curl -v --location 'https://api-inference.bitdeer.ai/v1/embeddings' --data '{"model":"nvidia/Nemotron-3-Embed-8B-BF16","input":"The cat danced gracefully under the moonlight, its shadow twirling like a silent partner."}' --header 'Authorization: Bearer <API_KEY>'

结语

检索正成为企业级 AI 应用的关键一环，其决定了智能体是立足事实还是偏离正轨，决定了每一个推理循环是有效应用于正确的上下文，还是白白浪费在错误的信息上。NVIDIA Nemotron 3 Embed 将前沿的检索精准度带入了企业实战部署环节：8B 模型树立了准确率的行业天花板，1B 模型将这种高质量带入高吞吐量的生产环境，并做到了从模型权重到训练方法的全面开源。凭借在 Bitdeer AI Model Studio 的首发 (Day-0) 同步上线，即日起，您便可着手构建更高质量的 RAG、搜索引擎和智能体检索系统，用更精准的上下文、更少的 Token 浪费，打造出更具事实依据的 AI 体系。

作者：Eric Si, Evelyn Xiong

鲜少被一起讨论的两种 AI 范式

今天，有一类AI能够在你不知不觉间为你做出了若干决策：你的信息流推送顺序、判断一笔交易能否成功结算。这些决策的背后，没有任何对话框。它们直接以嵌入式决策系统的形式运作，整合进既有基础设施，实时执行。

另一类AI则截然不同，也更为人所知：一个等待提问的文本框，一个需要主动交互的工具。这两类AI都真实存在，也都创造价值，但二者在复杂度、风险程度、以及组织自身的建设准备度上，存在本质差异。

公众讨论大多聚焦于后者，而真正持久的企业价值，多数正诞生于前者。

当下值得了解的五项技术

AI领域的扩张速度，已经超出大多数组织的追踪能力。新的模型架构、部署模式与工具类别层出不穷，重塑商业运营的技术全貌远非一篇文章所能覆盖。以下当前企业级AI部署中最基础的五项能力，可以把它们理解为一系列递进的构件：每一项都在前一项的基础上拓展能力边界。

生成式AI（Generative AI）。 这是多数企业部署的起点。它按需生成文本、代码、摘要与结构化内容。在实践中，它几乎总是意味着一份草稿，需要经过人工审核才能进入下一步。人工审核环节并非需要被淘汰的临时限制，而是面对高风险输出时正确的设计选择，把它当作过渡阶段的组织，往往要为此付出代价才能明白其中道理。

检索增强生成（Retrieval-Augmented Generation，RAG）。 通用大模型基于通用知识训练，对企业自身的政策、产品和流程一无所知。RAG的解决方案是在推理时实时检索相关文档，而非完全依赖训练阶段固化的知识。一个会编造看似合理答案的系统，与一个能准确引用正确政策条款的系统，二者的差异不在于你采购了哪家模型，而在于数据架构的设计决策。

AI智能体（AI Agents）。 智能体将AI从"回答"推进到"行动"。给定一个目标和可用工具后，它会自主规划路径并执行至完成。一个只能描述可选航班信息的系统不是智能体；一个能搜索航班余票、核对你的日程、完成预订并发送确认信息的系统才是。二者的差异是架构层面的，而非表面包装的不同。

多模态AI（Multimodal AI）。 当AI能够同时处理图像、扫描文档、音频与视频时，全新的工作流便有了自动化的可能。一张发票以照片形式传入系统，系统读取并提取明细项目，匹配预算科目，并路由给对应的审批人，全程无需人工录入。被省去的这一步，正是运营杠杆得以放大之处。

AI治理（AI Governance）。 治理在部署初期常被低估，却在第一次重大事故之后才被认识到其必要性。围绕AI系统的管控机制、审计手段与问责体系，并非部署过程中的阻力，而是企业能够随时间逐步放权、却不增加风险的前提条件。把治理视为可选项的组织，往往会在事后明白这种想法的代价。每一项新增能力都在赋予系统更大的自主权，而治理正是赢得这份自主权的资格。

AI系统内部究竟是什么

当AI系统出现故障时，人们的第一反应往往是归咎于模型本身，换一个更好的模型或更换供应商。这种诊断在多数情况下是错误的，而依此行动的代价也相当高昂。一个生产级AI系统至少包含五个独立的层级，故障可能源自其中任何一层

界面层（Interface layer）： 用户能看到的部分。它的设计旨在呈现简洁性，这意味着所有复杂的逻辑都被隐藏其后。表面上的简单并不等同于底层架构的简单。

编排层（Orchestration layer）： 每一次交互背后的决策引擎。它决定一条消息是否需要触发检索、此前的上下文是否相关、是否需要调用某个工具。在正常使用中它是不可见的，却支配着整个系统的行为方式。

知识层（Knowledge layer）： 系统理解企业自身情况的来源。再先进的模型，如果依赖的是过时或结构混乱的数据，也必然持续产出低质量结果。这是企业AI中最常见的故障来源，也常常是团队最后才会去排查的地方。

工具层（Tools layer）： 没有工具，AI只能提供建议；有了工具，它能够发送消息、更新记录、触发下游系统的执行。智能体能力存在于这一层，一旦出错所带来的后果也同样在这一层显现。

人工监督层（Human oversight layer）：定义并执行问责制（Accountability）的地方。对于常规任务，AI起草、人工审批即可；而对于涉及医疗、财务或法律风险的重大决策，必须有人签字确认后才能执行。设计良好的系统，会把这一层视为强制要求，而非可选环节。

当问题出现时，真正该问的不是"该换哪个模型"，而是"哪一层出了问题，以及为什么"。

从助手到智能体的演进路径

不同 AI 部署在能力以及失效后果上存在巨大差异。我们可以通过四个阶段来厘清这种区别，因为每推进一个阶段，风险剖面（Risk Profile）都会发生显著升级。

第一阶段：AI助手（AI Assistant）。 被问到才回应，没有自主性，没有提示词就不会有任何动作。这是多数组织的起点，也是许多组织止步不前的地方。

第二阶段：AI工作流（AI Workflow）。 在事件发生时被激活，而非等待用户提问。一张发票到达，系统提取数据、对支出分类、核对预算，并路由审批。人类仅参与决策关键点，而非介入每一个步骤。

第三阶段：AI智能体（AI Agent）。接收目标并自行规划实现路径。例如：识别优秀候选人、审查背景、起草触达信件、标记出值得进一步查看的内容。目标只需给定一次，智能体会自行拆解步骤并执行。

第四阶段：多智能体系统（Multi-Agent System）。 多个专业化的智能体协同工作：研究、合规审查、任务交接、监督、规划。这种架构的扩展能力是单一智能体系统无法比拟的，在部分行业中，它已经投入实际生产使用。

阶段之间的差距，意味着实质性的后果差异。一份有瑕疵的摘要只需花几分钟人工修改；而一个向数千名客户发送错误沟通信息、错配款项或未经授权取消预订的智能体，这不仅仅是“犯错”，而是正在制造一场带来财务、法律和声誉重大影响的业务事故。

在部署第三或第四阶段的系统之前，任何组织都需要回答五个问题：

1. 系统的推理能力对于这项特定任务是否足够可靠？
2. 它将访问哪些敏感数据，是否真的需要全部权限？
3. 它可以触达哪些系统，是否应该让它触达？
4. 哪些决策在执行前必须获得人工批准？
5. 如果出现问题，审计追踪是否足以还原发生的一切？

能够持续增值的能力

当AI能够以接近零的边际成本产出合格内容时，常规产出本身将不再稀缺，判断力则因此变得稀缺：领域专业知识、情境化推理能力，以及为决策承担责任的能力，这些恰恰是AI无法提供的。

在AI深度融入的组织中，真正具备优势的从业者，并非采用工具数量最多的人，而是那些足够了解自身专业领域、能够识别AI输出何时出错的人。以下八项能力，会在这一环境中持续产生复利效应：

问题拆解能力。 将模糊不清的情况拆解为系统能够可靠执行的步骤。这一能力贯穿AI系统设计的每个层面，从指令的撰写方式到工作流的排序逻辑。

工作流设计能力。 判断哪些环节应自动化、哪些应由人工辅助、哪些应保留在人工直接掌控之下。人工介入的环节设置，是一项需要认真权衡的设计决策，而非可以默认忽略的选项。

批判性评估能力。 把AI输出当作起点，而非结论。每一个严肃的AI平台都附带准确性提示，这并非偶然；真正将其内化的从业者，相较于忽视它的人更具优势。

数据素养。 理解信息的来源、结构方式，以及何时会变得不可靠。任何AI系统的输出质量上限，都由其数据质量决定，无论所采用的模型能力多强。

风险意识。 在问题发生之前，预先思考可能的失败模式。拥有实际运营AI系统经验的从业者，会逐渐形成对薄弱环节出现位置的直觉，而这种直觉本身具备实际的市场价值。

跨职能沟通能力。 让复杂系统对未参与构建的人来说也清晰可懂。每一个AI系统最终都需要交由技术团队之外的人来治理或操作。

治理思维。 不仅要问一个系统能做什么，还要问当它出错时谁来负责、它应当访问哪些数据，以及访问权限的设置是否真正与实际风险相匹配。

持续学习能力。 如今正在使用的工具和模型，两年后大概率会面目一新。理解系统的思维框架可以延续下去，而对某个具体工具界面的熟练程度则无法。

AI部署中最稀缺的资源

当前依然稀缺的不仅是 GPU 算力等基础设施，也是设计能够承受生产环境检验的 AI 系统所需的“判断力”：知道在工作流的哪个环节嵌入智能、在哪里保留人工问责、提前预判故障可能呈现的样态，以及如何打造一个能在真实组织中运转、而非只能在受控演示环境中表现良好的系统。

Bitdeer AI 能为复杂的AI工作流提供不同层级的资源服务。底层是原始算力，GPU集群与数据中心是上层一切功能得以运行的基础。中间层是AI云，企业可以在此托管和扩展模型，而无需自行管理硬件。顶层则是模型应用层：AI应用与实时系统连接，执行多步骤流程。

AI正在从一种独立工具，转变为治理完善、生产级系统中的有机组成部分，这一转变正在各行各业同步发生。那些早早建立起扎实系统设计实践的组织，将获得难以被复制的优势。

AI 开发已不再仅受模型性能的制约。对开发者和技术负责人而言，真正的生产挑战在于，一个想法能否从 notebook 或小规模实验，进入安全、可复现、可扩展的 GPU 云环境。

大语言模型（LLM）训练、微调、检索增强生成（RAG）、批量推理和低延迟模型服务，对加速器显存、存储吞吐、网络性能、运行时一致性、访问控制和成本可见性都有不同要求。如果这些基础设施因素规划过晚，随着工作负载扩展，团队可能会面临 GPU 利用率不稳定、部署周期变慢以及运营成本上升等问题。

在 Bitdeer AI，我们认为瓶颈部分在于基础设施编排：获取合适的 GPU、保持集群网络互联、通过高吞吐存储持续向加速器供给数据、管理可复现的运行环境，并为可能从单一原型扩展到分布式生产的工作负载提供可预测算力。我们的重点是简化基础设施层，让团队把更少时间花在计算环境管理上，把更多时间用于构建 AI 应用。

为什么 AI GPU 基础设施变得更难运维

将 AI 工作负载投入生产，所需要的不只是原始算力。它需要由 GPU 容量、CPU 编排、内存带宽、存储吞吐、网络性能、调度纪律、安全性和运营控制共同组成的协同系统。本地概念验证（PoC）与生产级 AI 云环境之间的差距，往往只有在团队开始扩展规模时才会真正显现。

GPU 云可用性与工作负载匹配

首要挑战不仅是获取GPU，更是如何让算力配置与具体的工作负载精准匹配。训练、微调、批量推理和实时推理对显存容量、吞吐、延迟和利用率的要求并不相同。如果团队在明确工作负载形态之前就选择基础设施，往往会为闲置容量支付高昂的“沉没成本”，或因算力配置不足而无法稳定交付。

集群网络与数据流转

现代 AI 很少作为孤立的单卡任务运行。分布式训练高度依赖快速的参数交换（如通过高效的集群互联）、高效的检查点（Checkpoint）保存，以及能够持续供给 GPU 的存储系统。推理服务则需要协调请求路由、动态批处理（Dynamic Batching）和模型服务，同时避免网络成为瓶颈。

功率密度、散热与可靠性

AI 基础设施也改变了功率规划逻辑。高密度 GPU 集群不能把供电、散热和 AI 数据中心设计当作后台问题处理。在我们的公开基础设施更新中，我们计划增加专用于 AI 计算的 IT 负载，并由更广泛的全球电力基础设施战略提供支撑。对开发者而言，运营层面的启示很直接：可靠的 AI 云容量不仅取决于加速器数量，也同样取决于供电能力和热管理准备度。

简化 AI 基础设施设置到底意味着什么

简化基础设施并不意味着隐藏每一个技术决策，而是减少重复性的设置工作，同时保留生产环境中真正重要的控制能力：环境一致性、资源弹性、工作负载可见性，以及无需每次重建技术栈就能从开发推进到部署的能力。

更快的环境配置

AI 团队不应在每次测试工作负载之前，都反复组装驱动、框架、访问规则和运行时依赖。成熟的 GPU 云工作流会通过可复现的环境缩短这一路径，使实验更具可迁移性，也让生产准备更可预测。

弹性的 GPU 云容量

AI 需求并不均匀。一个原型可能只需要有限算力，一次训练任务可能在短时间内需要更大的集群，而推理服务则可能需要随流量增长而提升容量。云 GPU 基础设施的价值在于，它让团队能够围绕工作负载阶段调整资源规模，而不是迫使每个项目都受限于固定的硬件规模。

工作流级编排

一旦工作负载开始扩展，编排就会成为基础设施质量的核心部分。容器化任务、模型工件（Artifacts）、数据放置、可观测性和部署工作流，都需要在可复现的运营控制下顺畅衔接。高效的编排能有效减少算法研究、工程落地与运维（MLOps）之间的协作摩擦，而这往往是导致 AI 交付延期的主要原因。

我们如何把基础设施转化为 AI 云平台

在 Bitdeer AI，我们将 GPU 云基础设施视为生产系统，而不是一组彼此孤立的计算实例目录。Bitdeer AI Cloud 为训练和推理工作负载提供搭建好的 GPU 云基础设施，帮助团队根据 AI 项目的技术形态匹配计算选择。目标是降低设置摩擦、明确部署路径，并让算力设计与 AI 交付更好对齐。

面向训练的 GPU 云

AI 训练对加速器显存、数据吞吐和分布式协同非常敏感。我们帮助团队从完整训练路径出发思考：数据如何到达 GPU、任务如何扩展、环境如何保持一致，以及工程师如何从实验逐步走向可复现的工作流。

推理、模型服务与 Model Studio

推理带来的是另一类基础设施问题。这里的重点转向响应速度、并发能力、端点稳定性，以及在接入应用之前快速评估模型的能力。Model Studio 通过简化模型访问和基于 API 的推理工作流来支持这一方向，帮助团队以更低的运维负担评估并集成模型。

安全性、成本可预测性与运营匹配

对企业级 AI 而言，仅有技术性能并不够。团队还需要工作负载隔离、可复现的访问控制、成本可见性、清晰的资源规划，以及符合 AI 系统实际构建方式的云模型。随着模型从内部试点走向面向客户或业务关键型服务，这些问题会变得更加重要。

哪些团队受益最大

只要组织需要走出孤立实验，这种基础设施模式就有价值。当团队既要保持快速迭代，又要满足生产纪律，或当 AI 生命周期不同阶段的算力需求发生明显变化时，它的适配度尤其高。

从研究走向生产的团队

这些团队需要一条从 notebook 和早期实验，通往可复现训练任务和受控部署环境的路径。他们的问题并不只是能否获得 GPU，而是实验、验证和发布之间是否具备连续性。

大规模运行推理的 AI 产品团队

产品团队关注的是持续的服务性能、成本可见性，以及在不重新设计整个系统的情况下增加模型容量的能力。当 AI 云平台让推理端点更容易评估、运行和扩展时，它就会变得很有价值。

构建智能体和多模态工作流的全球团队

AI智能体、多模态流水线和复杂企业工作流，会给 AI 基础设施、算力可用性和系统协同带来额外压力。这些工作负载通常会结合推理、检索、工具调用和模型服务。因此，GPU 基础设施、编排能力和 API 设计本身也会成为应用架构的一部分。

核心结论：生产级 AI 需要的是基础设施系统，而不只是 GPU

核心问题已不再是 AI 团队是否需要加速器。他们当然需要。更重要的问题是，周边基础设施能否让这些加速器更容易使用、更容易扩展，并且更容易连接到真实部署需求。

AI 团队应评估什么

在评估 AI 云平台时，团队不应只看表面的 GPU 可用性。加速器适配度、内存带宽、互联策略、存储吞吐、编排模型、推理工作流、安全态势、运营可见性，以及具备功率意识的基础设施规划，都会影响 AI 系统多快能够达到生产就绪状态。

Bitdeer AI 的定位

我们在 Bitdeer AI 的重点，是通过 Bitdeer AI Cloud、Model Studio，以及与 NVIDIA 生态系统的持续合作，让这一技术栈更容易被采用。我们并不是要把 AI 基础设施简化成一个流行词，而是要减少可以避免的设置摩擦，让开发者和企业能够以更可预测的性能、更强的部署纪律，以及更清晰的扩展路径，从实验走向生产系统。

过去一年，人工智能已迅速从实验探索阶段迈向真实业务场景中的部署应用。曾经被视为探索性能力的 AI，如今正逐步嵌入各行各业的核心业务流程之中。然而，尽管模型能力不断加速提升，一个更为根本的挑战正在浮现。

问题已不再是 AI 是否有效。

而是组织能否让 AI 实现规模化落地，并在实际运营中持续发挥作用。

在 Bitdeer AI 近期举办的一场圆桌讨论中，与新加坡 AI 原生企业、商业领袖及技术专家的交流揭示出一个一致的趋势：尽管 AI 能力正在快速进步，企业的部署成熟度却明显滞后。如今，潜力与执行之间的差距，已成为制约 AI 价值释放的关键因素。

AI 价值落地的先行场景

如今，AI 的采用越来越多地由质量与效率方面的可衡量提升所驱动，而不再只是出于实验探索或好奇心。AI 最强劲的落地势头，往往出现在输出结果结构化、流程可重复，并且能够直接与绩效指标挂钩的领域。

比如在软件开发、客户支持和销售运营等领域，AI 已经展现出切实的生产力提升。在讨论中提到的一个案例里，AI 赋能的销售流程显著优于传统方式，个人销售人员实现了明显更高的产出，效率可达到“20 倍提升”。尽管这类数据仍需谨慎解读，但它反映出一个更广泛的趋势：AI 正以前所未有的方式放大个体生产力。

这一模式在数据密集型场景中表现得更加明显。以审计流程为例，传统的人工处理方式天然受限于时间和认知带宽，往往只能发现潜在问题中的一小部分。相比之下，AI 系统能够处理完整数据集，并在大规模文档中识别模式。其结果不仅是执行速度更快，更意味着覆盖范围在根本上得到深化。

然而，AI 的采用并不是均匀发生的。在图像生成等创意领域，人工监督仍然至关重要，因为现成模型的输出往往难以达到生产级应用的要求。这种价值分布的不均衡揭示了一个重要原则：AI 的采用并不会在所有领域同时发生，而是会率先集中在那些价值能够立即体现且可以被清晰衡量的场景中。

AI 驱动的新商业执行力

AI 改变的不仅是企业构建什么，也正在改变企业如何构建。

传统的产品开发周期往往以月为单位计算，而如今正被以周为单位的快速迭代循环所取代。团队开始将速度置于完美之上，尽早推出“足够可用”的解决方案，并基于真实场景中的反馈持续优化。

这一转变得益于 AI 降低了试验与探索的成本。构建和测试新的工作流程不再是高昂到难以承受的投入，因此组织能够以更积极的方式进行迭代，并更快速地适应变化。其影响是深远的：竞争优势不再仅仅取决于规划或战略本身，也越来越取决于执行速度与适应能力。

除了提升运营效率之外，AI 也正日益被视为推动商业价值增长和强化市场定位的重要力量。

讨论中特别值得关注的一个趋势，是 AI 在 IPO 前转型中的作用。一些企业正在上市前主动整合 AI 能力，并借此强化自身的资本市场叙事，提升外界对其增长潜力的认知，例如通过“AI 转型”争取“更高估值”。在这一语境下，AI 已不再只是一个工具，而是成为企业身份与定位的一部分。

这也表明，市场对 AI 的认知正在发生更深层次的演进：

AI 不再只是一次运营升级，而是一项战略资产。

从试点到规模化：AI 落地的组织挑战

尽管 AI 已在特定应用场景中取得了明确成效，但要在组织内部实现规模化推广，依然面临诸多挑战。在组织层面，真正的障碍往往并非技术本身，而是结构性问题。即便企业内部已经形成一定共识，当 AI 系统进入生产环境后，第二类且往往更为持久的挑战也会随之显现。

AI 项目通常由高层自上而下推动，企业领导层能够认识到采用 AI 的战略重要性。然而，这种自上而下的推动力，往往与组织其他层级的激励机制并不一致。中层管理者可能会抵触那些削弱其运营控制权的变革，而员工则可能将 AI 视为威胁，而非赋能工具。

这种错位造成了一种常见现象：企业能够成功启动试点项目，却难以将其进一步扩展至生产环境。AI 因而停留在局部孤岛之中，而未能转化为组织层面的集成能力。即便在内部目标相对一致的组织中，真正进入部署阶段后，也会暴露出另一组截然不同的挑战。

从模型到系统：成本的约束

讨论中浮现出的另一个关键洞察是：AI 部署并不只是选择合适的模型那么简单。它是一项持续性的工程实践，需要不断迭代、评估和进行系统设计。

与会团队描述了一条反映部署成熟度不断提升的演进路径：从最初围绕提示词进行实验，逐步发展为建立结构化评估框架，随后进一步投入上下文工程、工作流编排，并最终推进模型优化。这个过程很少是线性的，更多体现为持续不断的实验、验证与改进。

在这一背景下，工程的角色也正在发生变化。挑战不再是让 AI 在孤立场景中“跑起来”，而是让它在生产环境中保持可靠、一致，并具备可扩展性。上下文管理、记忆机制设计和工作流集成，正变得与模型本身同样重要。而在所有这些挑战之中，成本正成为最重要的制约因素。

Token 消耗会随着使用规模同步增长。对于 AI 原生企业而言，相关成本可能迅速攀升。在实验阶段看似可控的支出，一旦进入规模化应用，很快就可能变得难以持续。

为应对这一挑战，组织正在采用越来越精细化的策略。它们不再依赖单一模型或单一供应商，而是构建混合架构，在性能与成本之间取得平衡。复杂推理任务会被分配给高性能模型，而重复性强或边界清晰的工作流，则交由经过微调的本地模型处理。与此同时，一些团队也在探索边缘部署，以降低对集中式基础设施的依赖。

与此同时，优化工作也不再局限于模型选择。团队正在主动管理上下文长度、压缩输入内容，并构建抽象层，以避免对特定供应商形成锁定。这些做法反映出一个更广泛的转变：AI 部署正越来越成为一项关于成本效率与系统编排能力的工程问题。

企业 AI 基础设施的下一步

随着 AI 系统日益复杂，企业对基础设施的需求也在发生变化：它不应只是服务于实验探索，而必须能够支撑长期运营和规模化扩展。

在实际应用中，组织需要管理的已不再是单一模型或单一工作流。生产级 AI 环境通常涉及多个模型、不同类型的工作负载、混合部署架构，以及持续变化的成本与性能权衡。这带来了一项新的运营挑战：如何在计算、推理、存储和部署等多个层面，对 AI 系统进行高效编排。

这正是 AI 原生云平台开始发挥更重要作用的地方。

以 Bitdeer AI 为代表的平台，旨在通过一体化 GPU 基础设施、可扩展的推理环境，以及灵活的模型部署流程，帮助企业应对这些不断演进的部署需求：AI 不应被视为一个独立的应用层，而应被构建为面向生产环境的系统能力，能够根据工作负载需求、成本约束和部署策略的变化持续调整。

例如，借助 Bitdeer AI Cloud，企业和 AI 团队可以：

• 随着需求变化，灵活扩展用于训练、推理、嵌入向量生成和自动化工作负载的 GPU 资源；
• 支持云端、专属基础设施和混合环境下的不同部署需求，并提供裸金属、基于虚拟机的 GPU 服务以及容器化工作空间等选项；
• 随着 Token 使用量和推理需求增长，提升基础设施效率，并更清晰地掌握资源使用、成本、预算和资源分配情况；
• 通过灵活的模型工作流、API 访问方式和集成式计算环境，更便捷地接入和部署开源模型；
• 构建 AI Agent 工作流，将业务数据、API、MCP 工具、知识库和运营规则连接起来，支持客户服务、文档处理、报告生成、知识检索和工作流自动化等应用场景；
• 以更强的控制能力运行 AI 工作负载，包括托管数据库、私有网络隔离、访问控制、监控以及基于角色的权限管理。

通过这种方式，Bitdeer AI Cloud 能够帮助企业超越单纯的 GPU 算力供给，迈向更加完整的 AI 云环境——从实验探索到生产部署，全面支持模型开发、模型部署与工作流自动化。

结语

AI 的发展已经进入一个新阶段：能否获得模型本身，已不再是决定差异化竞争优势的关键因素。如今，竞争格局正在由组织有效部署、规模化推广并持续优化 AI 的能力所定义。

企业能否取得成功，将取决于其是否能够协调组织内部的激励机制、管理成本结构，并构建能够随着技术快速演进而持续迭代的系统能力。

在这一新阶段，关键问题不再是谁拥有最好的模型。

而是谁能够让 AI 在真实业务环境中真正发挥作用。

新加坡，2026年6月26日 — Bitdeer AI，Bitdeer Technologies Group （纳斯达克股票代码：BTDR）旗下成员，同时也是英伟达（NVIDIA）优选云合作伙伴，今日宣布荣获 2026 年 “年度 AI 云平台”大奖。该奖项由行业领先的市场情报机构 AI Breakthrough 颁发，旨在表彰当今全球 AI 市场中最顶尖的企业、技术和产品。这一重量级奖项肯定了 Bitdeer AI 在架构创新方面的重大突破——打造了一套完整的全栈AI云环境，专为企业级生成式 AI 及生产工作负载深度优化。

随着企业加速从局部 AI 试验迈向全球化生产部署，在工作流碎片化、算力紧缺与价格波动的多重压力下，传统云架构的结构性缺陷正逐渐显露。Bitdeer AI 以一套截然不同的方法应对上述挑战：构建垂直整合的“AI 工厂”模式。通过自主持有并运营高性能数据中心基础设施，Bitdeer AI 彻底消除了对第三方的依赖，从物理设施与芯片层面向上贯通至核心应用软件，实现全链路性能的极致优化。

基于这种自底向上的自主掌控能力，构建出一个高度统一、高效运转的软件生态系统。Bitdeer AI 云平台打破传统部署的繁琐壁垒，将完整的 AI 生命周期融汇于同一环境之中，覆盖分布式训练、多集群调度、丰富的优化模型库以及无服务器推理 API。

依托完全整合的技术栈，Bitdeer AI 为企业客户带来了独特的核心优势，重新定义了 AI 云价值标准：

• 无缝且高效的工作流：无需拼接零散的独立服务，企业可在单一、高度协同的平台上，从原始数据到模型微调、再到持续推理，实现端到端全流程贯通。
• 极致的灵活性与掌控力：赋予开发者对计算环境的精密控制，可自由选择追求极致原生性能的“裸金属（Bare Metal）”或按需弹性扩展的“虚拟机（VM）”，无缝切换、高效适配。
• 稳定的成本结构：通过消除与第三方基础设施托管相关的溢价，Bitdeer AI 将前所未有的极致性价比和透明的成本结构直接惠及用户。
• 深度的芯片级优化：作为英伟达优选云合作伙伴（Preferred NVIDIA Cloud Partner），Bitdeer AI 深度集成了英伟达的硬件和企业级软件栈。对物理数据中心的掌控使 Bitdeer AI 能够专为下一代英伟达架构优化功率密度和冷却系统，从而为客户提供有保障的算力容量，并使客户能够在第一时间获取最新的软件和模型功能。

“Bitdeer AI 构建了当今市场上最完整、最强大的全栈 AI 云平台之一，将高性能 GPU 基础设施与企业级 AI 开发环境完美结合，”AI Breakthrough 董事总经理 Steve Johansson 表示。

“我们非常荣幸能够蝉联 AI Breakthrough 奖项，”Bitdeer AI Cloud 副总裁 Retainna Lin 表示。“下一个 AI 时代的赢家将由执行速度和基础设施的可靠性共同决定。Bitdeer AI 构建了一个全栈云平台，极大地缩短了从原始 GPU 算力到投入实际生产的路径。我们正在为全球 AI 部署打造坚实的运行基础。”

展望未来，随着 AI 格局从实验阶段转向以全球化生产为特征的成熟阶段，Bitdeer AI 已做好充分准备，致力于成为行业的核心基础架构。公司正积极推进多阶段战略，全面扩展统一云生态系统的全球布局，持续拓展可持续、自营“ AI 工厂”的版图，以满足区域增长需求及严格的数据驻留要求；深化与英伟达的整合，支持新一代架构及模型和软件的 Day-0 同步发布；同时不断迭代升级平台功能，致力于成为企业级大规模 AI 应用的权威全栈运行层。

前瞻性声明

本新闻稿可能包含有关Bitdeer AI未来表现、市场机会和业务策略的前瞻性陈述。这些陈述基于当前的假设、信念和预期，但亦存在风险与不确定性，可能导致实际结果与预测存在重大差异。除法律要求外，Bitdeer AI不承担更新或修订此类前瞻性陈述的义务。

随着自主智能体承担的任务日趋复杂、运行时间不断延长，从统筹协调历时数周的编程项目，到实时综合分析数百个研究来源，对底层推理模型的要求已发生根本性变化。推理速度、推理深度，以及在长效会话中持续保持上下文的能力，不再是可选项，而是任何面向智能体工作的模型所必须达到的基准。

今天，我们很高兴宣布， NVIDIA Nemotron™ 3 Ultra 已在 Bitdeer AI Model Studio首发上线。作为 NVIDIA Nemotron 模型家族的旗舰型号，Nemotron 3 Ultra 是一款专为全天候运行智能体打造的开放前沿推理模型。该模型以更小的体积、更快的速度和更低的成本服务于智能体工作流，在保持编程、深度研究和企业自动化领域前沿推理能力的同时，推理速度最高提升 5 倍，使用成本最高降低 30%。

什么是 NVIDIA Nemotron 3 Ultra？

NVIDIA Nemotron 3 Ultra 是一款专为长效自主智能体构建的开源前沿推理模型。它针对智能体编排、复杂推理、编程及深度研究工作负载进行了优化。在这些场景中，推理速度、成本效率与持续推理深度的重要性与模型绝对能力上限同等重要。与传统的对话型模型不同，Nemotron 3 Ultra 专为横跨数百轮对话、多工具调用和长时执行周期的工作流而设计，针对智能体工作负载推理速度最高提升 5 倍，使用成本最高降低 30%。

经过面向智能体框架的后训练，Nemotron 3 Ultra 能够在最高难度的调用中保持推理深度，无论是历时数周的自主编程会话中的架构决策、跨数百个相互矛盾研究来源的综合分析，还是跨数千个相互依存约束条件的芯片设计验证。

Nemotron 3 Ultra 完全开源，支持针对任意领域进行微调，并可在任意基础设施上部署，使企业在享受前沿智能的同时，灵活掌握数据管控权。

关键规格

为何运行更快、成本更低的智能体推理至关重要？

大多数生产级智能体系统的瓶颈并不在于单次模型调用，而在于多次调用的累积成本。执行复杂重构计划的编程智能体、交叉比对数百个来源的研究智能体，或对数千条告警进行分诊的企业智能体，其工作效率均取决于模型完成每个推理周期的速度。吞吐量不只是硬件指标，它直接决定了智能体在给定时间预算内所能完成的工作量。

Nemotron 3 Ultra 从架构层面解决了这一问题：

最快任务完成速度

Ultra 采用异构 Mamba-Transformer MoE 架构，在英伟达发布的与主流开放前沿基准模型的对比测试中实现了最高的 token 吞吐量，可在同等时间预算内完成更多推理周期。多 token 预测（MTP）通过在单次前向传播中预测多个未来 token，进一步缩短长序列的生成时间；NVFP4 精度格式专为 NVIDIA Blackwell GPUs 优化，在保持精度的同时，相较 FP8 实现显著的推理加速。

领先的准确率

潜在 MoE 使模型能够在相同推理成本下调用多达 4 倍的“专家”，在不增加计算开销的前提下提升智能水平与泛化能力。围绕真实世界智能体任务设计的多环境强化学习训练，赋予模型强大的工具调用、推理及指令遵循能力。100 万 token 上下文窗口可在长时智能体会话中保留对话历史与规划状态，并支持短上下文模型所无法企及的跨文档推理规模。

完全开源

Ultra 在英伟达开放模型许可协议下以开源权重发布，训练数据采用英伟达生成的完全开源的高质量合成数据，并公开了研发技术与训练方案，为研究人员和企业提供充分的透明度，以及在此基础上自定义或二次开发的灵活性。

企业级应用场景

图源：英伟达

编程与代码智能体

基于 Ultra 构建的编程智能体，可端到端地完成大型代码库的规划、编写、测试、调试与迭代。Ultra 负责处理高难度推理调用：架构规划、复杂的跨文件重构与错误恢复，在可能历时数天乃至数周的会话中持续保持连贯的推理能力。

深度研究与检索

研究智能体在持续并行循环中完成检索、评估、交叉比对与综合分析。Ultra 负责最终综合——解决矛盾、识别空白、提出新假设，以前沿推理所要求的深度与一致性完成这一关键步骤。

企业工作流智能体

面向企业工作流构建的智能体，在持续运行的工具调用循环中实现跨行业的运营自动化：分诊数千条安全告警、摄取并解读监管文件、统筹协调临床试验运营。Ultra 负责处理这些工作流中的复杂推理步骤，这些环节的判断失误将对下游产生切实影响。

电子设计自动化与芯片设计

芯片设计智能体可自主根据规格生成 RTL 代码，跨数千个约束条件验证设计，并统筹从设计到制造签核的完整工作流。Ultra 负责验证、故障分析及跨模块依赖关系解析，这些推理密集型操作决定了最终设计的质量。

支持的智能体框架

Nemotron 3 Ultra 开箱即可与主流开放智能体框架集成，从通过 NVIDIA NemoClaw  一键部署，到针对最主流编程与编排平台的经测试操作手册。该模型同时以 NVIDIA NIM microservice 形式打包，可在不做任何修改的情况下跨数据中心与云环境部署。

通过 API 在 Bitdeer AI Model Studio 运行 Nemotron 3 Ultra

您可以在 Bitdeer AI Model Studio 上运行 Nemotron 3 Ultra。该平台是我们推出的无服务器推理服务，旨在以简单且可扩展的方式提供先进基础模型的访问能力。通过简洁易用的 API，Model Studio 使开发者与企业无需管理底层基础设施即可快速上手，从而降低部署复杂度并缩短实现价值的周期。

Bitdeer AI 是 NVIDIA Cloud Partner，通过 ISO/IEC 27001:2022 及 SOC2 Type I & Type II 认证，为生产级智能体 AI 部署提供安全合规、高性能的企业级基础设施。以您业务所需的精度与规模，在 Bitdeer AI 专用 GPU 集群上便捷运行模型。

立即体验

1. 登录 Bitdeer AI Model Studio
2. 在模型列表中找到 NVIDIA Nemotron 3 Ultra
3. 生成 API Key，开始进行 API 调用

这一简化流程可帮助您快速将前沿推理能力集成至应用与智能体系统中。

结语

NVIDIA Nemotron 3 Ultra 为开源前沿模型在生产环境中的表现树立了新标杆。凭借前沿级智能、最高 5 倍推理加速与最高 30% 的成本降低，Ultra 专为长效自主智能体的需求而设计。100 万 token 上下文窗口、开放权重、开放训练方案，以及在 Bitdeer AI Model Studio 的首发上线，使各类组织能够更快地从实验阶段迈向生产环境，将智能体 AI 转化为可量化的业务价值。

随着 AI Agent 从文本交互走向真实业务流程，跨模态理解信息并进行推理的能力正成为关键基础能力。无论是视频、音频、文档，还是 UI 界面，现代 Agentic 系统都需要能够在多种模态之间进行高精度、高效率推理，并满足企业级部署要求的模型。

今天，我们很高兴宣布，NVIDIA Nemotron™ 3 Nano Omni 已在 Bitdeer AI Model Studio 首发上线。作为 NVIDIA Nemotron 模型家族的重要成员，该模型代表着开放、生产就绪的多模态推理模型向前迈出的重要一步。

什么是 NVIDIA Nemotron 3 Nano Omni

NVIDIA Nemotron 3 Nano Omni 是一款面向生产级 Agentic AI 的开放式多模态基础模型。该模型能够在单一架构中统一处理视频、音频、图像、文档、图表以及文本等多种模态的信息，实现跨模态的理解与推理，从而无需依赖碎片化的多模态处理流程。

通过将感知与推理能力整合于同一系统中，Nemotron 3 Nano Omni 有效简化了智能体开发流程，降低系统编排复杂度，同时提升整体效率与可扩展性，并在多模态任务中实现领先的准确性。基于开放权重、数据集及训练方案构建，该模型为开发者与企业提供了充分的定制化能力，使其能够以更高的可控性与灵活性部署并运行多模态智能体。

关键规格:

• 模型规模：30B（A3B）
• 模态支持：输入（文本、图像、视频、音频），输出（文本）
• 架构：基于 Transformer-Mamba 设计的混合专家模型（Hybrid MoE）
• 视觉编码器：CRADIO v4-H
• 音频编码器：Parakeet
• 上下文长度：256k
• 优化特性：
  • 基于 Conv3D 的时序视频推理能力
  • 高效视频采样（EVS），降低推理成本
• 量化支持：FP8、NVFP4

为何统一的多模态模型至关重要

当前，许多企业级 AI 系统仍依赖于将视觉、语音、OCR 以及推理模型拼接而成的多阶段处理流程。这种架构往往会带来多次推理调用所导致的更高延迟，同时增加系统运维与编排复杂度，并在不同模态之间形成割裂的上下文。

Nemotron 3 Nano Omni 通过在智能体系统中充当统一的多模态感知与推理层，有效解决上述问题，实现从“感知 → 推理 → 行动”的一体化闭环。

企业应用场景

1. 客户服务智能体（Customer Service Agent）：

客户服务场景本质上是高度多模态的环境。该智能体需要分析客户交互的录音及语音转写内容，同时对客户会话的屏幕录制进行推理，并结合错误截图、发票等图像信息进行理解。此外，还需读取知识库文档、业务政策以及 CRM 历史记录。Nemotron 3 Nano Omni 将上述多源信息统一整合，使智能体不仅能够理解客户“说了什么”，还能理解客户“经历了什么”以及“业务规则允许什么”，从而实现更精准、具备上下文感知的服务响应。

2. 金融分析智能体（Financial Analyst Agent）：

金融分析并非仅依赖文本。该智能体需要在财务报告、财报电话会议记录等文档之间进行推理，同时结合图表、扫描报告等图像信息，以及电话会议中的语音内容和投资者演示视频进行综合分析。Nemotron 3 Nano Omni 能够将高管表述、数据的可视化呈现以及底层文档信息进行关联整合，从而输出基于事实支撑的洞察，而非停留在表层总结。

3. 计算机操作智能体（Computer Use Agent）：

计算机操作类智能体是统一多模态能力的典型应用之一。该智能体通过分析屏幕录制中的视频与图像，理解界面状态的动态变化，同时解析操作指令与系统音频提示，并读取任务说明及校验规则等文档。Nemotron 3 Nano Omni 使智能体能够在同一推理闭环中完成界面感知、意图理解、约束解析及动作执行。当感知与决策分散在多个模型中时，这种能力将难以实现。

4. 媒体与娱乐智能体（Media and Entertainment Agent）：

媒体处理流程不仅依赖文本转录。该智能体需要在视频内容、对话语音、屏幕文字以及场景变化之间进行联合推理，以支持更丰富的视频与语音分析。Nemotron 3 Nano Omni 能够生成高密度字幕，不仅捕捉语音内容，还能描述画面中发生的事件，同时提升大规模内容库中的视频检索与摘要能力，帮助媒体团队更高效地将原始素材转化为可搜索、具备上下文语义且可用于生产的内容资产。

通过 API即可轻松调用 Nemotron 3 Nano Omni

您可以在 Bitdeer AI Model Studio 上运行 Nemotron 3 Nano Omni。该平台是我们推出的无服务器推理服务，旨在以简单且可扩展的方式提供先进基础模型的访问能力。通过简洁易用的 API，Model Studio 使开发者与企业无需管理底层基础设施，即可快速调用模型，从而降低部署复杂度并缩短实现价值的周期。

这一能力使多模态推理更易集成至各类应用与智能体工作流中，并在少量步骤内实现从实验验证到生产落地的高效转化路径，兼顾灵活性与运行效率。

立即开始体验

1. 登录Bitdeer AI Model Studio
2. 在模型列表中找到 Nemotron 3 Nano Omni
3. 生成 API Key，开始进行 API 调用

这一简化流程可帮助您快速将多模态推理能力集成至应用与智能体系统中。

结语

NVIDIA Nemotron 3 Nano Omni 让多模态 AI 在真实业务场景中的部署更加可行与高效。相比管理多个模型与复杂流程，团队可以将重心放在构建智能体应用、自动化业务流程以及提升用户体验上。

随着该模型在 Bitdeer AI Model Studio 上的上线，企业能够更快地从实验阶段迈向生产环境，将多模态 AI 转化为可量化的业务价值。

OpenClaw 已经在 GitHub 上获得超过 29 万 Star，成为 2026 年最受关注的开源 AI Agent 框架之一。越来越多的开发者和技术爱好者开始尝试在本地部署自己的 AI 助理。

然而，本地部署在实际使用中面临不少挑战：关机即断线、环境配置复杂、API Key 安全隐患等问题，严重限制了 AI Agent 的持续可用性。

将 OpenClaw 部署到云端，可以从根本上解决这些问题。本文将分析云端部署的核心优势，介绍如何选择合适的大语言模型，并展示 OpenClaw 在实际场景中的应用能力。

OpenClaw 简介

OpenClaw 是一个开源的个人 AI Agent 框架，使用 TypeScript 编写，具备以下核心能力：

• 7x24 自主运行：内置 Heartbeat 心跳机制，能够主动监控任务并自动执行，无需用户持续干预
• 50+ 平台集成：支持 WhatsApp、Telegram、Discord、Slack、Gmail、GitHub 等主流平台，实现跨平台统一管理
• 模型灵活性：兼容 Claude、GPT、Grok 等云端大模型，同时支持通过 Ollama / vLLM 运行本地模型
• 可扩展技能系统：采用 Markdown + YAML 定义技能，ClawHub 上已有 100+ 预制技能可直接使用
• 隐私优先设计：所有数据默认存储在用户本地，记忆系统基于本地 Markdown 文件

与传统聊天机器人不同，OpenClaw 具备上下文记忆、主动行为能力和工具调用能力，更接近一个能够持续工作的 AI 协作者。

云端部署 vs 本地部署

虽然 OpenClaw 支持在本地运行，但对于追求稳定性和持续可用性的用户而言，云端部署具有明显优势。

本地部署适合短期测试和体验，而云端部署才能真正释放 AI Agent 的持续服务能力。一个需要随时待命的 AI 助理，首先需要一个永远在线的运行环境。

部署成本

运行 OpenClaw 本身不需要 GPU 资源，一台基础 CPU 虚拟机实例（2 核 / 4GB 内存 / 20GB SSD）即可稳定运行。以该配置为例，Bitdeer AI Cloud 的按需费用约为 $0.0363/小时（约 $26/月），即可获得一个 7x24 在线的 AI 助理运行环境。

Bitdeer AI Cloud 作为 NVIDIA 首选云合作伙伴（Preferred Cloud Service Provider），提供覆盖 H100、H200、B200、GB200 等多代 NVIDIA GPU 的算力资源。对于 OpenClaw 这类 Agent 部署场景，CPU 实例即可满足运行需求；如有模型微调或本地推理等进阶需求，也可灵活升级至 GPU 实例。虚拟机实例按需计费，详情请参考 GPU Compute 定价页。

模型推理部分通过 API 调用完成，按 Token 计费。Bitdeer AI Cloud 提供多厂商的模型推理服务，涵盖文本生成等多种任务类型。详细的模型推理定价请参考 AI Models 定价页。

模型选择指南

OpenClaw 的核心优势之一是模型灵活性——不绑定任何单一 LLM 厂商。Bitdeer AI Cloud 目前提供来自 10+ 厂商的 40+ 模型，涵盖文本生成、视觉理解、推理、文生图等多种任务类型，API 兼容 OpenAI 标准，模型切换成本接近于零。

以下为适用于 OpenClaw 的代表性文本生成模型及定价参考：

场景化选择建议

• 综合性价比首选 — DeepSeek-V3.2，输入输出综合成本最低，代码和推理能力业界领先
• 长文本输入场景（如文档分析、邮件摘要）— Qwen3-235B-A22B，输入单价仅 $0.22/百万 Token
• 中文深度对话 — Kimi-K2.5，中文理解能力优秀，适合需要高质量中文输出的场景
• 极致低成本 — 平台同时提供 Gemma、Ministral 等轻量模型，输入低至 $0.02/百万 Token，适合高频低复杂度任务

完整模型列表和在线体验请访问 Bitdeer AI Model Explore。

OpenClaw 通过配置文件即可完成与 Bitdeer AI 模型服务的对接——用户只需在 openclaw.json 中填入 API Key 和模型名称，OpenClaw 会自动处理所有 API 通信，无需编写任何调用代码。所有 Bitdeer AI 模型 API 兼容 OpenAI REST 标准，因此 OpenClaw 可以直接识别和调用。

API Key 可在 Bitdeer AI Cloud 控制台的 API Keys 页面生成。

部署流程

Bitdeer 官方已提供完整的部署教程，涵盖从创建云实例、安装 OpenClaw、配置模型连接到对接 Telegram 的全部步骤。详细操作指南请参考：

Installing and Configuring OpenClaw on Bitdeer AI Cloud

整个部署流程可概括为五个步骤：

1. 创建云实例 — 在 Bitdeer AI Cloud 上开通虚拟机实例
2. 安装 OpenClaw — 通过官方脚本一键完成安装
3. 配置模型 — 填入 Bitdeer API Key，指定 LLM 模型
4. 对接 Telegram — 完成 Bot 配对，实现移动端访问
5. 后台运行 — 服务自动在后台 7x24 持续运行

实际应用场景

部署完成后，OpenClaw 能够在多个维度发挥实际价值。以下列举几类典型使用场景：

个人效率管理

• 连接 Gmail 自动阅读邮件，提取待办事项，每日定时发送摘要
• 通过 Google Calendar 集成，直接在对话中创建和管理日程
• 实时多语言翻译，支持中、英、日、韩等语言互转

信息研究与分析

• 执行网络搜索，阅读网页内容，生成结构化摘要
• 对指定 URL 进行内容提取和要点总结
• 多步骤信息收集与对比分析，输出结构化报告

代码生成与执行

• 在沙箱环境中生成并执行代码，直接返回运行结果
• 支持 Python、JavaScript 等主流语言，适用于数据处理、脚本编写等场景
• 可结合网络搜索能力，自动查阅文档并生成可运行的代码方案

以上能力依托 OpenClaw 的技能系统实现。ClawHub 上已有超过 100 个预制技能可直接安装使用。如需开发自定义技能，可参考 OpenClaw Skills 官方文档。

总结

OpenClaw 作为一个功能完备的开源 AI Agent 框架，结合 Bitdeer AI Cloud 的云端基础设施和模型推理服务，能够为用户提供一个稳定、安全、持续在线的 AI 助理解决方案。

开始使用

• 注册 Bitdeer AI Cloud 账号
• 查看完整部署教程
• 访问 OpenClaw GitHub 仓库
• Bitdeer AI 文档中心

注：以上提及的模型及 GPU 价格仅供参考，具体请以平台实时价格为准。