Evelyn Xiong

三年，KV 缓存的优化史 2023 年 11 月 DeepSeek 发布第一代模型时，它的 KV 缓存是每 token 389,120 字节。这在当时并不特别。但到 2025 年 12 月的 DeepSeek-V3.2，这个数字变成 48,068，缩小了八倍。实验版 V3.2-Exp 专门引入 DeepSeek Sparse Attention（DSA），就是为了让长上下文的训练与推理都更便宜。再到 V4 Preview，DeepSeek 给它起的标题很讲究：《进入低成本百万级上下文时代》。重点不在"百万级上下文" ，而是在"低成本&

是否前沿人工智能领域的大多数进步都源于更大型的基础模型? Z.ai 刚刚证明了这并非唯一途径：GLM-5.3 使用与其前身 GLM-5.2 完全相同的基础模型，却依然实现了 GLM 系列历史上最大的编码和安全性能飞跃，且完全是通过经过扩展的后期训练实现的。对于运行长周期编码智能体或漏洞发现管道的工程和安全团队来说，这意味着无需等待新的基础模型周期，就能获得一个能力显著增强的模型。 今天，“为编码而生，为网络防御打造”的 GLM-5.3 在 Bitdeer AI Model Studio 上线。它将最强大的开源权重编码和智能体模型之一引入我们的无服务器推理平台，专为安全、可扩展的企业级 AI 构建。您无需配置或管理底层的 GPU 基础设施，通过单一 API 即可立即开始调用。 什么是 GLM-5.3？ GLM-5.3 是 Z.ai 在 GLM-5

当“全天候运行”智能体运行卡顿或产生高额账单时，用户的直觉往往是去寻求一个规模更大、更智能的模型，但大多数智能体的工作并非前沿推理任务。“全天候运行”智能体通过收集上下文、观察环境、基于已知信息推理并执行动作来完成复杂的多步骤任务，而这一过程的每一步都需要调用语言模型。这些步骤往往具有高频、重复且特定于领域的特征：这正是较小、专业且可控的模型，相较于前沿模型更快速、更具成本效益的优势领域。 这也正是“模型系统（Systems of Models）”背后的核心逻辑：与其把每一个步骤都交给同一个大模型处理，智能体应该为每一步任务匹配最合适的模型，在需要协调调度和高难度推理的环节使用前沿模型的能力，而在高频、重复的环节则交给专精模型完成。 今天，NVIDIA Nemotron 3.5 Lightning，这一同级别中面向“全天候运行”速度最快的开源模型，正式首发上线 Bitdeer AI Model Studio。用户可在 Model Studio 这一专为安全、可扩展企业级 AI 打造的无服务器推理平台部署使用，无需自行管理复杂底层基础设施。

当 AI 智能体给出错误答案时，人们很容易将责任归咎于模型的推理能力。但在生产环境的智能体系统中，故障往往发生在更早的一步，即检索环节。如果检索层遗漏了正确的段落、代码文件、策略或特定客户的记录，下游智能体就会从错误的上下文开始运行，再强大的推理能力也无法挽救糟糕的起点。 智能体会非常频繁地进行检索，它们将任务分解为多个查询，不断重写查询直到提取出正确的数据，搜索记忆，并在单次任务中对代码进行数十次检查。每次表现不佳的检索，都会徒增交互轮数、Token 消耗、系统延迟以及产生幻觉的风险。随着企业从简单的语义搜索向检索驱动的 AI 系统演进，检索质量已成为控制系统准确率、成本与信任度的核心环节。 今天，NVIDIA Nemotron 3 Embed 8B 和 NVIDIA Nemotron 3 Embed 1B 正式在 Bitdeer AI Model Studio 平台上线，为 RAG（检索增强生成）、企业搜索、代码检索和智能体工作流带来了可用于生产环境的开源嵌入模型。

作者：Eric Si, Evelyn Xiong 鲜少被一起讨论的两种 AI 范式 今天，有一类AI能够在你不知不觉间为你做出了若干决策：你的信息流推送顺序、判断一笔交易能否成功结算。这些决策的背后，没有任何对话框。它们直接以嵌入式决策系统的形式运作，整合进既有基础设施，实时执行。 另一类AI则截然不同，也更为人所知：一个等待提问的文本框，一个需要主动交互的工具。这两类AI都真实存在，也都创造价值，但二者在复杂度、风险程度、以及组织自身的建设准备度上，存在本质差异。 公众讨论大多聚焦于后者，而真正持久的企业价值，多数正诞生于前者。 当下值得了解的五项技术 AI领域的扩张速度，已经超出大多数组织的追踪能力。新的模型架构、部署模式与工具类别层出不穷，重塑商业运营的技术全貌远非一篇文章所能覆盖。以下当前企业级AI部署中最基础的五项能力，可以把它们理解为一系列递进的构件：每一项都在前一项的基础上拓展能力边界。 生成式AI（Generative AI）。 这是多数企业部署的起点。它按需生成文本、代码、摘要与结构化内容。在实践中，它几乎总是意味着一份草稿，需要经过人工审核才能进入