返回资料库
策略

开放权重模型越过了智能体边界:DeepSeek V4、GLM 5.2 与模型可切换架构

最后更新:2026年7月11日

改变构建等式的那条成本线

2026 年 5 月 23 日,路透社 报道 DeepSeek 将 V4 Pro 上临时性的 75% 降价永久化。新的定价是每百万输入 token $0.435,每百万输出 token $0.87。更轻量的 V4 Flash 变体是 $0.14 和 $0.28。与 GPT-5.4 的 $2.50 和 $15,或 Claude Opus 4.7 的 $5 和 $25 相比,这个差距不是渐进式的。对于一个输出密集的多轮编码智能体,每会话消费 120,000 输入 token 和 80,000 输出 token,成本大约落在 Flash $0.04、V4 Pro $0.49、GPT-5.4 $1.50、Claude Opus 4.7 $2.60。在 token 量级会复利的这类工作负载——智能体工具循环——上,开放权重路线拥有 37 到 65 倍的成本优势。

这不是一个会过期的促销折扣。它是一个永久性定价档位,而且它伴随一个能力里程碑到来:开放权重模型现在在对智能体工作重要的基准测试上已达到或接近前沿。DeepSeek V4 Flash 在 SWE-bench 上得分 79.0%。GLM 5.2 在 AA Intelligence Index 上以 51 分和 1524 Elo 的 GDPval-AA 得分占据开放权重榜首。MiniMax M3 提供原生多模态和 1M-token 上下文。定义 2024 年和 2025 年初的封闭模型与开放模型之间三到六个月的滞后已压缩到几周,而在成本上已经反转。

对于一个正在构建生产级智能体的工程负责人或运营副总裁,含义是直接的:模型层不再是约束。约束是集成层——MCP 模块、治理控制、数据管道、审计追踪。而决定你能否拿下成本优势的架构决策是:你的智能体平台把模型选择当作一次代码部署,还是一次数据操作。

"越过边界"在实践中意味着什么

边界不是单个基准测试。它是生产级智能体所需要的一组能力组合:长上下文推理、工具调用、结构化输出、代码生成,以及跨越长周期的指令遵循。两年前,开放权重模型在其中一两项上有竞争力,在其余方面落后。当前这一代在整个集合上都具备竞争力。

DeepSeek V4 Pro 是一个 1.6-trillion 参数的 mixture-of-experts 模型,49 billion 活跃参数,MIT 许可证,100 万 token 上下文,384K 最大输出。它支持思考模式和工具调用,并同时暴露 OpenAI ChatCompletions API 和 Anthropic API——意味着针对任一接口构建的智能体可以切换到它而无需重写客户端。V4 Flash 是蒸馏变体:更便宜、更快,在 SWE-bench 上仍有 79%。OpenRouter 分析 在整个开放权重版图上确认了这一模式:曾经是结构性差距的,现在是情境性的,意味着它取决于具体工作负载,而不是模型类别。

GLM 5.2,来自 Z.AI,为长周期任务而构建,在 AA Intelligence Index 上领跑开放权重阵营。它支持通过 OpenAI 兼容客户端中的 extra_body 透传配置的推理模式,并通过 AWS Bedrock Mantle 以及 Z.AI 直连端点提供。MiniMax M3 增加了原生多模态和 1M 上下文。中国在 Hugging Face 下载量 上以 41% 的相对多数超越美国——开放权重生态已不再是一场追赶练习。它是一条平行的供应链,有自己的定价、自己的硬件路径、自己的部署经济学。

诚实的提醒:开放权重并不意味着统一更便宜。DeepSeek 在北京时间营业时段(9:00 至 12:00 和 14:00 至 18:00)采用高峰时段定价,为基线费率的两倍。对于一个在这些时段持续运行智能体循环的部署,成本优势会收窄。对于一个能在高峰窗口调度批处理或路由到兜底模型的部署,优势保持。关键在于,开放权重定价现在是一个你去管理的变量,而不是一个你去承受的惩罚。

部署经济学:为什么常驻智能体现在变得可负担

开放权重降价之下的成本塌陷是结构性的。推理算力在四代之内下降了约 1,000 倍,由硬件改进(每代 2 到 3 倍)、软件优化(2 到 3 倍)、mixture-of-experts 架构(3 到 5 倍)和量化(2 到 4 倍)共同驱动。一个 GPT-4 等价模型的成本从每百万 token $20 降到 $0.40。推理现在占所有 AI 算力的 67%,高于 2023 年的 33%,并在 2026 年初以 $37.5 billion 占 AI 云支出的 55%。

对于一个执行 RFQ 处理、目录搜索、报价生成和订单交接的 B2B 智能体,推理成本在历史上是让财务团队皱眉的那一行。一个在每次报价工作流中发起 200 次工具调用、每次都承载上下文的智能体,在封闭前沿定价下是昂贵的。在 V4 Flash 以每百万输入 token $0.14 的价格上,同样的工作流成本是几分钱,而不是几美元。DeepSeek V4 API 评测DeepInfra 定价分析 都印证了这一轨迹:常驻生产智能体的经济学已经从"证明这笔花销合理"跨越到"相比集成工作,这笔花销可以忽略不计"。

这正是开放权重模型的文章与推理经济学文章交汇之处,也是为什么这两个主题最好被理解为一个决策。成本塌陷不是构建智能体的理由。成本塌陷是不再以成本为由推迟构建、并开始问那个更难的问题的理由:你的架构能否在没有代码部署的情况下在模型之间路由?

模型可切换架构:模型选择作为数据操作

开放权重前沿迫使出的那个架构问题是:你的智能体平台能否在不需要重新部署的情况下切换模型。大多数不能。大多数智能体框架把模型名称硬编码在配置文件或环境变量中,从 GPT-5.4 切换到 DeepSeek V4 Pro 意味着改配置、重建容器、滚动部署。在一个智能体执行报价工作流的生产级 B2B 场景中,那是一个以天为单位的变更管理流程。

模型可切换的替代方案是把模型当作一个已注册、可替换的资源——跟你对待 MCP 模块一样的方式。在 SilvaEngine 的 ai_agent_core_engine 中,模型注册在一张 DynamoDB 表(aace-llms)里,llm_provider 作为哈希键,llm_name 作为范围键。每条记录携带一个 module_name、一个 class_name 和一个 configuration_schema——定义模型 handler 接受哪些参数的 JSON schema。智能体按 provider 和 name 引用 LLM,而不是一个硬编码字符串。更换模型是一次数据操作:更新智能体的 LLM 引用,下一次运行就会加载新的 handler 及其配置 schema。没有代码部署,没有容器重建,没有回滚窗口。

openai_completions_agent_handler 配置 schema 是这并非理论的具体证据。schema 的 model 字段接受诸如 gpt-4.1gpt-4ogpt-5Qwen/Qwen3-4B 的值。base_url 字段支持 OpenAI 兼容服务器的自定义端点——http://127.0.0.1:30000/v1 对应一个 SGLang 托管的开放权重模型。openai_api_key 字段对不需要鉴权的自托管 vLLM 或 SGLang 服务器接受 EMPTYreasoning_effort 枚举通过 Bedrock Mantle 路由到 zai.glm-5extra_body 透传处理 Z.AI GLM 的思考配置。enable_thinkingseparate_reasoning 标志覆盖 SGLang 和 Qwen3。enable_think_tag_split 标志处理一个 vLLM parser 的 bug,针对 GLM-5、DeepSeek 和 Qwen3 这些会发出原始 think 标签而不是填充推理通道的模型。

这才是模型可切换在生产中的含义:同一个 handler、同一个智能体运行时、同一条审计追踪、同一个 MCP 模块接口——底下模型通过一次配置变更完成替换。智能体的行为、它的工具调用、它的治理控制、以及它按 partition-key 的租户隔离都不变。只有推理端点变化。这正是一个能拿下 37 倍成本优势的架构与一个不能的架构之间的区别。

路由的机会:何时用哪个模型

模型灵活性不是在开放权重与封闭前沿之间的二元选择。生产模式是路由:对每个任务使用达到质量门槛的最便宜模型,只有当任务需要时才升级到昂贵模型。

一个 B2B 报价智能体有一个天然的路由面。目录搜索和库存查询是低复杂度检索任务,V4 Flash 以每百万 token $0.14 足够有余。带阶梯定价、FX 和取消政策推理的报价生成是中复杂度任务,V4 Pro 以 $0.435/$0.87 是最佳点。复杂的多方谈判或边缘案例政策解读——在封闭前沿模型上驱动 80% 成本的那 5% 的查询——可以升级到 GPT-5.4 或 Claude Opus 4.7。路由决策是按每次工具调用做出,而不是按智能体,并且它和所有其他工具执行一样记录在同一条审计追踪里。

Lucidworks 2026 企业 AI 采用报告 发现只有 2% 的公司部署了不止一个智能体,大多数组织尽管在谈论模型多样性却固守单一模型——大约 50% 纯商业模型,30% 混用,20% 全开放源码。单一模型默认就是昂贵的默认。会脱颖而出的公司是那些做路由的公司,而路由要求一个把模型当作已注册资源、而非硬编码依赖的架构。

采购标准

如果你的智能体厂商或平台回答不了这三个问题,开放权重的成本优势对你不可用:

  1. 我能在没有代码部署的情况下切换模型吗? 如果回答涉及编辑配置文件、重建容器或开一个 pull request,模型就是硬编码的。切换模型的成本是一项工程成本,会超过 token 节省。

  2. 你的智能体运行时是否支持用于自托管开放权重模型的 OpenAI 兼容端点? 如果回答是"我们只支持我们托管的模型端点",你就被锁死在那家厂商的定价里。OpenAI 兼容 API 接口是让 V4 Pro、GLM 5.2 以及任何 SGLang 或 vLLM 托管模型成为直接替代品的标准。

  3. 你能按工具调用路由,而不是按智能体路由吗? 如果回答是"智能体对所有事情用一个模型",你就是在为 Flash 层模型以十分之一成本就能处理的检索任务付前沿价格。路由是部署经济学复利之处。

模型可切换架构用一个具体机制回答每个问题:LlmModel 注册表、带 base_urlmodel 参数的 OpenAI 兼容 handler,以及把每次决策记录到审计追踪里的按调用路由面。这是读懂成本数学与能据此行动之间的差别。


一家运行 NetSuite、BigCommerce 和三个供应商目录的分销商部署一个按任务复杂度路由的报价智能体:目录搜索跑在 DeepSeek V4 Flash 上以每百万输入 token $0.14 计价,带阶梯定价和 FX 的报价生成跑在 V4 Pro 上以 $0.435/$0.87 计价,边缘案例政策解读只在置信阈值未达标时升级到 GPT-5.4。智能体的 MCP 模块、治理控制和审计追踪不变——只有推理端点按每次工具调用切换。月度推理成本从四位数区间降到低三位数,路由决策在与所有其他工具执行相同的 DynamoDB 审计追踪里可查询。这个构建是四步法的第 2-4 阶段,通常 5-8 周内上线。

申请一次范围明确的构建。 一周发现期。你拿到一份系统清单、工作流地图和固定范围——无论你是否与我们共建。

想为您的系统构建这个吗?

这里的每份文档都来自真实的生产工作。如果您有目标系统和工作流想法,我们可以在一周内确定范围。

申请定制开发

为期一周的发现阶段。您会拿到系统清单、工作流地图和固定范围——无论您最终是否与我们合作开发。