開放權重模型跨越了代理邊界:DeepSeek V4、GLM 5.2 與模型可切換架構
改變建構等式的那條成本線
2026 年 5 月 23 日,路透社 報導 DeepSeek 將 V4 Pro 上臨時性的 75% 降價永久化。新的定價是每百萬輸入 token $0.435,每百萬輸出 token $0.87。更輕量的 V4 Flash 變體是 $0.14 和 $0.28。與 GPT-5.4 的 $2.50 和 $15,或 Claude Opus 4.7 的 $5 和 $25 相比,這個差距不是漸進式的。對於一個輸出密集的多輪編碼代理,每工作階段消耗 120,000 輸入 token 和 80,000 輸出 token,成本大約落在 Flash $0.04、V4 Pro $0.49、GPT-5.4 $1.50、Claude Opus 4.7 $2.60。在 token 量級會複利的這類工作負載——代理工具迴圈——上,開放權重路線擁有 37 到 65 倍的成本優勢。
這不是一個會過期的促銷折扣。它是一個永久性定價層級,而且它伴隨一個能力里程碑到來:開放權重模型現在在對代理工作重要的基準測試上已達到或接近前沿。DeepSeek V4 Flash 在 SWE-bench 上得分 79.0%。GLM 5.2 在 AA Intelligence Index 上以 51 分和 1524 Elo 的 GDPval-AA 得分佔據開放權重榜首。MiniMax M3 提供原生多模態和 1M-token 上下文。定義 2024 年和 2025 年初的封閉模型與開放模型之間三到六個月的落差已壓縮到數週,而在成本上已經反轉。
對於一個正在建構生產級代理的工程負責人或營運副總裁,含義是直接的:模型層不再是限制。限制是整合層——MCP 模組、治理控制、資料管線、稽核軌跡。而決定你能否拿下成本優勢的架構決策是:你的代理平台把模型選擇當作一次程式碼部署,還是一次資料操作。
「跨越邊界」在實務上意味著什麼
邊界不是單一基準測試。它是生產級代理所需要的一組能力組合:長上下文推理、工具呼叫、結構化輸出、程式碼生成,以及跨越長週期的指令遵循。兩年前,開放權重模型在其中一兩項上有競爭力,在其餘方面落後。當前這一代在整個集合上都具備競爭力。
DeepSeek V4 Pro 是一個 1.6-trillion 參數的 mixture-of-experts 模型,49 billion 活躍參數,MIT 授權,100 萬 token 上下文,384K 最大輸出。它支援思考模式和工具呼叫,並同時暴露 OpenAI ChatCompletions API 和 Anthropic API——意味著針對任一介面建構的代理可以切換到它而無需重寫客戶端。V4 Flash 是蒸餾變體:更便宜、更快,在 SWE-bench 上仍有 79%。OpenRouter 分析 在整個開放權重版圖上確認了這個模式:曾經是結構性差距的,現在是情境性的,意味著它取決於具體工作負載,而不是模型類別。
GLM 5.2,來自 Z.AI,為長週期任務而建構,在 AA Intelligence Index 上領跑開放權重陣營。它支援透過 OpenAI 相容客戶端中的 extra_body 透傳設定的推理模式,並透過 AWS Bedrock Mantle 以及 Z.AI 直連端點提供。MiniMax M3 增加了原生多模態和 1M 上下文。中國在 Hugging Face 下載量 上以 41% 的相對多數超越美國——開放權重生態已不再是一場追趕練習。它是一條平行的供應鏈,有自己的定價、自己的硬體路徑、自己的部署經濟學。
誠實的提醒:開放權重並不意味著一致更便宜。DeepSeek 在北京時間營業時段(9:00 至 12:00 和 14:00 至 18:00)採用尖峰時段定價,為基線費率的兩倍。對於一個在這些時段持續執行代理迴圈的部署,成本優勢會收窄。對於一個能在尖峰窗口排程批次處理或路由到備援模型的部署,優勢保持。關鍵在於,開放權重定價現在是一個你去管理的變數,而不是一個你去承受的懲罰。
部署經濟學:為什麼常駐代理現在變得可負擔
開放權重降價之下的成本塌陷是結構性的。推理算力在四代之內下降了約 1,000 倍,由硬體改進(每代 2 到 3 倍)、軟體最佳化(2 到 3 倍)、mixture-of-experts 架構(3 到 5 倍)和量化(2 到 4 倍)共同驅動。一個 GPT-4 等價模型的成本從每百萬 token $20 降到 $0.40。推理現在占所有 AI 算力的 67%,高於 2023 年的 33%,並在 2026 年初以 $37.5 billion 占 AI 雲支出的 55%。
對於一個執行 RFQ 處理、目錄搜尋、報價生成和訂單交接的 B2B 代理,推理成本在歷史上是讓財務團隊皺眉的那一行。一個在每次報價工作流程中發起 200 次工具呼叫、每次都承載上下文的代理,在封閉前沿定價下是昂貴的。在 V4 Flash 以每百萬輸入 token $0.14 的價格上,同樣的工作流程成本是幾分錢,而不是幾塊錢。DeepSeek V4 API 評測 和 DeepInfra 定價分析 都印證了這一軌跡:常駐生產代理的經濟學已經從「證明這筆花費合理」跨越到「相比整合工作,這筆花費可以忽略不計」。
這正是開放權重模型的文章與推理經濟學文章交會之處,也是為什麼這兩個主題最好被理解為一個決策。成本塌陷不是建構代理的理由。成本塌陷是不再以成本為由推遲建構、並開始問那個更難的問題的理由:你的架構能否在沒有程式碼部署的情況下在模型之間路由?
模型可切換架構:模型選擇作為資料操作
開放權重前沿迫使出的那個架構問題是:你的代理平台能否在不需要重新部署的情況下切換模型。大多數不能。大多數代理框架把模型名稱硬編碼在設定檔或環境變數中,從 GPT-5.4 切換到 DeepSeek V4 Pro 意味著改設定、重建容器、滾動部署。在一個代理執行報價工作流程的生產級 B2B 場景中,那是一個以天為單位的變更管理流程。
模型可切換的替代方案是把模型當作一個已註冊、可替換的資源——跟你對待 MCP 模組一樣的方式。在 SilvaEngine 的 ai_agent_core_engine 中,模型註冊在一張 DynamoDB 表(aace-llms)裡,llm_provider 作為雜湊鍵,llm_name 作為範圍鍵。每條記錄攜帶一個 module_name、一個 class_name 和一個 configuration_schema——定義模型 handler 接受哪些參數的 JSON schema。代理按 provider 和 name 引用 LLM,而不是一個硬編碼字串。更換模型是一次資料操作:更新代理的 LLM 引用,下一次執行就會載入新的 handler 及其設定 schema。沒有程式碼部署,沒有容器重建,沒有回滾窗口。
openai_completions_agent_handler 設定 schema 是這並非理論的具體證據。schema 的 model 欄位接受諸如 gpt-4.1、gpt-4o、gpt-5 和 Qwen/Qwen3-4B 的值。base_url 欄位支援 OpenAI 相容伺服器的自訂端點——http://127.0.0.1:30000/v1 對應一個 SGLang 託管的開放權重模型。openai_api_key 欄位對不需要鑑權的自託管 vLLM 或 SGLang 伺服器接受 EMPTY。reasoning_effort 列舉透過 Bedrock Mantle 路由到 zai.glm-5。extra_body 透傳處理 Z.AI GLM 的思考設定。enable_thinking 和 separate_reasoning 旗標覆蓋 SGLang 和 Qwen3。enable_think_tag_split 旗標處理一個 vLLM parser 的 bug,針對 GLM-5、DeepSeek 和 Qwen3 這些會發出原始 think 標籤而不是填充推理通道的模型。
這才是模型可切換在生產中的含義:同一個 handler、同一個代理執行時、同一條稽核軌跡、同一個 MCP 模組介面——底下模型透過一次設定變更完成替換。代理的行為、它的工具呼叫、它的治理控制、以及它按 partition-key 的租戶隔離都不變。只有推理端點變化。這正是一個能拿下 37 倍成本優勢的架構與一個不能的架構之間的區別。
路由的機會:何時用哪個模型
模型靈活性不是在開放權重與封閉前沿之間的二元選擇。生產模式是路由:對每個任務使用達到品質門檻的最便宜模型,只有當任務需要時才升級到昂貴模型。
一個 B2B 報價代理有一個天然的路由面。目錄搜尋和庫存查詢是低複雜度檢索任務,V4 Flash 以每百萬 token $0.14 足夠有餘。帶階梯定價、FX 和取消政策推理的報價生成是中複雜度任務,V4 Pro 以 $0.435/$0.87 是最佳點。複雜的多方談判或邊緣案例政策解讀——在封閉前沿模型上驅動 80% 成本的那 5% 的查詢——可以升級到 GPT-5.4 或 Claude Opus 4.7。路由決策是按每次工具呼叫做出,而不是按代理,並且它和所有其他工具執行一樣記錄在同一條稽核軌跡裡。
Lucidworks 2026 企業 AI 採用報告 發現只有 2% 的公司部署了不止一個代理,大多數組織儘管在談論模型多樣性卻固守單一模型——大約 50% 純商業模型,30% 混用,20% 全開放原始碼。單一模型預設就是昂貴的預設。會脫穎而出的公司是那些做路由的公司,而路由要求一個把模型當作已註冊資源、而非硬編碼依賴的架構。
採購標準
如果你的代理廠商或平台回答不了這三個問題,開放權重的成本優勢對你不可用:
我能在沒有程式碼部署的情況下切換模型嗎? 如果回答涉及編輯設定檔、重建容器或開一個 pull request,模型就是硬編碼的。切換模型的成本是一項工程成本,會超過 token 節省。
你的代理執行時是否支援用於自託管開放權重模型的 OpenAI 相容端點? 如果回答是「我們只支援我們託管的模型端點」,你就被鎖死在那家廠商的定價裡。OpenAI 相容 API 介面是讓 V4 Pro、GLM 5.2 以及任何 SGLang 或 vLLM 託管模型成為直接替代品的標準。
你能按工具呼叫路由,而不是按代理路由嗎? 如果回答是「代理對所有事情用一個模型」,你就是在為 Flash 層模型以十分之一成本就能處理的檢索任務付前沿價格。路由是部署經濟學複利之處。
模型可切換架構用一個具體機制回答每個問題:LlmModel 註冊表、帶 base_url 和 model 參數的 OpenAI 相容 handler,以及把每次決策記錄到稽核軌跡裡的按呼叫路由面。這是讀懂成本數學與能據此行動之間的差別。
一家執行 NetSuite、BigCommerce 和三個供應商目錄的經銷商部署一個按任務複雜度路由的報價代理:目錄搜尋跑在 DeepSeek V4 Flash 上以每百萬輸入 token $0.14 計價,帶階梯定價和 FX 的報價生成跑在 V4 Pro 上以 $0.435/$0.87 計計價,邊緣案例政策解讀只在置信門檻未達標時升級到 GPT-5.4。代理的 MCP 模組、治理控制和稽核軌跡不變——只有推理端點按每次工具呼叫切換。月度推理成本從四位數區間降到低三位數,路由決策在與所有其他工具執行相同的 DynamoDB 稽核軌跡裡可查詢。這個建構是四步法的第 2-4 階段,通常 5-8 週內上線。
申請一次範圍明確的建構。 一週探索期。你拿到一份系統清單、工作流程地圖和固定範圍——無論你是否與我們共建。
想為您的系統建構這個嗎?
這裡的每份文件都來自真實的生產工作。如果您有目標系統和工作流程想法,我們可以在一週內確定範圍。
申請客製開發為期一週的發掘階段。您會拿到系統清單、工作流程地圖和固定範圍——無論您最終是否與我們合作開發。