返回資料庫
策略

推論經濟學:為何常駐生產代理現在已可負擔

最後更新:2026年7月30日

undefined

一個 24/7 監控採購收件匣並起草報價回覆的後台代理,過去是一項成本高昂得令人望而卻步的實驗。在 2026 年 1 月,僅推論費用每週就要超過 2,000 美元。到 7 月底,成本不到 50 美元。模型不再是生產代理中昂貴的部分——這一變化的發生速度超出了任何預測,在單一模型代際內以即時降價完成。但成本崩塌並未解除構建的阻塞:每 1 美元的模型支出仍需要 10 美元的流程、治理和整合工作。本文梳理了 1,000× 推論成本崩塌對每個 B2B 團隊面臨的架構決策意味著什麼:是否構建常駐生產代理,以及既然模型不再是昂貴的部分,現在真正阻塞構建的是什麼。

更新 — 2026-08-18:Anthropic 650億運行率及2萬億美元IPO目標、OpenRouter 50% GPT-5.6 Sol降價、Stripe 70億美元收購OpenRouter——企業規模盈利能力證明點和模型路由作為採購類別

三個發展重新定義了推理經濟學論點:Anthropic 650億運行率及2萬億美元IPO目標、OpenRouter 50% GPT-5.6 Sol降至$2.50/$15、Stripe 70億美元收購OpenRouter。

  1. Anthropic 650億運行率及2萬億美元IPO目標。 年化收入率超過650億美元(2026年7月底),從2025年底的90億美元增長——7個月增長7倍。IPO目標估值2萬億美元。計算成本曲線(每收入美元71→56美分)產生了650億運行率和2萬億美元IPO目標的前沿實驗室。與OpenAI對比(250億美元年化及140億美元虧損)證明AI經濟不是確定性的。

  2. OpenRouter 50% GPT-5.6 Sol降至$2.50/$15。 SWE-bench #1模型的前沿價格現在在Gemini 3.7 Flash的2倍以內。第五個優化向量:通過網關路由。

  3. Stripe 70億美元收購OpenRouter。 支付基礎設施想要擁有AI模型選擇層。模型路由正在整合進支付基礎設施——成為採購類別。

更新 — 2026-08-15:DeepSeek Harness Code 模式和 HubSpot Q2 2026 已發布每信用費率

  1. DeepSeek Harness Code 模式 — 五次往返壓縮為一次呼叫。 2. HubSpot Q2 2026 已發布每信用費率。 1 信用 = $0.01。Customer Agent 50 信用/已解決對話 ($0.50)。Prospecting Agent 100 信用/線索 ($1.00)。Data Agent 10 信用/提示 ($0.10)。Content Agent 1,000 信用/內容 ($10)。

關鍵要點

  • OpenAI於2026年7月30日將Luna下調80%至每百萬token $0.20/$1.20——有記錄以來最大的單日前沿價格降幅。Amazon Bedrock 當天同步了降價,Sol 的 Fast 模式以2×價格提供2.5×速度。1000×的成本崩塌不再是多年跨度的敘事;它正在單一代際中以即時降價發生。
  • 29%的生產token量在不到4%的支出上運行於開放權重模型(Vercel AI Gateway Production Index,2026年7月)——路由紀律已在生產資料中可見。每個任務選擇最便宜的可用模型是一個設定決策,而非研究專案。
  • 推論佔AI算力的67%,高於2023年的33%,佔AI雲支出的55%($37.5B)——成本中心從訓練轉移到服務,這正是價格削減不斷累積的地方。一年前成本高昂的常駐代理現在在經濟上已可行。
  • 每1美元模型支出需要10美元的流程、治理和整合工作(xccelera.ai,2026)——模型是生產代理系統成本的10%。90%是整合層:MCP模組、知識圖譜、稽核軌跡、human-in-the-loop檢查點、錯誤恢復。更便宜的模型無法解決這一點。
  • Fiddler AI報告生產中70–95%的代理失敗率——更便宜的推論不會降低失敗率;它只會讓失敗更便宜地產生。治理和可觀測性投資才是區分一個能交付的代理與一個靜默失敗的代理的關鍵。

成本崩塌是即時的,非回顧性的

推論經濟學的標準敘事追溯了一條多年跨度:2023年初每百萬token $20降至今天不到 $1,降幅20–50×。這個敘事現在已具誤導性。下降正在加速,而非減速。在2026年7月下旬的一週內,三個價格變動同時衝擊前沿:

  1. OpenAI Luna -80%(7月30日):每百萬token $0.20/$1.20。Luna 是 Ramp、Cognition(Devin Fusion)和 Dust 預設的後台代理模型。一個24/7監控採購佇列的後台代理現在每天推論成本僅幾美分。
  2. Claude Opus 5 定價 $5/$25(7月24日):Fable 5 的 $10/$50 的一半。前沿層在沒有能力倒退的情況下變便宜了——Opus 5 以 97.00% 領先 SWE-bench Verified。
  3. Gemini 3.6 Flash 定價 $1.50/$7.50(7月21日):在agentic工作上輸出token比3.5 Flash少17%,在長時序任務上少達65%。Intelligence Index 50相同——更便宜更快,而非更聰明。

各供應商的模式一致:每次發布都在相同或更高智慧水平上最佳化價格效能。前沿同時在高端(Opus 5)和低端(Luna)變便宜。一個在2026年1月為代理推論預算 $50,000/月的團隊在2026年8月可以用不到 $5,000 執行相同的工作負載——無需改變模型架構、提示或任務定義。

變化所在:推論從訓練轉向服務

2023年,AI算力67%為訓練、33%為推論。2026年,該比例反轉:推論現在佔AI算力的67%和AI雲支出的55%。Gartner 7月27日的預測修訂將2026年全球IT支出定為 $6.37T(+14.2%),資料中心系統成長62.5%至 $822B,IaaS成長29.3%至 $287B。Gartner 的 John-David Lovelock 稱AI算力建設是「人類有史以來嘗試的最大基礎設施專案」。

支出從訓練轉向服務對代理架構具有結構性意義。訓練成本是沉沒的——一個前沿模型的訓練成本達數億美元,無論你是否使用它。服務成本是可變的——隨每次代理呼叫、每次工具呼叫、每次檢索步驟而擴展。當服務主導成本結構且服務價格在單日下降80%時,常駐代理的經濟學就反轉了。一個每週監控200個RFQ、查詢三個供應商目錄並起草報價回覆的代理,在 $20/M token 時在經濟上處於邊緣。在 $0.20/M token 時,推論成本相對於它所替代的人力時間是捨入誤差。

10:1比率:為何更便宜的模型不能解鎖建構

推論成本崩塌解決了生產代理部署中最簡單的問題。更難的問題是整合層。

xccelera.ai 2026年的企業資料量化了該比率:每在AI技術上投資 $1,企業在流程重設計、治理框架、員工重組和營運整合上花費高達 $10。模型是生產代理系統成本的10%。其餘90%是:

  • MCP模組將代理連接到 NetSuite、HubSpot、BigCommerce、ShipStation 和供應商目錄——每個都有各自的認證、速率限制以及API表面與代理實際需要知道的資訊之間的語義差距。
  • 知識圖譜為代理提供產品相容性、替代零件和供應商歷史——原始LLM不具備的結構化上下文。
  • Human-in-the-loop檢查點用於敏感操作:報價審批、採購訂單簽發、供應商溝通。kill-switch模式對B2B工作流不是可選的。
  • 稽核軌跡與可觀測性:每次工具呼叫、每次模型呼叫、每個決策都被記錄且可追溯。OWASP MCP08(缺乏稽核與遙測)成為MCP top-10風險是有原因的。
  • 錯誤恢復:長時間執行任務的重試邏輯、回退鏈、超時策略。Fiddler AI 70–95%的生產失敗率由複合錯誤、工具故障和幻覺驅動——而非模型成本。

更便宜的推論讓每次失敗更便宜地產生,而非更不可能。治理和整合投資才是區分一個能交付的代理與一個靜默失敗的代理的關鍵。一個將Luna降價視為跳過整合工作許可的團隊將獲得更便宜的失敗,而非更少的失敗。

本文包含一分鐘解說圖,展示生產代理系統的成本實際分佈在哪裡:

生產代理成本實際分佈在哪裡 模型是建構的10%。整合是90%。 10% 模型推論 每M token $0.20/$1.20 另外的90% — 整合與治理 MCP模組 NetSuite, HubSpot, BigCommerce, ShipStation 知識圖譜 產品相容性、替代件、歷史 Human-in-the-loop 報價審批、PO簽發、kill-switch 稽核與可觀測性 OWASP MCP08、工具呼叫追蹤 -80% Luna降價,2026年7月30日 10:1 整合 vs 模型支出(xccelera) 70-95% 生產代理失敗率(Fiddler) $6.37T 2026全球IT支出(Gartner) ! 結論 更便宜的推論讓常駐代理可行——但可行不等於可靠。 90%的成本與風險是整合、治理和錯誤恢復。 先建構model-flexible層。將模型選擇視為資料操作,而非程式碼部署。 推論佔AI算力67%、雲支出55% — ideabosque.com/library 模型 MCP 知識圖譜 治理 可觀測性

model-flexible建構:按任務路由,無需程式碼部署即可切換

推論成本崩塌改變了模型選擇問題。當推論昂貴時,問題是「我們能負擔哪個單一模型?」當推論便宜時,問題變為「每個任務用哪個模型,以及如何在不重寫代理的情況下切換?」

答案是model-flexible建構:一種將模型選擇作為設定記錄而非程式碼部署的架構。該模式有三個組件:

  1. 按任務選擇模型的路由層。 後台監控使用 $0.20/$1.20 的 Luna。報價起草使用 $5/$25 的 Opus 5。產品查詢使用 $1.50/$7.50 的 Gemini 3.6 Flash。路由決策基於任務複雜度、延遲要求和每次呼叫成本——而非團隊先承諾了哪個供應商。Vercel的生產資料證實這已經在發生:29%的token量在不到4%的支出上運行於開放權重模型。

  2. model-agnostic的MCP模組。 代理呼叫的工具——查詢NetSuite庫存、取得供應商目錄、起草報價回覆、查詢知識圖譜獲取相容性——在MCP層定義一次。模型變化;工具不變。這就是為何MCP Module Code Standard將模組結構視為穩定介面,將模型選擇視為執行時關注點。

  3. 不依賴模型可信度的治理層。 Human-in-the-loop檢查點、稽核軌跡和kill-switch架構是model-independent的。比例治理模式——將自治級別與風險匹配——無論代理執行在Luna還是Opus 5上,工作方式相同。Fiddler 70–95%的失敗率不是模型問題;是系統問題。解決方案是可觀測性和治理,而非更貴的模型。

融資資料對市場的確認

2026年上半年全球新創融資達 $510B,僅OpenAI和Anthropic就佔 $217B——所有新創融資的43%。Anthropic以 $965B估值募資 $65B。約80%的Q2投資流向AI聚焦的新創公司。資本正流向模型層。

CRV 2026年的市場分析證實應用層正在被「淘汰」——沒有整合深度的薄AI包裝正在失去融資。對B2B團隊的啟示是直接的:模型供應商獲得融資是為了讓推論更便宜,而存活的應用層公司是解決整合問題的,而非包裝模型API的。IdeaBosque的定位——平台加解決方案,程式碼擁有可選——正位於模型層不解決的90%成本結構中。

更新 — 2026-08-03:Claude Managed Agents 定價——推理經濟學的新成本軸

Anthropic 於 2026 年 8 月 3 日發布了 Claude Managed Agents——首個來自前沿實驗室的託管代理平台定價模型。該定價為推理經濟學增加了一個新維度:託管代理的成本不僅是 token,還包括它運行的時間。

  1. 每會話小時 $0.08,加上 token。 會話執行時維度($0.08/小時)是一個新的成本軸。一個 24/7 運行的託管代理在任何 token 成本之前每週累積約 $19.20 的會話費用;一個每天運行 8 小時的代理每週累積約 $6.40。對路由的含義:長運行代理現在按持續時間定價,而不僅僅是 token 吞吐量,對於低容量但始終在線的工作負載(收件匣監控、佇列觀察),會話小時成本可能主導 token 成本。

  2. Anthropic 自己的估算:以每會話約 3,700 token 計算,10,000 個支援工單 $37。 這是託管代理平台首個具體的 B2B 成本基準。以 $37/10,000 工單計算,每工單代理成本為 $0.0037——遠低於人工支援代理的每工單成本。該基準是任何建模始終在線支援代理成本的團隊的參考點:託管平台打包了模型、執行時和編排,並按會話小時加 token 為該打包定價。

  3. Token 定價(每 MTok 輸入/輸出): Claude Opus 5 為 $5/$25,Claude Sonnet 5 為 $2/$10(2026 年 8 月 31 日前為介紹性定價),Claude Haiku 4.5 為 $1/$5。託管代理會話費用是 token 成本之外的附加費用。對於約 3,700 token/會話的支援工作負載,Sonnet 5(介紹性)的 token 成本約為每工單 $0.037 輸入 + 每工單 $0.037 輸出(假設大致對半分配),而在 8 小時視窗內分攤到 10,000 工單的會話小時成本約為每工單 $0.0064。託管平台的價值主張是編排、狀態管理和工具呼叫基礎設施被打包了——$0.08/小時是你不必自己構建該層的價格。

  4. 路由決策的變化。 模型靈活構建論獲得了一個新選項:租用託管平台(會話小時 + token,無整合工作)vs. 在路由層自託管模型(僅 token,完全整合工作)。$10 整合對 $1 模型支出的比率是決策邊界。整合成本超過託管平台會話小時費用的團隊應評估託管路線;整合已構建的團隊應將 token 路由到最便宜的可勝任模型並不支付會話費用。託管平台是構建 vs 購買決策中「購買」一方的具體化,帶有價格標籤。

論點得到強化:推理經濟學現在三個成本軸——token、會話小時和整合。1000× token 成本崩塌使始終在線代理變得可負擔;託管代理會話小時定價使構建 vs 購買決策可量化。約束瓶頸仍是整合層,而託管平台是其一個答案——以 $0.08/小時,平台收取的正是 $10:$1 比率所說的昂貴部分的編排工作。


更新 — 2026-10-02:決策模型把廉價分類層產品化——Cloudflare Clef 與 AWS Strands Decider 2B

本文算術所指的那條成本削減向量——把高流量、低歧義的分類從 LLM 呼叫中卸載出去——在一天之內兩度產品化:Cloudflare 的 Clef 與 Clef-flash(開源、Apache-2.0)以及 AWS Strands Labs 的 Decider 2B,連同 TypeSafe 的 Jev,一併成為可商購的決策層(TREND-02 §3.1)。對本文定價的常駐迴路而言,目前騎在計價 LLM 層之上的路由與護欄呼叫,可以移到一個以極小部分延遲與成本返回結構化選擇的決策模型上——這改變了成本堆疊的架構:前沿 LLM 支出集中到判斷性呼叫,而分類周邊(路由、安全閾值、軌跡評估)轉移到能夠維持校準的最廉價層。隨著三家供應商在十一天內相繼出貨,決策層不再是罕見的奇物,而成為一個採購品項——而本文買方合約中的各項每任務上限,如今有了一個專為命中它們而設計的模型類別。

更新 — 2026-10-02:供應商融資的算力——Broadcom 向 Anthropic 出借高達 420 億美元

本文追蹤的價格算術如今多了一個融資維度:Broadcom 同意向 Anthropic 出借高達 420 億美元($42 billion),用於租賃 Broadcom 的晶片——迄今為止所揭露的最大一筆 AI 硬體放貸安排(Reuters,2026 年 10 月 1 日)。對成本堆疊而言,這創造了一個按 token 與按任務欄位都未能捕捉的向量:在供應商的資產負債表上取得、以未來營收償還的算力。對買方的策略解讀方向不變,但機制更為尖銳——Anthropic 的前沿容量如今騎在承諾性的供應商融資之上,這把本文記錄的供應商連續性風險(DeepSeek 自動路由事件、Relay 關閉)集中成一種特定形態:一家其算力供應是自身帳面負債的實驗室,其定價行為所受的償債約束,不亞於利潤率給它的約束。當下一次每任務成本比較出爐時,各家實驗室容量背後的融資結構,就是算術的一部分。


更新 — 2026-10-04:本地決策模型——API 往返離開最便宜的層

本文維護的推論成本模型在最便宜的層獲得資料點:llama.cpp 現在服務決策模型類別(Julia-1、Laya、Kev-4B、lev 與 OpenJev 為 GGUF,經 /v1/systemone 風格端點),把 API 往返從一個為避免 API 支出而存在的層中移除。決策模型層原本已是堆疊中邊際成本最低的層;本地執行把其成本推向近零邊際,把剩餘支出移到 RAM/CPU 供應。規模化常駐智能體的路由數學因此改變:本地決策模型使單次動作的把關在「每呼叫 API 定價曾是設計約束」的量級上變得可負擔。

更新 — 2026-10-07:GLM-5.3-Flash——以旗艦費率卡十分之一獲得近前沿能力

帳本上最強的成本坍縮條目於 2026 年 10 月 7 日到來:Z.ai 的 GLM-5.3-Flash,320B 總參數/18B 啟用的原生多模態 MoE,輸入 0.15 美元/M、輸出 0.50 美元/M——僅為 GLM-5.3 的 1.40/4.40 的十分之一(Z.AI 部落格)。每美元運算正是本文定價的論題:Intelligence Index v4.1.1 57 分,每任務 0.045 美元(折扣價)——Z.ai 指出這一能力水平此前僅在約 10 倍成本下可得——Terminal Bench 2.1 得 84.3(與 Claude Opus 4.8 相差不到 1 分),AutomationBench 得 48.8,超越 Claude Opus 4.8(41.0)與 GPT-5.6 Terra(37.2)。在大規模服務中執行於中國 AI 晶片,配 SGLang 專用推論引擎,宣稱 3 倍提升——帳本的硬體效率一欄獲得非 NVIDIA 數據點。需求側已現形:MarketScale 報告企業 AI 預算隨 token 價格飆升在 1–2 個月內枯竭,AI Business Weekly 統計 2026 年 AI 基礎設施支出成長 62.5% 至 8,220 億美元而僅 6% 採用者捕獲可量化利潤——這些預算耗竭數據把每任務運算變成採購約束而非最佳化。買方的合約紀律不變:鎖定模型 ID(GLM-5.3-Flash 與 GLM-5.3 是不同的費率卡——確認你的閘道路由到哪一個)、按每任務成本簽約並設每週上限、在下一次替換前重跑運算。權重已按同一營收分級授權家族上 Hugging Face,所以對高於量閾值的營運者,自行託管路線直接把這條線從費率卡裡整個抹掉。GLM-5.3-Flash 姊妹篇載有完整的定價與治理拆解。

圍繞費率卡的市場結構在平行加速:2026 年 Q4 以 2.6 億美元已揭露的 AI 代理融資開盤——Armadin 的 2.555 億美元 B 輪(AI 原生資安,a16z + Accel,估值 25 億美元以上)與 Instinct 的 10 億美元 C 輪、估值 100 億美元的個人 AI 助理——推論需求被資本化的節奏與價格坍縮的節奏同步。

相關閱讀


更新 — 2026-08-05:NVIDIA Groq 3 LPU——推理成本崩潰的硬體維度

推理成本崩潰現在在硬體堆疊中發生,不僅僅在模型定價堆疊中。NVIDIA的Groq 3 LPU(在GTC 2026上宣布,與Vera Rubin NVL72系統配對)聲稱每兆瓦推理吞吐量比基於HBM的GPU高35倍——對於同等大小的模型約每瓦150個token。

The BenchLM leaderboard refreshed August 5, 2026, adding three decision-ready data points to the cost-frontier section of this article:

  1. Grok 4.5 — 91% of frontier quality at 88% lower output cost. Grok 4.5 earns "best near-frontier value" on the BenchLM August refresh: 91% of the top score at 88% lower output cost. The 91%/88% ratio is the price-to-performance data point that reshapes deployment decisions — a model that delivers near-frontier quality at near-open-weight cost. For the model-flexible build, this is the routing sweet spot: tasks that need frontier-class quality but not frontier-class cost route to Grok 4.5 instead of Opus 5. The gap between Grok 4.5 (91% at 88% lower cost) and the open-weight frontier (DeepSeek V4-Flash 0731 at Intelligence Index 50, ~60% cheaper than Luna) is the decision space the routing layer operates in.

  2. Nemotron 3 Nano Omni — fastest at 323 tok/s, 30B total / 3B active MoE. Nemotron 3 Nano Omni is the fastest model on the BenchLM leaderboard at 323 tokens per second. The architecture is a sparse Mixture-of-Experts (30B total parameters, 3B active) — the same architecture pattern (sparse MoE) that DeepSeek V4-Flash 0731 uses (284B total / 13B active). The 323 tok/s figure is the architecture-level cost collapse this article's NVIDIA Groq 3 update describes, but at the model layer: sparse MoE delivers frontier-adjacent quality at a fraction of the active-parameter cost. The inference-cost-collapse-from-architecture thesis this article makes is now validated at two layers — the hardware layer (Groq 3 at 35× per megawatt) and the model architecture layer (sparse MoE at 3B active parameters delivering 323 tok/s).

  3. LFM2.5-2.6B — agents on-device. LFM2.5-2.6B runs agents entirely on-device — the edge deployment dimension of the inference cost collapse. A 2.6B-parameter model that can run an agent loop on a laptop or a phone is the extreme of the cost frontier: zero per-token cost, zero latency, zero data egress. For the routing decision, LFM2.5-2.6B is the option for workflows where data residency (the inference never leaves the device) or latency (sub-millisecond local inference) is the binding constraint, not throughput. The model-flexible build now has a device-tier routing option alongside the cloud tiers.

The BenchLM BenchAlign leaderboard shows the open-weight/frontier gap at ~17% (MiniMax M3 at 68.8 vs Claude Mythos 5 at 83.04) — wider than the ~11-point gap on the Intelligence Index. The gap is narrowing at the capability frontier (Grok 4.5 at 91%) while the cost frontier drops across every tier simultaneously. The cost-frontier section now has eight data points: Luna at $0.20/$1.20, DeepSeek V4-Flash 0731 at $0.14/$0.28, Claude Managed Agents at $0.08/session-hour, Qwen3.8-Max at $2/$6, Grok 4.5 at 91%/88%-lower-cost, Nemotron 3 Nano Omni at 323 tok/s, LFM2.5-2.6B on-device, and the NVIDIA Groq 3 LPU at 35× per megawatt. The pattern is consistent across all eight: every release optimizes price-performance at the same or higher intelligence level, and the cost collapse is happening at the model layer, the hardware layer, and the platform layer simultaneously.


更新 — 2026-08-04:Qwen3.8-Max定價——開放權重成本前沿進一步下降

Qwen3.8-Max API定價確認為每百萬輸入token $2、每百萬輸出token $6,隱式快取$0.25/M(QwenCloud、OpenRouter、glbgpt.com、windowsforum.com,2026年8月4日)。這大幅低於Kimi K3($3/$15)——輸入便宜33%,輸出便宜60%——為成本前沿部分增加了新資料點。

  1. 2.4T參數(95B活躍MoE)模型每百萬token $2/$6。 Qwen3.8-Max是任何主要實驗室首次以Max規模發布的開放權重模型,其定價使其成為API市場上最便宜的Max規模模型。成本前沿現在有四個不同價位的開放權重選項:DeepSeek V4-Flash 0731 $0.14/$0.28(Intelligence Index 50,最便宜的可用模型),Qwen3.8-Max $2/$6(Max規模,長時自主工作),GLM-5.2 $0.60/$2.20(防禦用途),Kimi K3 $3/$15(原始能力,93.40% SWE-bench)。路由決策現在是跨四個價格層級,不是開放權重與封閉前沿之間。

  2. 開放權重成本優勢相對封閉前沿疊加。 Claude Opus 5 $5/$25在輸入上比Qwen3.8-Max貴2.5×,輸出上貴4.2×——而該模型以97.00%領先SWE-bench Verified,Kimi K3為93.40%(Qwen3.8-Max尚未被Artificial Analysis評估)。成本差距縮小速度快於基準差距:開放權重前沿在SWE-bench上僅差3.6分,而價格便宜60-75%。對於模型靈活構建,路由層現在可以選擇Qwen3.8-Max進行長時自主工作(10+天自主編碼,125小時研究復現),成本僅為前沿的一小部分。

  3. 路由決策的變化。 本文成本前沿部分現在有五個資料點:Luna $0.20/$1.20(7月30日降80%),DeepSeek V4-Flash 0731 $0.14/$0.28(Intelligence Index 50,7月31日),Claude Managed Agents $0.08/session-hour(8月3日),Qwen3.8-Max $2/$6(8月4日)。模式一致:每次發布在相同或更高智慧水平上最佳化價格效能。前沿在頂部(Opus 5)和底部(DeepSeek V4-Flash)同時變便宜,開放權重選項正在新增一週前不存在的價格層級(Max規模的Qwen3.8-Max)。一個在2026年1月預算$50,000/月用於代理推理的團隊現在可以跨五個模型在五個價格點路由——每個任務最便宜的可用模型是配置決策,不是研究專案。

更新 — 2026-10-26:自動路由勘誤,以及 DeepSeek 的 150 億美元資產負債表資訊

對上文 9 月 10 日更新的一段時效性勘誤:公告的自動路由從未生效。DeepSeek 的變更日誌(9 月 10 日一節,2026 年 10 月 26 日重讀)記錄:"In response to user demand, we have decided to continue providing API services for DeepSeek V4 Pro after September 14, 2026, with the billing method remaining unchanged"(應用戶要求,我們決定在 2026 年 9 月 14 日之後繼續提供 DeepSeek V4 Pro 的 API 服務,計費方式保持不變)(變更日誌),而仍然在線的公告頁保留原始路由指令,頁面本身沒有任何撤回(api-docs.deepseek.com)——供應商的兩個頁面在字面上就互相矛盾。對成本治理論點而言,這處勘誤是升級而非退讓:供應商可以宣布一次替換、單方面撤回、並讓兩份記錄同時存續;回應中實際服務的模型仍是事實基準,路由層(模型置換一文)仍是控制手段。其次,融資資訊已去風險並落到具名信源:DeepSeek 在第二輪私募募得約 150 億美元——約合 1,000 億元人民幣,騰訊與寧德時代是最大的投資方之一——投前估值約 740 億美元(報導所稱投後約 890 億美元);創辦人梁文鋒在 9 月告訴投資者,公司收入按年化口徑約 10 億美元,並謀求上海科創板 IPO,同時與華為合作把訓練遷移到中國晶片(qz.com;TechStartups——WSJ/彭博報導的轉述)。最便宜的 always-on agent 算力可信供應商現在有了策略投資人深度、IPO 跑道與晶片多元化路徑——這條通道上的供應商連續性風險下修,而 9 月的模型身份事件仍是常置警示。

更新 — 2026-09-30:Gemini 4 Argon 補齊三家實驗室的每任務成本數據組

本文整個 9 月在匯集的數據組迎來了第三家實驗室:Google 於 2026 年 9 月 30 日發布 Gemini 4 Argon——七個多月以來 Google 首個非 Flash 的前沿模型——在 AA Intelligence Index 得到 53 分,追平 GPT-6 Astra。按促銷價計算(標準價 $4/$20 目前五折至 $2/$10),AA 測得 Argon 每項 Index 任務 $1.99——是 Astra $3.26 的 60%,但為 GPT-6.1 Sol($0.74,本身以約五分之一成本追平 Astra)的 2.7 倍。Sonnet 5.5 則從 token 效率方向補全這組數據:Index 得分 56、費率卡仍是 $2/$10,但最大強度下每項 Index 任務約 193,000 輸出 token,帳單落到 $7.60——比 Sonnet 5 高約 50%。推理買方的三家實驗室讀數:同屬 50 分段的智慧,如今按發布策略不同每任務計費 $0.74、$1.99 或 $7.60——價格主導、能力帶折扣、能力帶 token 帳單,涇渭分明。Argon 快取輸入 95% 折扣($0.10/1M)是 cache-led 路線的伴隨數據點,而其業界領先的 1M 輸出 token 上限把 always-on 經濟學推向另一個方向:連續推理迴路不再被 64K 上限切碎,長時程代理的輸出側帳單從此可以集中而非分散。

一條與 Sonnet 5.5 教訓平行的告誡:促銷價不是費率卡。Argon 的 $2/$10 是 Google 未承諾維持的折扣;促銷結束後的成本測得每任務 $3.98(約為 Astra 的 1.2 倍)。按促銷後的數字簽約,或把促銷到期日寫上採購日曆——折扣結構本身就是第四家實驗室的路由決定,與 DeepSeek V4.1-Flash 事件記錄的自動路由鄰接替換風險同出一源。

更新 — 2026-10-01:常駐論點拿到前沿展品——Argon 代理自主釋放了 300 TiB

Argon 發布公告的 10 月 1 日 MENA 轉貼版(blog.google)補上了本文常駐論點一直缺少的內部用例細節:Argon 代理分析了全機隊畫像遙測,自主識別並在 Google 數據中心範圍內落實記憶體優化,釋放了超過 300 TiB 的記憶體,總節省估計在 500 TiB 至 1 PiB。Argon 還在時空資源(qubits × gates)上「在幾分鐘之內」把一個已發表的量子演算法優化基準提高了 40%。這正是「常駐代理在基礎設施規模上能自我回本」這一主張的具體展品:代理的任務不是回答使用者,而是持續讀取遙測並落實優化——正是本文定價的那條常駐迴路的運維畫像。該部落格還聲明,藉由自動化紅隊測試與對抗訓練,Argon 在 Gray Swan 的 Indirect Prompt Injection(IPI)基準上居於領先——這是 MCP 安全清單家族的模型級提示注入數據點。

更新 — 2026-09-29:每週價格戰紀錄——三種發布策略,一張每任務成本表

本文追蹤的價格節奏現在是每週一次,9 月的發布解析為推論買方必須並排定價的三種發布策略(pricepertoken 的 9 月紀錄 統計本月 671 個追蹤模型共 181 次價格變動):價格主導——OpenAI 的 GPT-6 Sol 定價 $2/$10,其 Luna 層級 $0.10/$0.50,一週後的 GPT-6.1 Sol 以相同 $2/$10 提供接近 Astra 的智慧(OpenAI)——以大宗商品價格購得前沿能力。快取主導——Anthropic 的 Opus 5.5 定價 $4/$20、快取讀取 −60%——為寫入密集的代理迴圈重新定價主導性成本線。能力主導——Claude Sonnet 5.5 於 9 月 28 日發布,價目卡維持 $2/$10 不變,但 Artificial Analysis 測得最大努力檔下每個 Intelligence Index 任務約 193,000 個輸出 token——AA 有紀錄以來最高的 token 帳單,約為 GPT-6 Astra 每任務的 7 倍——展示了效率陷阱:「每任務最多便宜 30%」對上的是實測每任務成本 $7.60、高於 Sonnet 5 約 50%(AA;完整算術在 Sonnet 5.5 分析)。為本月收尾的兩件路由完整性展品:OpenAI 的 Smart Route(9 月 25 日)在計價層級之間自動選擇——正是本文稽核日誌指引所覆蓋的供應商側路由器,如今是預設而非事故;以及 MiMo-V2.6-Pro(總參數 1.02T/活躍 42B,MIT 授權)以 46 分成為 AA Intelligence Index 史上評分最高的開放權重模型,為 29% 的 token 流量所依賴的開放權重地板重新定價。本次更新中的所有跨模型比較都受一項注意事項支配:AA 的 Intelligence Index 分數在跨發布時會重新定基,所以引用自不同重定基準的分數不可比——絕不要混用跨重定基準的指數。自 9 月 11 日解讀以來,買方的合約沒有變;變的是忽視它的代價:鎖定模型 ID、以每任務成本加上每週上限簽約,並在下一次模型更換前重新運行算術——以目前的節奏,那次更換只有幾天之遙。

更新 — 2026-10-06:推論經濟學台帳新增三條主權開放權重價格線——ML4、Beam、Kolibri-1

Mistral Large 4(ML4,2026 年 10 月 6 日公開預覽)。 1T 參數 / 49B 激活的原生多模態 MoE,出自 Mistral,在 Mistral 位於歐洲的自有資料中心以 3,800 塊 NVIDIA Grace Blackwell GPU 訓練(€3B D 輪——歐洲科技公司史上最大股權融資)。定價 $1.36/M 輸入、$4.18/M 輸出——台帳必須與九月策略並列定價的歐洲主權開放權重新線。但本文最仔細定價的展品是極值算力下的每美元能力:ML4 在 reproduce-and-patch 上拿到 82%(已測模型中的最高資安得分;Claude Opus 5.5 與 GPT-6 Astra 因拒絕執行該任務而接近零分)——主權買方對這一安全工作負載每美元資料點的定價,與消費級 API 買方不同。權重月底發布;自託管路線將徹底取代費率卡。

Reflection AI Beam。 501B / 23B 激活的稀疏 MoE,在 10.5K 塊 NVIDIA GB300 GPU 上經 1 億次以上 RL rollout 訓練——在編碼與代理任務上與 GLM-5.2 相當、逼近 Qwen 3.8-Max,而推理算力少 3–4 倍(SWE-Bench Verified 80.9%、Terminal-Bench v2.1 80.1%、MCP Atlas 78.7%)。這是台帳的能力-每任務列一直缺乏的西方廠商算力效率資料點:一個 501B 模型的行為如同遠小得多的激活足跡,Nvidia 支持(累計募資 $4.7B,投前估值 $25B),Apache 2.0 權重本月,附帶"AI 工廠"主權部署主張(與韓國 Shinsegae 合作)。

Kolibri-1(Aleph Alpha,10 月 3 日)。 總參數 78.1B / 激活 3.46B 的 MoE,384 個路由專家(每 token 激活 6 個),德英雙語,262K 上下文可擴展至 1M,Apache 2.0,在德國和芬蘭建構訓練——德國的主權開放權重線,與法國的那條並列。

對台帳結構而言:九月的發布策略三型(價格領先、快取領先、能力領先)仍是框架,但第四個採購維度如今獨立定價——主權:權重位於何處、誰能拒絕你的工作負載、自託管對比費率卡的成本。一位買家若將 ML4 的 $1.36/$4.18 對照 Sonnet 級的每任務算術、將 Beam 的 3–4 倍效率對照 GLM-5.2 級,他正是在執行本文要求的紀律:在下一次模型替換之前重算——而替換如今每週從三個區域抵達。

更新 — 2026-10-15:Muse Spark Open + Apple MLX——桌面叢集拓撲那一行

本文的成本最佳化向量中加入了一個桌面叢集拓撲資料點。Meta 的 Muse Spark Open(2026 年 10 月 15 日)發布了約 530 GB 的 NVFP4 checkpoint,蘋果的 MLX 研究文章演示了該 checkpoint 在 Mac Studio 叢集上的 RDMA 分散式推論——約 3.8 萬美元的蘋果晶片(四台 256 GB M5 Ultra Mac Studio,據 Engadget)在自己持有的硬體上買到部分前沿能力,這與 RTX Spark 24 GB 本地行在低端開啟的是同一條座標軸。請把它讀作拓撲行,而不是成本勝利:3.8 萬美元資本買到的是不按 token 開票的能力廣度,API 計費買到的是完整前沿——常駐代理的構型決策如今在這兩極之間有了桌面叢集的已驗證樣本。聚合站浮出的 API 報價把 Muse Spark Open 放在每百萬 tokens 約 1.25 美元——尚未對 Meta 一手來源核驗,引用前請先標註。

更新 — 2026-10-17:DeepSeek-V4.1-Flash-1017——91.5% 的快取命中率才是實際生效的價目表

DeepSeek 的 10 月 17 日快照在費率卡不動的前提下,把 deepseek-flash 別名背後的模型升級為 V4.1-Flash-1017——並移動了實際價格:官方端點報告 91.5% 的快取命中率,使實際支付的輸入價格落到每百萬 token 約 0.017 美元,對照的是非高峰 $0.15 的未命中價——這是本文表格中最便宜的追蹤執行成本,而且靠的不是任何降價(Hugging Face 模型卡)。快取命中輸入為 $0.003/$0.006(非高峰/高峰)——一次命中的成本是未命中的 2%——所以加權輸入價格如今是工作負載上下文複用率的函數,不是價目表的函數。本文傳授的採購紀律新增一條:快取占比是 prompt 設計的一種可以買到的屬性(穩定前綴、穩定 schema、檢索到的上下文先於易變內容)。同一發布以 0.75 美元/1,000 次呼叫的價格開放了 DeepSeek 的 Search & Fetch API。完整的快照分析攜帶卡片行、快取算術與團隊可控的四個槓桿。

Update — 2026-10-19: MiniMax M3.1 Flash —— 公開的快取費率行

業者公開發布的 $0.015/1M 快取輸入行來了。MiniMax(HKEX:0100.HK)於 2026 年 10 月 19 日以統一價 $0.15 輸入 / $0.60 輸出 / $0.015 快取輸入(每 1M token)發布 M3.1 Flash——沒有尖峰/離峰時段——使快取行成為報價單可以直接引用的採購條目(MiniMax;Reuters)。它與上面的 91.5% 命中有效行並列:DeepSeek 公布快取命中輸入 $0.003–$0.006,對標 $0.15–$0.30 的未命中價格(約為離峰未命中價的 2%,受時段窗口約束),而 MiniMax 直接公開統一的牌價 10% 費率。兩種制度遵循同一算術:有效輸入=命中率×快取費率+未命中率×牌價——按示例命中率 91.5% 計算,DeepSeek 的表格約為 $0.017/1M,MiniMax 的表格約為 $0.0265/1M(DeepSeek 定價;完整對比見快取成本分析與M3.1 Flash 一文)。發稿時權重尚未發布(社群帖標註 10 月 23 日;428B MoE 數字為彙整站報導、未經證實)——請引用價目表,暫緩參數行。


一家執行NetSuite和BigCommerce的中端分銷商每週處理200個RFQ。按Luna定價,一個監控收件匣、透過MCP模組查詢三個供應商目錄、檢查知識圖譜尋找替代零件並起草報價回覆的代理,每週推論成本不到 $50。同樣的工作負載按2026年1月定價將花費超過 $2,000。分銷商的問題不再是代理是否可負擔——而是整合層是否已建構。MCP模組、知識圖譜、報價簽發的人工審批檢查點以及每次工具呼叫的稽核軌跡是建構的90%。這就是範圍明確的合作所交付的:將廉價模型轉化為生產代理的整合與治理層。

想為您的系統建構這個嗎?

這裡的每份文件都來自真實的生產工作。如果您有目標系統和工作流程想法,我們可以在一週內確定範圍。

申請客製開發

為期一週的發掘階段。您會拿到系統清單、工作流程地圖和固定範圍——無論您最終是否與我們合作開發。