ライブラリに戻る
戦略

推論経済学：常時稼働プロダクションエージェントが今や手頃になった理由

著者：最終更新：2026年7月30日

更新 — 2026-08-18：Anthropic 650億ドルランレートと2兆ドルIPO目標、OpenRouter 50% GPT-5.6 Sol、StripeがOpenRouterを70億ドル以上で買収—企業規模の収益性証明点とモデルルーティングを調達カテゴリとして

3つの開発が推論経済の論拠を再定義します：Anthropic 650億ドルランレートと2兆ドルIPO目標、OpenRouter 50% GPT-5.6 Sol $2.50/$15、Stripeが70億ドル以上でOpenRouterを買収。

  1. Anthropic 650億ドルランレートと2兆ドルIPO目標。 年次収益率が2026年7月末時点で650億ドルを超え、2025年末の90億ドルから7ヶ月で7倍増。IPO目標評価額2兆ドル。計算コスト曲線（収益ドルあたり71→56セント）が650億ドルランレートと2兆ドルIPO目標のフロンティアラボを生み出しています。

  2. OpenRouter 50% GPT-5.6 Sol $2.50/$15。 SWE-bench #1モデルのフロンティア価格がGemini 3.7 Flashの2倍以内に。第5の最適化ベクトル：ゲートウェイ経由ルーティング。

  3. Stripeが70億ドル以上でOpenRouterを買収。 決済インフラがAIモデル選択層を所有したいと考えています。モデルルーティングが決済インフラに統合されています。

更新 — 2026-08-17：Anthropic 初の営業利益、OpenAI の $14B 赤字、GPT-5.6 Ultrafast、DeepSeek 価格反転 — 効率カーブと正直さの指標

4つの展開が推論経済論文を再定義する：フロンティアラボ初の黒字化証拠、AI経済の決定的対比、フロンティアモデル初のウェハスケール推論加速、低コストプロバイダ初の値上げ。

  1. Anthropic が初の営業利益を達成 — Q2 2026 売上 $10.9 billion で約 $559 million、Q1 の $4.8 billion の2倍以上。 主な推進力は計算コストの低下：Q1 の売上ドルあたり71セント → Q2 の56セント — 四半期で15ポイント改善。売上ドルあたりのサービングコストを71セントから56セントに下げたことが黒字化への転換点。

  2. OpenAI の IPO 登録が表面化 — 月間約 $2 billion の売上（年化約 $25B）、同時に2026年の予想損失 $14 billion、$1T+ の評価額を目指す。 OpenAI-Anthropic の対比が決定的なAI経済論拠：$25B 売上で $14B 赤字（OpenAI）vs. $10.9B 売上で $559M 黒字（Anthropic）。AI経済は決定論的ではない — 計算コストカーブ（売上ドルあたり71→56セント）が差異化要因であり、売上規模ではない。

  3. GPT-5.6 Sol Ultrafast — Cerebras ハードウェアで最大14×の速度。 OpenAI が Ultrafast モードをプレビュー — GPT-5.6 Sol が Standard 処理の最大14×の速度で、Cerebras ウェハスケールハードウェアで実行。フロンティアモデルにおけるウェハスケール推論加速の初の具体的なプロダクションデータポイント。コストフロンティアには4つの最適化ベクトルがある：モデルルーティング（Nemotron Switchyard）、インフラ最適化（Dynamo 0.4 disaggregated serving）、ハードウェア専門化（Cerebras 14×）、価格フロア競争（Luna $0.20、DeepSeek 反転）。

  4. DeepSeek V4 Flash 値上げ — 8月14日に $0.14 → $0.27/百万トークン、ほぼ倍増。 低コストオープンモデルプロバイダ初の値上げ。正直さの指標：推論経済ストーリーは単調に下降しない。DeepSeek が V4 Flash の価格を $0.14 から $0.27/M に引き上げた。価格反転はコスト崩壊論文を否定しない — コストフロンティアは競争によって決まり、単一プロバイダの価格戦略ではないことを確認する。

論文は4軸で強化された：効率カーブがフロンティアラボの損益に到達（Anthropic 71→56セント）、AI経済対比が非決定性を証明（OpenAI $14B 赤字 vs Anthropic $559M 黒字）、ハードウェア専門化ベクトルが具体的数据ポイントを獲得（Cerebras 14×）、コストフロンティアが初の値上げを記録（DeepSeek $0.14→$0.27）。制約は依然として統合層 — モデル支出 $1 あたり $10 のプロセス・ガバナンス作業。

更新 — 2026-08-16：Databricks $190B 評価額 — データインフラ基盤論文の検証

Databricks が約 $190B 評価額で戦略的資金調達ラウンドを完了（2026年8月）、年化収入 run rate $7B — 2月の $5.4B から、前年比成長が65%から80%超に加速。推論経済論文にとって、Databricks の評価額はデータインフラ基盤論文の最強の商業的検証：データプラットフォーム層の収入がモデル層より速く増加している。モデルはコストの10%、統合は90%。

procurement の受信箱を 24/7 監視し見積回答をドラフトするバックグラウンドエージェントは、かつてコストが高すぎる実験だった。2026年1月には推論だけでも週$2,000+かかった。7月末には$50未満になった。モデルはもはやプロダクションエージェントの高価な部分ではない——そしてその変化はどの予測よりも速く、単一のモデル世代内でリアルタイムの価格引き下げとして起きた。しかしコスト崩壊は構築のブロックを解除しなかった：モデル支出$1あたり$10のプロセス・ガバナンス・統合作業が依然必要。本稿は1,000×の推論コスト崩壊が、すべてのB2Bチームが直面するアーキテクチャ意思決定において何を意味するかを整理する：always-onプロダクションエージェントを構築するか否か、そしてモデルがもはや高価な部分でなくなった今、実際に構築をブロックしているものは何か。

主要ポイント

  • OpenAIは2026年7月30日にLunaを80%引き下げ、100万トークンあたり $0.20/$1.20 とした——記録上最大の単日前線価格引き下げ。Amazon Bedrock は同日に値下げを反映し、Sol の Fast モードは2倍の価格で2.5倍の速度を提供する。1,000×のコスト崩壊はもはや多年にわたるアークではない；単一のモデル世代内でリアルタイムの価格引き下げとして起きている。
  • プロダクショントークン量の29%が4%未満の支出でオープンウェイトモデル上で稼働している（Vercel AI Gateway Production Index、2026年7月）——ルーティング規律は既にプロダクションデータに現れている。タスクごとに最も安価な能力あるモデルは研究プロジェクトではなく設定の決断である。
  • 推論はAI計算の67%を占め、2023年の33%から上昇し、AIクラウド支出の55%（$37.5B）である——コストセンターはトレーニングからサービングへ移動し、まさに価格引き下げが蓄積する場所である。1年前には法外に高価だった常時稼働エージェントが今や経済的に実現可能になった。
  • モデル支出 $1 あたり $10 のプロセス、ガバナンス、統合作業（xccelera.ai、2026）——モデルはプロダクションエージェントシステムのコストの10%である。残り90%は統合レイヤー：MCPモジュール、ナレッジグラフ、監査証跡、human-in-the-loopチェックポイント、エラー復旧。より安いモデルはこれを解決しない。
  • Fiddler AI はプロダクションで70–95%のエージェント失敗率を報告している——より安い推論は失敗率を下げない；失敗をより安く生産するだけである。ガバナンスと可観測性への投資こそが出荷するエージェントとサイレントに失敗するエージェントを分けるものである。

コスト崩壊はリアルタイムであり、回顧的ではない

推論経済学の標準的な語りは多年にわたるアークをたどる：2023年初頭の100万トークンあたり $20 から今日の $1 未満へ、20–50×の低下。その語りは今や誤解を招く。低下は減速ではなく加速している。2026年7月下旬の単一週で、3つの価格変動が同時に前線に hit した：

  1. OpenAI Luna -80%（7月30日）：100万トークンあたり $0.20/$1.20。Luna は Ramp、Cognition（Devin Fusion）、Dust におけるデフォルトのバックグラウンドエージェントモデルである。調達キューを24/7監視するバックグラウンドエージェントは現在1日数セントの推論コストである。
  2. Claude Opus 5 は $5/$25（7月24日）：Fable 5 の $10/$50 の半分。能力の後退なしに前線層は安くなった——Opus 5 は SWE-bench Verified で 97.00% でリードする。
  3. Gemini 3.6 Flash は $1.50/$7.50（7月21日）：agenticワークで3.5 Flash より17%少ない出力トークン、長時間視野タスクで最大65%少ない。Intelligence Index 50 は同じ——より安く速く、より賢くはない。

プロバイダー間のパターンは一貫している：各リリースは同じかそれ以上のインテリジェンスレベルで価格性能を最適化する。前線はティーのトップ（Opus 5）とボトム（Luna）の両方で同時に安くなっている。2026年1月にエージェント推論に $50,000/月 を予算したチームは、2026年8月に $5,000 未満で同じワークロードを実行できる——モデルアーキテクチャ、プロンプト、タスク定義を変えることなく。

何が変わったか：推論はトレーニングからサービングへ

2023年、AI計算は67%がトレーニング、33%が推論だった。2026年、その比率は反転した：推論は現在AI計算の67%とAIクラウド支出の55%を占める。Gartner の7月27日の予測改訂は2026年の世界IT支出を $6.37T（+14.2%）とし、データセンターシステムは62.5%成長して $822B、IaaS は29.3%成長して $287B となる。Gartner の John-David Lovelock はAI計算の構築を「人類がこれまでに試みた最大のインフラプロジェクト」と呼んだ。

支出がトレーニングからサービングへ移動したことはエージェントアーキテクチャにとって構造的に重要である。トレーニングコストはサンクしている——前線モデルは使用するかどうかにかかわらず数億円のトレーニングコストがかかる。サービングコストは変動する——エージェントの呼び出しごと、ツール呼び出しごと、検索ステップごとにスケールする。サービングがコスト構造を支配し、サービング価格が単日に80%下落するとき、常時稼働エージェントの経済学は反転する。200のRFQを週に監視し、3つのサプライヤーカタログを照会し、見積もり回答を起草するエージェントは $20/M トークンでは経済的にマージナルだった。$0.20/M トークンでは、推論コストはそれが置き換えるスタッフ時間に対する丸め誤差である。

10:1比率：なぜより安いモデルが構築をアンロックしないのか

推論コスト崩壊はプロダクションエージェントデプロイの最も簡単な問題を解決する。より難しい問題は統合レイヤーである。

xccelera.ai の2026年の企業データが比率を定量化する：AI技術に $1 投資するごとに、企業はプロセス再設計、ガバナンスフレームワーク、従業員再構築、運用統合に最大 $10 を費やす。モデルはプロダクションエージェントシステムのコストの10%である。残り90%は：

  • MCPモジュールはエージェントを NetSuite、HubSpot、BigCommerce、ShipStation、サプライヤーカタログに接続する——それぞれ独自の認証、レート制限、API表面とエージェントが実際に知る必要があることの間のセマンティックギャップを持つ。
  • ナレッジグラフはエージェントに製品互換性、代替部品、サプライヤー履歴を与える——生のLLMが持たない構造化されたコンテキスト。
  • Human-in-the-loopチェックポイントは機密アクション用：見積もり承認、発注書発行、サプライヤー通信。kill-switchパターンはB2Bワークフローではオプションではない。
  • 監査証跡と可観測性：すべてのツール呼び出し、すべてのモデル呼び出し、すべての決定が記録され追跡可能。OWASP MCP08（監査とテレメトリの欠如）がMCP top-10リスクであるのには理由がある。
  • エラー復旧：長時間実行タスクのリトライロジック、フォールバックチェーン、タイムアウト戦略。Fiddler AI の70–95%のプロダクション失敗率はモデルコストではなく、複合エラー、ツール故障、ハルシネーションによって駆動される。

より安い推論は各失敗をより安く生産するのであり、より起こりにくくするのではない。ガバナンスと統合への投資こそが出荷するエージェントとサイレントに失敗するエージェントを分けるものである。Lunaの値下げを統合作業をスキップする許可として扱うチームは、より少ない失敗ではなくより安い失敗を得る。

本記事には、プロダクションエージェントシステムのコストが実際にどこにあるかを示す1分間の解説図が含まれている：

プロダクションエージェントのコストが実際にある場所 モデルはビルドの10%。統合は90%。 10% モデル推論 Mトークン $0.20/$1.20 残り90% — 統合とガバナンス MCPモジュール NetSuite, HubSpot, BigCommerce, ShipStation ナレッジグラフ 製品互換性、代替品、履歴 Human-in-the-loop 見積もり承認、PO発行、kill-switch 監査と可観測性 OWASP MCP08、ツール呼び出し追跡 -80% Luna値下げ、2026年7月30日 10:1 統合 vs モデル支出（xccelera） 70-95% プロダクション失敗率（Fiddler） $6.37T 2026世界IT支出（Gartner） ! 結論 より安い推論は常時稼働エージェントを可能にする——しかし可能性は信頼性ではない。 コストとリスクの90%は統合、ガバナンス、エラー復旧である。 まずmodel-flexibleレイヤーを構築する。モデル選択をコードデプロイではなくデータ操作として扱う。 推論はAI計算の67%、クラウド支出の55% — ideabosque.com/library モデル MCP ナレッジグラフ ガバナンス 可観測性

model-flexibleビルド：タスクごとにルーティング、コードデプロイなしで切り替え

推論コスト崩壊はモデル選択の問いを変える。推論が高価だったとき、問いは「どの単一モデルを负担できるか？」だった。推論が安くなった今、問いは「タスクごとにどのモデルを、そしてエージェントを書き直さずにどう切り替えるか？」になる。

答えはmodel-flexibleビルドである：モデル選択がコードデプロイではなく設定レコードであるアーキテクチャ。このパターンは3つのコンポーネントを持つ：

  1. タスクごとにモデルを選択するルーティングレイヤー。 バックグラウンド監視は $0.20/$1.20 の Luna を使用する。見積もり起草は $5/$25 の Opus 5 を使用する。製品ルックアップは $1.50/$7.50 の Gemini 3.6 Flash を使用する。ルーティングの決定はタスクの複雑さ、レイテンシ要件、呼び出しごとのコストに基づく——チームが最初にコミットしたプロバイダーに基づくのではない。Vercelのプロダクションデータはこれが既に起きていることを確認する：トークン量の29%が4%未満の支出でオープンウェイトモデル上で稼働している。

  2. model-agnosticなMCPモジュール。 エージェントが呼び出すツール——NetSuiteの在庫を照会、サプライヤーカタログを取得、見積もり回答を起草、互換性のナレッジグラフを照会——はMCPレイヤーで一度定義される。モデルは変わる；ツールは変わらない。MCP Module Code Standardがモジュール構造を安定したインターフェースとして扱い、モデル選択を実行時の関心事として扱う理由である。

  3. モデルの信頼性に依存しないガバナンスレイヤー。 Human-in-the-loopチェックポイント、監査証跡、kill-switchアーキテクチャはmodel-independentである。比例ガバナンスパターン——自律レベルをリスクにマッチさせる——はエージェントが Luna で稼働しようが Opus 5 で稼働しようが同じように機能する。Fiddler の70–95%の失敗率はモデルの問題ではない；システムの問題である。解決策はより高価なモデルではなく、可観測性とガバナンスである。

資金データが市場について確認すること

2026年上半期の世界スタートアップ資金調達は $510B に達し、OpenAI と Anthropic だけで $217B ——すべてのスタートアップ資金調達の43%を占めた。Anthropic は $965B 評価額で $65B を調達した。Q2投資の約80%がAIフォーカスのスタートアップに向かった。資本はモデルレイヤーに流れている。

CRV の2026年市場分析はアプリケーションレイヤーが「淘汰」されていることを確認する——統合の深さのない薄いAIラッパーは資金調達を失っている。B2Bチームへの含意は直接的である：モデルプロバイダーは推論をより安くするために資金を得ており、生き残るアプリケーションレイヤー企業はモデルAPIをラップするのではなく統合の問題を解決する企業である。IdeaBosqueのポジショニング——プラットフォーム＋ソリューション、コード所有はオプション——はモデルレイヤーが対処しないコスト構造の90%に位置する。

更新 — 2026-08-03: Claude Managed Agents 料金 — 推論経済学の新しいコスト軸

Anthropic は 2026 年 8 月 3 日に Claude Managed Agents を発表しました — フロンティアラボ初のマネージドエージェントプラットフォームの料金モデルです。この料金は推論経済学に新しい次元を追加します：マネージドエージェントのコストはトークンだけでなく、実行時間でもあります。

  1. セッション時間あたり $0.08、トークンは別。 セッションランタイム次元（$0.08/時間）は新しいコスト軸です。24/7 実行するマネージドエージェントはトークンコストの前に週約 $19.20 のセッション料金を累積します；1 日 8 時間実行するものは週約 $6.40 を累積します。ルーティングへの意味：長時間実行エージェントはスループットではなく持続時間で課金されるようになり、低ボリュームだが常時稼働のワークロード（受信箱監視、キュー監視）ではセッション時間コストがトークンコストを上回る可能性があります。

  2. Anthropic 自身の見積もり：会話あたり約 3,700 トークンで 10,000 サポートチケットあたり $37。 これはマネージドエージェントプラットフォーム初の具体的な B2B コストベンチマークです。$37/10,000 チケットで、チケットあたりのエージェントコストは $0.0037 — 人間のサポートエージェントのチケットあたりコストをはるかに下回ります。このベンチマークは、常時稼働のサポートエージェントのコストをモデル化するチームの参考点です：マネージドプラットフォームはモデル、ランタイム、オーケストレーションをバンドルし、セッション時間＋トークンでバンドルに料金を課します。

  3. トークン料金（MTok あたり入力/出力）： Claude Opus 5 は $5/$25、Claude Sonnet 5 は $2/$10（2026 年 8 月 31 日までの導入価格）、Claude Haiku 4.5 は $1/$5。マネージドエージェントのセッション料金はトークンコストに加算されます。約 3,700 トークン/会話のサポートワークロードの場合、Sonnet 5（導入価格）のトークンコストは入力約 $0.037/チケット + 出力約 $0.037/チケット（ほぼ半々と仮定）で、8 時間ウィンドウで 10,000 チケットに償却されたセッション時間コストは約 $0.0064/チケットです。マネージドプラットフォームの価値提案は、オーケストレーション、状態管理、ツール呼び出しインフラがバンドルされていることです — $0.08/時間は自分でそのレイヤーを構築しない価格です。

  4. ルーティング決定の変化。 モデルフレキシブルビルドの議論に新しい選択肢が加わりました：マネージドプラットフォームをレンタルする（セッション時間 + トークン、統合作業なし）vs. ルーティングレイヤーでモデルをセルフホストする（トークンのみ、完全統合作業）。$10 の統合対 $1 のモデル支出の比率が決定境界です。統合コストがマネージドプラットフォームのセッション時間料金を超えるチームはマネージドルートを評価すべきです；統合が既に構築されているチームはトークンを最も安い能力のあるモデルにルーティングし、セッション料金を支払わないべきです。マネージドプラットフォームは、ビルド vs バイの決定の「バイ」側を価格タグ付きで具体化したものです。

テーゼは強化されます：推論経済学は今や 3 つのコスト軸を持ちます — トークン、セッション時間、統合。1000× のトークンコスト崩壊が常時稼働エージェントを手頃にしました；マネージドエージェントのセッション時間料金がビルド vs バイの決定を定量化可能にしました。拘束制約は依然として統合レイヤーであり、マネージドプラットフォームはその一つの回答です — $0.08/時間で、プラットフォームは $10:$1 比率が高価な部分だと言うオーケストレーション作業に対して正確に課金します。

更新 — 2026-10-02：ベンダー融資のコンピュート — BroadcomがAnthropicに最大$42Bを貸し付ける

この記事が追跡する価格の算術に、融資の次元が加わりました：Broadcomは、BroadcomのチップをリースするためにAnthropicに最大$42Bを貸し出すことに合意しました — これまでに開示された中で最大のAIハードウェア・レンディング契約です（Reuters、2026年10月1日）。コストスタックにとって、これはトークンあたり・タスクあたりの列では捉えられないベクトルを生みます：ベンダーの貸借対照表の上で確保され、将来の収益から返済されるコンピュートです。バイヤーにとっての戦略的な読みは、方向こそ変わらないものの、メカニズムがより先鋭になります — Anthropicのフロンティア容量は、確約されたベンダー融資の上で動くようになり、この記事が文書化したベンダー継続性リスク（DeepSeekの自動ルーティング事件、Relayのシャットダウン）を特定の形態に濃縮します：コンピュート供給が自社の貸借対照表上の負債であるラボは、マージンと同じだけ債務返済にも拘束される価格挙動をとるラボです。次回のタスクあたりコスト比較が届くとき、各ラボの容量の背後にある融資構造が、算術の一部になっています。

更新 — 2026-10-04：ローカル決定モデル——API 往返が最安の層から消える

本記事が維持する推論コストモデルは、最安の層にデータポイントを得た：llama.cpp が決定モデルクラス（Julia-1、Laya、Kev-4B、lev、OpenJev を GGUF で、/v1/systemone 型エンドポイント経由）を提供するようになり、API 支出を避けるために存在した層から API 往復が消える。決定モデル層はもともとスタックで最も限界コストの低い層だった；ローカルランタイムはそのコストを限界ゼロ近くへ押しやり、残る支出を RAM/CPU 供給へ移す。大規模な常時稼働エージェントのルーティング数学が変わる：ローカル決定モデルは、件数 API 価格づけが設計制約だった規模で、アクションごとの判定を手頃にする。

更新 — 2026-10-07:GLM-5.3-Flash——フラッグシップのレートカードの 10 分の 1 で frontier 並みの能力

台帳の最強のコスト崩壊行が 2026 年 10 月 7 日に到着しました:Z.ai の GLM-5.3-Flash。320B 総/18B アクティブのネイティブ multimodal MoE で、入力 0.15 ドル/M、出力 0.50 ドル/M——GLM-5.3 の 1.40/4.40 の 10 分の 1（Z.AI ブログ)。1 ドルあたりの算術は、本稿が価格づけるテーゼそのものです:Intelligence Index v4.1.1 57 をタスクあたり 0.045 ドル(割引)——Z.ai によれば、この能力レベルは以前は約 10 倍のコストでのみ得られた——Terminal Bench 2.1 は 84.3(Claude Opus 4.8 と 1 ポイント以内)、AutomationBench は 48.8 で、agentic ワークフロー・ベンチマークにおいて Claude Opus 4.8(41.0)と GPT-5.6 Terra(37.2)を上回ります。中国 AI チップ上で大規模供給され、SGLang 上の専用推論エンジンにより 3 倍の改善を主張します——台帳のハードウェア効率の行に非 NVIDIA のデータポイントが加わりました。需要側はすでに見えています:MarketScale は token コストの高騰で企業 AI 予算が 1〜2 か月で枯渇すると報じ、AI Business Weekly は 2026 年に AI インフラ支出が 62.5% 增の 8,220 億ドルに達し、測定可能な企業全体の利益を得られた採用企業は 6%のみと集計しています——この予算枯渇データが、タスクあたり算術を最適化ではなく調達制約へ変えます。購入者の契約規律は不変です:モデル ID を固定する(GLM-5.3-Flash は GLM-5.3 とは別のレートカード——自分のゲートウェイがどちらにルーティングしているか確認する)、週次上限付きのタスクあたりコストで契約する、次の差し替え前に算術をやり直す。重みは同じ収入スケール型ライセンス群で Hugging Face にありますので、閾値を超える運用量のオペレーターにとってセルフホスト経路はこの行をレートカードから完全に消します。GLM-5.3-Flash の伴走分析が価格とガバナンスの全内訳を載せています。

レートカードをめぐる市場構造は並行して加速しています:2026 年 Q4 は、開示された AI エージェント調達 2 億 6,000 万ドルで幕を開けました——Armadin の 2 億 5,550 万ドル Series B(AI ネイティブ・サイバーセキュリティ、a16z+Accel、評価額 25 億ドル超)と、パーソナル AI アシスタントの Instinct の 10 億ドル Series C(評価額 100 億ドル)——推論需要は、価格が崩壊するのと同じ节奏で資本調達されています。

アップデート — 2026-10-17:DeepSeek-V4.1-Flash-1017――91.5%のキャッシュヒットが実効価格表

DeepSeekの10月17日スナップショットは、レートカードを据え置いたままdeepseek-flashエイリアスの裏のモデルをV4.1-Flash-1017へ上げました――そして実効価格を動かしました。公式エンドポイントは91.5%のキャッシュヒット率を報告し、実支払いの入力単価はオフピークのミス価格$0.15に対して100万トークンあたり約$0.017に着地します。これは本記事の表で追跡してきた最も安い運用コストであり、値下げゼロのまま達成されています(Hugging Faceカード)。キャッシュヒット入力は$0.003/$0.006(オフピーク/ピーク)で、ヒットはミスの2%です。つまり加重入力価格はいまや、価格表ではなくワークロードのコンテキスト再利用の関数です。本記事が説く調達の規律に一節が加わります:キャッシュ比率はプロンプト設計で購買可能な属性です(安定した接頭辞、安定したスキーマ、揮発性内容の前に取得済みコンテキスト)。同じリリースはSearch & Fetch APIを1,000呼び出し$0.75で開放しました。完全なスナップショット分析がカードの行、キャッシュの算術、チームが握れる4つのレバーを運びます。

関連記事

更新 — 2026-08-05：NVIDIA Groq 3 LPU — 推論コスト崩壊のハードウェア次元

推論コスト崩壊は今やハードウェアスタック全体で起こっており、モデル価格スタックだけでありません。NVIDIAのGroq 3 LPU（GTC 2026で発表、Vera Rubin NVL72システムとペア）は、HBMベースのGPUと比較してメガワットあたり35倍の推論スループットを主張しています — 同等のモデルサイズでワットあたり約150トークン。

  1. メガワットあたり35倍の推論スループット。 Groq 3 LPUは1,500トークン/秒のエージェントAI推論をターゲットにしています。フルラックは315 PFLOPS、128 GB SRAM、40 PB/sのメモリ帯域幅を提供。

  2. コスト崩壊は今や2つのスタックの物語。 この記事はモデル価格次元を追跡してきました。Groq 3 LPUはハードウェア次元を追加 — 同じ推論ワークロードがより低コストで実行できる。

  3. ルーティング決定の変化。 ルーティングレイヤーがタスクごとにモデルを選択し、推論ハードウェアがトークンあたりのコストを決定。Groq 3 LPUを実行するチームは35倍低いエネルギーコストでモデルを提供可能。

Update — 2026-08-06: BenchLM August 2026 leaderboard — Grok 4.5, Nemotron 3 Nano Omni, LFM2.5-2.6B

The BenchLM leaderboard refreshed August 5, 2026, adding three decision-ready data points to the cost-frontier section of this article:

  1. Grok 4.5 — 91% of frontier quality at 88% lower output cost. Grok 4.5 earns "best near-frontier value" on the BenchLM August refresh: 91% of the top score at 88% lower output cost. The 91%/88% ratio is the price-to-performance data point that reshapes deployment decisions — a model that delivers near-frontier quality at near-open-weight cost. For the model-flexible build, this is the routing sweet spot: tasks that need frontier-class quality but not frontier-class cost route to Grok 4.5 instead of Opus 5. The gap between Grok 4.5 (91% at 88% lower cost) and the open-weight frontier (DeepSeek V4-Flash 0731 at Intelligence Index 50, ~60% cheaper than Luna) is the decision space the routing layer operates in.

  2. Nemotron 3 Nano Omni — fastest at 323 tok/s, 30B total / 3B active MoE. Nemotron 3 Nano Omni is the fastest model on the BenchLM leaderboard at 323 tokens per second. The architecture is a sparse Mixture-of-Experts (30B total parameters, 3B active) — the same architecture pattern (sparse MoE) that DeepSeek V4-Flash 0731 uses (284B total / 13B active). The 323 tok/s figure is the architecture-level cost collapse this article's NVIDIA Groq 3 update describes, but at the model layer: sparse MoE delivers frontier-adjacent quality at a fraction of the active-parameter cost. The inference-cost-collapse-from-architecture thesis this article makes is now validated at two layers — the hardware layer (Groq 3 at 35× per megawatt) and the model architecture layer (sparse MoE at 3B active parameters delivering 323 tok/s).

  3. LFM2.5-2.6B — agents on-device. LFM2.5-2.6B runs agents entirely on-device — the edge deployment dimension of the inference cost collapse. A 2.6B-parameter model that can run an agent loop on a laptop or a phone is the extreme of the cost frontier: zero per-token cost, zero latency, zero data egress. For the routing decision, LFM2.5-2.6B is the option for workflows where data residency (the inference never leaves the device) or latency (sub-millisecond local inference) is the binding constraint, not throughput. The model-flexible build now has a device-tier routing option alongside the cloud tiers.

The BenchLM BenchAlign leaderboard shows the open-weight/frontier gap at ~17% (MiniMax M3 at 68.8 vs Claude Mythos 5 at 83.04) — wider than the ~11-point gap on the Intelligence Index. The gap is narrowing at the capability frontier (Grok 4.5 at 91%) while the cost frontier drops across every tier simultaneously. The cost-frontier section now has eight data points: Luna at $0.20/$1.20, DeepSeek V4-Flash 0731 at $0.14/$0.28, Claude Managed Agents at $0.08/session-hour, Qwen3.8-Max at $2/$6, Grok 4.5 at 91%/88%-lower-cost, Nemotron 3 Nano Omni at 323 tok/s, LFM2.5-2.6B on-device, and the NVIDIA Groq 3 LPU at 35× per megawatt. The pattern is consistent across all eight: every release optimizes price-performance at the same or higher intelligence level, and the cost collapse is happening at the model layer, the hardware layer, and the platform layer simultaneously.

更新 — 2026-08-04：Qwen3.8-Max価格——オープンウェイトコストフロンティアがさらに下落

Qwen3.8-MaxのAPI価格が1M入力トークンあたり$2、1M出力トークンあたり$6に確認されました。暗黙キャッシュは$0.25/M（QwenCloud、OpenRouter、glbgpt.com、windowsforum.com、2026年8月4日）。これはKimi K3（$3/$15）を大幅に下回ります——入力で33%安く、出力で60%安く——コストフロンティアセクションに新しいデータポイントを追加します。

  1. 2.4Tパラメータ（95BアクティブMoE）モデルで1Mトークンあたり$2/$6。 Qwen3.8-Maxは任意の主要ラボからの初のMax規模オープンウェイトリリースであり、価格はAPI市場で最も安いMax規模モデルにします。コストフロンティアには現在、異なる価格ポイントの4つのオープンウェイトオプションがあります：DeepSeek V4-Flash 0731 $0.14/$0.28（Intelligence Index 50、最も安い能力あるモデル）、Qwen3.8-Max $2/$6（Max規模、長時間自律作業）、GLM-5.2 $0.60/$2.20（防御的使用）、Kimi K3 $3/$15（生の能力、93.40% SWE-bench）。ルーティングの決定は現在4つの価格層にまたがり、オープンウェイトとクローズドフロンティア間ではありません。

  2. オープンウェイトのコスト優位性はクローズドフロンティアに対して累積します。 Claude Opus 5 $5/$25はQwen3.8-Maxより入力で2.5×高く、出力で4.2×高い——SWE-bench Verifiedで97.00%をリードするモデル対Kimi K3の93.40%（Qwen3.8-MaxはまだArtificial Analysisによって評価されていません）。コストギャップはベンチマークギャップより速く縮小しています：オープンウェイトフロンティアはSWE-benchで3.6ポイント以内でありながら60-75%安いです。モデルフレキシブルビルドについて、ルーティングレイヤーは長時間自律作業（10+日の自律コーディング、125時間の研究再現）のためにQwen3.8-Maxを選択でき、フロンティアコストの一小部分です。

  3. ルーティング決定で変わること。 この記事のコストフロンティアセクションには現在5つのデータポイントがあります：Luna $0.20/$1.20（7月30日に80%カット）、DeepSeek V4-Flash 0731 $0.14/$0.28（Intelligence Index 50、7月31日）、Claude Managed Agents $0.08/session-hour（8月3日）、Qwen3.8-Max $2/$6（8月4日）。パターンは一貫しています：各リリースは同じまたはより高いインテリジェンスレベルで価格パフォーマンスを最適化します。フロンティアは上部（Opus 5）と下部（DeepSeek V4-Flash）の両方で同時に安くなり、オープンウェイトオプションは一週間前には存在しなかった新しい価格層（Max規模のQwen3.8-Max）を追加しています。2026年1月にエージェント推論に$50,000/月を予算化したチームは現在5つのモデルを5つの価格ポイントでルーティングできます——タスクあたりの最も安い能力あるモデルは設定決定であり、研究プロジェクトではありません。

更新 — 2026-10-02：決定モデルが低コスト分類ティアを製品化 — Cloudflare Clef + AWS Strands Decider 2B

この記事の算術が指すコスト削減のベクトル — 大量の、曖昧さの低い分類をLLMの呼び出しからオフロードすること — が、1日に2回製品化されました：CloudflareのClefとClef-flash（オープンソース、Apache-2.0）とAWS Strands LabsのDecider 2BがTypeSafeのJevに加わり、商用に入手できる決定層となったのです（TREND-02 §3.1）。この記事が価格設定するalways-onループにとって、現時点で価格付きLLMティアに乗っているルーティングとガードレールの呼び出しは、レイテンシとコストの数分の一で構造化された選択を返す決定モデルへ移せます — これはコストスタックのアーキテクチャを変えます：フロンティアLLMの支出は判断の呼び出しに集中し、分類の周辺（ルーティング、安全性のしきい値、トレース評価）は、校準を保持できる最も安い層へ移ります。11日で3つのベンダーが出荷したことで、決定ティアは珍しいものではなくなり、調達の品目になります — そしてこの記事のバイヤー契約が持つタスクあたりの上限値のために設計されたモデルクラスが登場するのです。

Update — 2026-10-26: 自動ルーティングの訂正と、DeepSeekの150億ドルのバランスシートの行

上の9月10日更新に対する陳腐化訂正です:発表された自動ルーティングは発効していません。DeepSeekの変更ログ(9月10日の節、2026年10月26日に再読)は"In response to user demand, we have decided to continue providing API services for DeepSeek V4 Pro after September 14, 2026, with the billing method remaining unchanged"(ユーザーの需要に応えて、2026年9月14日以降もDeepSeek V4 ProのAPIサービスを提供し続けることを決めました。課金方式は変更ありません)と記録し(変更ログ)、一方いまも稼働中の発表ページには当のルーティング指示が、ページ上の撤回なしに残ったままです(api-docs.deepseek.com)——ベンダーの二つの面は、その面からして矛盾しています。コストガバナンスのテーゼにとって、この訂正は後退ではなく上位互換です:ベンダーは代替を告知し、一方的に撤回し、二つの記録を残したままにできます。応答に含まれる実際の提供モデルこそが事実の基準であり続け、ルーティング層(モデル差し替えの記事)が統制であり続けます。第二に、資金調達の行は、具名のソースへとデリスクされて整いました:DeepSeekは第2回の私募ラウンドでおよそ150億ドルを調達しました——約1,000億元、TencentとCATLが最大の投資家に含まれます——プレマネー評価額は約740億ドル(報道値でポストマネー約890億ドル)。創業者の梁文鋒は9月に投資家に対し、会社が年換算10億ドルのペースで収益を生み出していると述べ、上海STAR市場のIPOを目指し、訓練を中国チップへ移すためHuaweiとの提携を進めています(qz.com; TechStartups ——WSJ/ブルームバーグ報道のリレー)。最も安い常時稼働エージェント算力の信頼できる供給元に、いまや戦略投資家の厚みとIPOの滑走路とチップ多角化の道が整い——このレーンのベンダー継続性リスクは下がり、9月のモデル識別の出来事が常設の警告として残ります。

更新 — 2026-09-30：Gemini 4 Argonが3ラボ対比のタスクあたりコスト・セットを完成

本稿が9月ずっと集めてきたエキシビット群に、3つ目のラボが加わった：Googleが2026年9月30日にGemini 4 Argonをリリース — 7か月以上ぶりとなる非Flashのフロンティアモデル — し、AA Intelligence Indexで53を記録してGPT-6 Astraに並んだ。プロモ価格（標準$4/$20を50%割引の$2/$10）では、AAの測定でArgonはIntelligence Indexタスクあたり$1.99 — Astraの$3.26の60% — ただしGPT-6.1 Sol（$0.74、それ自体が約1/5のコストでAstraに並ぶ）の2.7倍。Sonnet 5.5はトークン効率の方向からセットを完成させる：Indexは56、レートカードは$2/$10のまま、だが最大エフォートでのタスクあたり約193,000出力トークンが$7.60を請求する — およそSonnet 5より50%高い。推論の買い手にとっての3ラボの読み解き：同じ50番台の知能が、リリース戦略次第でタスクあたり$0.74、$1.99、$7.60と請求される — 価格主導、能力＋割引、能力＋トークン請求書。Argonのキャッシュ入力95%割引（$0.10/1M）はcache-led路線の伴走データポイントであり、業界最多の100万トークン出力上限は、always-onの経済性を逆方向に変える：連続推論ループが64Kの天井で分断されなくなり、長時間稼働エージェントの出力側請求書が分散でなく集中できるようになる。

Sonnet 5.5の教訓と並行する注意点一条：プロモ価格はレートカードではない。Argonの$2/$10は、Googleが維持を約束していない割引だ。プロモ後のコストはタスクあたり$3.98と測定される（およそAstraの1.2倍）。プロモ後の数字で契約するか、プロモの失効日を調達カレンダーに載せること — 割引構造そのものが第4のラボのルーティング決定であり、DeepSeek V4.1-Flashのエピソードが記録した自動ルーティング隣接の置換リスクと同型である。

Update — 2026-10-01: 常時稼働のテーゼがフロンティアのエキシビットを手に入れる — Argonエージェントが300 TiBを自律的に解放

Argon発表の10月1日のMENAクロスポスト（blog.google）は、この記事の常時稼働テーゼが欠いていた内部ユースケースの詳細を加えます：Argonエージェントはフリート全体のプロファイリングテレメトリを分析し、Googleのデータセンター全体でメモリ最適化を自律的に特定・適用し、300 TiBを超えるメモリを解放し、合計で500 TiBから1 PiBの節減を見積もりました。Argonはまた、公開された量子アルゴリズム最適化のベースラインを、時空間リソース（キュビット×ゲート）で40%下回る成績で破りました（「ほんの数分で」）。これは、常時稼働のエージェントがインフラの規模で自らを賄うという主張についての具体的なエキシビットです：エージェントのタスクはユーザーの質問に答えることではなく、テレメトリを継続的に読み、最適化を適用することでした — この記事が価格設定した常時稼働ループそのものの運用プロファイルです。さらにこのブログは、Argonが自動化レッドチーミングと敵対的訓練を通じてGray Swanの間接プロンプトインジェクション（IPI）ベンチマークで首位にあるとも述べています — MCPセキュリティチェックリストファミリーのためのモデルレベルのプロンプトインジェクションのデータポイントです。

更新 — 2026-09-29：週次の価格戦争の台帳 — 3つのリリース戦略、1つのタスクあたりコスト表

本記事が追いかけてきた価格のペースは今や週次になり、9月のリリースは、推論の買い手が並べて価格設定しなければならない3つのリリース戦略に収斂しています（pricepertokenの9月台帳は今月、追跡対象671モデルの181件の価格変更を数えています）:価格主導——OpenAIのGPT-6 Solが$2/$10、そのLunaティアが$0.10/$0.50、そして1週間後のGPT-6.1 Solが同じ$2/$10でAstra近傍の知能を伴って登場（OpenAI）——これはフロンティアの能力を商品価格で買うものです。キャッシュ主導——AnthropicのOpus 5.5が$4/$20でキャッシュ読み込み−60%——これは書き込みの多いエージェントループに対し、支配的なコストラインの再価格設定をもたらします。能力主導——Claude Sonnet 5.5の9月28日リリースは変更なき$2/$10のレートカードのまま、Artificial Analysisが最大努力でのIntelligence Indexタスクあたり約193,000出力トークンを測定——AAが記録した史上最高のトークン請求額で、概ねGPT-6 Astraのタスクあたりの7×——効率の罠を示しています:「タスクあたり最大30%安い」が、実測のタスクあたりコスト$7.60、Sonnet 5比で約50%高と競合するのです（AA; 完全な算術はSonnet 5.5分析に）。2つのルーティング整合性の実例がこの月を締めくくります:OpenAIのSmart Route（9月25日）は価格付きティアの中から自動選択を行います——本記事の監査ログガイダンスがカバーするベンダー側ルーターが、今やインシデントではなくデフォルトになったのです;そしてMiMo-V2.6-Pro（1.02T合計 / 42Bアクティブ、MITライセンス）がAA Intelligence Indexで史上最高スコアのオープンウェイトモデルとして46を記録し、すでにトークン量の29%が乗っているオープンウェイトのフロアを再価格設定しました。本更新におけるすべてのモデル横断比較を支配する1つの注意書き:AAのIntelligence Indexスコアはリリースごとに再ベース化されるため、異なる再ベースラインから引用したスコアは比較不能——再ベースをまたいでインデックスを混ぜてはいけません。9月11日の読み以来、買い手の契約は変わっていません;無視の代償が変わったのです:モデルIDを固定し、週次上限付きのタスクあたりコストで契約し、次のモデルスワップの前に算術をやり直すこと——現在のペースでは、それは数日後です。

更新 — 2026-10-06: 推論エコノミクスの台帳に主権オープンウェイトの3つの価格ラインが加わる — ML4、Beam、Kolibri-1

Mistral Large 4(ML4、公開プレビュー 2026年10月6日)。 Mistral 製の 1T パラメータ / 49B アクティブのネイティブ・マルチモーダル MoE を、Mistral 自社のヨーロッパのデータセンターにある 3,800 基の NVIDIA Grace Blackwell GPU で訓練(€3B のシリーズ D — ヨーロッパのテック企業史上最大のエクイティ調達)。価格 入力 $1.36/M、出力 $4.18/M — 9月の戦略の隣に台帳が並べるべき欧州主権オープンウェイトの新ライン。だが本記事が最も慎重に価格評価するエキシビットは、最大限の労力でのドルあたり能力です:ML4 は reproduce-and-patch で 82%(測定された全モデル中の最高サイバーセキュリティ得点。Claude Opus 5.5 と GPT-6 Astra はタスクを拒否するためほぼゼロ)— 主権バイヤーがこの security-workload パー・ドルのデータポイントを、コンシューマ API バイヤーとは別の値付けをする点です。重みは月末公開。セルフホスト経路がレートカードを完全に置き換えます。

Reflection AI Beam。 501B / 23B アクティブのスパース MoE を、10.5K 基の NVIDIA GB300 GPU 上で 1億回超の RL ロールアウトで訓練 — コーディングとエージェントのタスクで GLM-5.2 に匹敵し Qwen 3.8-Max に肉薄、推論計算は 3–4分の1(SWE-Bench Verified 80.9%、Terminal-Bench v2.1 80.1%、MCP Atlas 78.7%)。台帳のケイパビリティ・パー・タスク行が西側ベンダーから欠いていた計算効率のデータポイントです:501B モデルがるに遠く小さなアクティブ・フットプリントのように振る舞い、Nvidia 支援($4.7B 調達、評価額 $25B プレマネー)、Apache 2.0 の重みは今月、"AI ファクトリー"主権デプロイ提案(韓国 Shinsegae との提携)を伴います。

Kolibri-1(Aleph Alpha、10月3日)。 総 78.1B / アクティブ 3.46B の MoE、384 のルーティング・エキスパート(token あたり 6 個がアクティブ)、独英バイリンガル、262K コンテクスト(1M まで拡張可能)、Apache 2.0、独芬で構築・訓練 — ドイツの主権オープンウェイト・ラインで、フランスの隣に。

台帳の構造にとって:9月の三つのリリース戦略(price-led、cache-led、capability-led)は依然として枠組みですが、第四のソーシング次元が独立に価格評価されるようになりました — 主権です。重みがどこにあり、誰があなたのワークロードを拒否し得るか、セルフホストがレートカードに対して何を要するか。ML4 の $1.36/$4.18 を Sonnet クラスのパー・タスク算術に、Beam の 3–4倍の効率を GLM-5.2 クラスに照らして値付けするバイヤーは、本記事が求める規律を実行しています。次のモデル入れ替えの前に算術をやり直す — そして入れ替えは今、週ごとに三地域から届きます。

アップデート — 2026-10-15:Muse Spark Open + Apple MLX——デスクトップクラスタのトポロジー行

本記事のコスト最適化ベクトルに、デスクトップクラスタのトポロジーデータポイントが加わりました。MetaのMuse Spark Open(2026年10月15日)は約530GBのNVFP4チェックポイントを公開し、AppleのMLX研究投稿はそのチェックポイントのRDMA分散推論をMac Studioクラスタ上で実演しました。約38,000ドル相当のAppleシリコン(256GBのM5 Ultra Mac Studio 4台、Engadgetによる)は、自社所有のハードウェア上で部分フロンティア能力を買います。これは、RTX Spark 24GBのローカル行が下端で開いた軸と同じものです。コスト勝利ではなくトポロジー行として読んでください。3.8万ドルの資本はトークン課金なしの能力幅を買う一方、API計量はフルフロンティアを買います。常時稼働エージェントのビルド決定には、いまこの両極の間にデスクトップクラスタの実証例が存在します。アグリゲータから浮上したAPI価格はMuse Spark Openを1ドル25セント/百万トークン弱に置きます——Metaの一次情報に対して未検証のため、引用前に必ずラベル付けしてください。

Update — 2026-10-19: MiniMax M3.1 Flash ―― 公表されたキャッシュ・レート行

ベンダー公表の $0.015/1M キャッシュ済み入力行が到着しました。MiniMax（HKEX：0100.HK）は、2026年10月19日に M3.1 Flash を一律 $0.15 入力 / $0.60 出力 / $0.015 キャッシュ済み入力（1Mトークンあたり）でローンチしました――ピーク／オフピークの窓なし――これによりキャッシュ行は、見積りが参照できる調達の項目になります（MiniMax；Reuters）。上の91.5%ヒット実効行の隣に並びます。DeepSeekはキャッシュヒット入力を$0.003〜$0.006で公表し、未キャッシュ価格は$0.15〜$0.30（オフピーク・ミス価格の約2%、時間窓で条件付け）。MiniMaxは一律の10%表示レートそのものを公表しています。両制度は同じ算術に従います。実効入力＝ヒット率×キャッシュレート＋ミス率×表示レート――例示ヒット率91.5%では、DeepSeekのシートは約$0.017/1M、MiniMaxのシートは約$0.0265/1Mに着地します（DeepSeekの価格；全文比較はキャッシュコスト分析とM3.1 Flashの記事）。本稿執筆時点で重みは未公開です（コミュニティのスレッドは10月23日、428B MoEの数字はアグリゲーター報道で未確認）――価格シートを引用し、パラメータ行は据え置いてください。

NetSuite と BigCommerce を稼働する中堅流通業者は週200のRFQを処理する。Luna価格では、受信箱を監視し、MCPモジュールで3つのサプライヤーカタログを照会し、代替部品のナレッジグラフを確認し、見積もり回答を起草するエージェントの推論コストは週 $50 未満である。同じワークロードは2026年1月の価格では $2,000 以上かかった。流通業者の問いはもはやエージェントが负担可能かではなく、統合レイヤーが構築されているかである。MCPモジュール、ナレッジグラフ、見積もり発行のための人工承認チェックポイント、そしてすべてのツール呼び出しの監査証跡がビルドの90%である。それがスコープ付きエンゲージメントが提供するものである：安いモデルをプロダクションエージェントに変える統合とガバナンスレイヤー。

あなたのシステムのためにこれを構築したいですか？

ここの各ドキュメントは実際の本番作業から来ています。ターゲットシステムとワークフローがあれば、1週間でスコープを定義できます。

スコープ付き構築を依頼

1週間のディスカバリ。システムインベントリ、ワークフローマップ、固定スコープを提供します — 私たちと構築するかどうかにかかわらず。