전략

추론 경제학: 상시 가동 프로덕션 에이전트가 이제 감당 가능한 이유

글쓴이: IdeaBosque최종 업데이트: 2026年7月30日

업데이트 — 2026-08-18: Anthropic 650억 달러 런레이트와 2조 달러 IPO 목표, OpenRouter 50% GPT-5.6 Sol, Stripe 70억 달러 이상에 OpenRouter 인수 — 기업 규모 수익성 증명점과 모델 라우팅을 조달 카테고리로

세 가지 발전이 추론 경제 논제를 재정의합니다: Anthropic 650억 달러 런레이트와 2조 달러 IPO 목표, OpenRouter 50% GPT-5.6 Sol $2.50/$15, Stripe 70억 달러 이상에 OpenRouter 인수.

Anthropic 650억 달러 런레이트와 2조 달러 IPO 목표. 연간 수익률이 2026년 7월 말 기준 650억 달러를 초과, 2025년 말 90억 달러에서 7개월 만에 7배 증가. IPO 목표 가치 2조 달러. 계산 비용 곡선(수익 달러당 71→56센트)이 650억 달러 런레이트와 2조 달러 IPO 목표의 프론티어 랩을 생성하고 있습니다.
OpenRouter 50% GPT-5.6 Sol $2.50/$15. SWE-bench #1 모델의 프론티어 가격이 Gemini 3.7 Flash의 2배 이내. 다섯 번째 최적화 벡터: 게이트웨이를 통한 라우팅.
Stripe 70억 달러 이상에 OpenRouter 인수. 결제 인프라가 AI 모델 선택 계층을 소유하려고 합니다. 모델 라우팅이 결제 인프라로 통합되고 있습니다.

업데이트 — 2026-08-17: Anthropic 최초 영업이익, OpenAI $14B 손실, GPT-5.6 Ultrafast, DeepSeek 가격 반전 — 효율 곡선과 정직성 지표

네 가지 발전이 추론 경제 논문을 재정의한다: 최초의 프론티어 랩 수익성 증거, 결정적인 AI 경제 대비, 프론티어 모델 최초의 웨이퍼 스케일 추론 가속, 저비용 공급자 최초의 가격 인상.

Anthropic 최초 영업이익 달성 — Q2 2026 매출 $10.9 billion에 약 $559 million, Q1 $4.8 billion의 두 배 이상. 주요 동력은 컴퓨팅 비용 하락: Q1 매출 달러당 71센트 → Q2 56센트 — 분기당 15포인트 개선. 매출 달러당 서빙 비용을 71센트에서 56센트로 낮춘 것이 수익성 전환을 만들었다.
OpenAI IPO 신청 공개 — 월 약 $2 billion 매출(연화 약 $25B), 동시에 2026년 예상 손실 $14 billion, $1T+ 가치 목표. OpenAI-Anthropic 대비가 결정적 AI 경제 논거: $25B 매출에 $14B 손실(OpenAI) vs. $10.9B 매출에 $559M 이익(Anthropic). AI 경제는 결정론적이지 않다 — 컴퓨팅 비용 곡선(매출 달러당 71→56센트)이 차별화 요소이며, 매출 규모가 아니다.
GPT-5.6 Sol Ultrafast — Cerebras 하드웨어에서 최대 14× 속도. OpenAI가 Ultrafast 모드 시연 — GPT-5.6 Sol이 Standard 처리의 최대 14× 속도로 Cerebras 웨이퍼 스케일 하드웨어에서 실행. 프론티어 모델에서 웨이퍼 스케일 추론 가속의 첫 구체적 프로덕션 데이터 포인트. 비용 프론티어에는 4개 최적화 벡터가 있다: 모델 라우팅(Nemotron Switchyard), 인프라 최적화(Dynamo 0.4 disaggregated serving), 하드웨어 전문화(Cerebras 14×), 가격 플로어 경쟁(Luna $0.20, DeepSeek 반전).
DeepSeek V4 Flash 가격 인상 — 8월 14일 $0.14 → $0.27/백만 토큰, 거의 두 배. 저비용 오픈 모델 공급자 최초의 가격 인상. 정직성 지표: 추론 경제 스토리는 단조 감소하지 않는다. DeepSeek이 V4 Flash 가격을 $0.14에서 $0.27/M로 인상. 가격 반전은 비용 붕괴 논문을 부정하지 않는다 — 비용 프론티어가 경쟁으로 결정됨을 확인한다.

논문은 4축에서 강화되었다: 효율 곡선이 프론티어 랩의 손익에 도달(Anthropic 71→56센트), AI 경제 대비가 비결정성을 증명(OpenAI $14B 손실 vs Anthropic $559M 이익), 하드웨어 전문화 벡터가 구체적 데이터 포인트 획득(Cerebras 14×), 비용 프론티어가 첫 가격 인상 기록(DeepSeek $0.14→$0.27). 제약은 여전히 통합층 — 모델 지출 $1당 $10의 프로세스·거버넌스 작업.

업데이트 — 2026-08-16: Databricks $190B 가치평가 — 데이터 인프라 기반 논문 검증

Databricks가 약 $190B 가치평가로 전략적 자금조달 라운드 완료(2026년 8월), 연화 수익 run rate $7B — 2월 $5.4B에서 전년비 성장이 65%에서 80%+로 가속. 추론 경제 논문에 대해 Databricks 가치평가는 데이터 인프라 기반 논문의 가장 강력한 상업적 검증: 데이터 플랫폼층의 수익이 모델층보다 빠르게 증가. 모델은 비용의 10%, 통합은 90%.

procurement 수신함을 24/7 모니터링하고 견적 응답을 작성하는 백그라운드 에이전트는 한때 비용이 너무 비싼 실험이었다. 2026년 1월에는 추론 비용만 주당 $2,000 이상 들었다. 7월 말에는 $50 미만으로 떨어졌다. 모델은 더 이상 프로덕션 에이전트에서 비싼 부분이 아니다——이 변화는 어떤 예측보다도 빠르게, 단일 모델 세대 내에서 실시간 가격 인하로 일어났다. 하지만 비용 붕괴가 구축의 장애물을 해제하지는 못했다: 모델 지출 $1당 여전히 $10의 프로세스·거버넌스·통합 작업이 필요하다. 본 글은 1,000× 추론 비용 붕괴가 모든 B2B 팀이 직면하는 아키텍처 결정에서 무엇을 의미하는지 정리한다: always-on 프로덕션 에이전트를 구축할 것인가, 그리고 모델이 더 이상 비싼 부분이 아닌 지금, 실제로 구축을 막는 것은 무엇인가.

업데이트 — 2026-08-15: DeepSeek Harness Code mode와 HubSpot Q2 2026 공개 크레딧 요금

DeepSeek Harness Code mode — 5회 라운드트립을 1회 호출로 압축. 2. HubSpot Q2 2026 공개 크레딧 요금. 1크레딧 = $0.01. Customer Agent 50크레딧/해결된 대화 ($0.50). Prospecting Agent 100크레딧/리드 ($1.00). Data Agent 10크레딧/프롬프트 ($0.10). Content Agent 1,000크레딧/콘텐츠 ($10).

핵심 요점

OpenAI는 2026년 7월 30일 Luna를 80% 인하, 백만 토큰당 $0.20/$1.20로 설정——기록상 가장 큰 단일일 프론티어 가격 인하. Amazon Bedrock은 같은 날 인하를 반영했고, Sol의 Fast 모드는 2배 가격에 2.5배 속도를 제공한다. 1,000× 비용 붕괴는 더 이상 다년간의 아크가 아니다; 단일 모델 세대 내에서 실시간 가격 인하로 일어나고 있다.
프로덕션 토큰량의 29%가 지출의 4% 미만으로 오픈웨이트 모델에서 실행된다（Vercel AI Gateway Production Index, 2026년 7월）——라우팅 규율은 이미 프로덕션 데이터에서 가시적이다. 태스크당 가장 저렴한 유능한 모델은 연구 프로젝트가 아닌 구성 결정이다.
추론은 AI 컴퓨팅의 67%를 차지, 2023년 33%에서 상승, AI 클라우드 지출의 55%($37.5B)——비용 중심은 트레이닝에서 서빙으로 이동했고, 바로 가격 인하가 누적되는 곳이다. 1년前 금액적으로 감당할 수 없었던 상시 가동 에이전트가 이제 경제적으로 실행 가능하다.
모델 지출 $1당 $10의 프로세스, 거버넌스, 통합 작업(xccelera.ai, 2026)——모델은 프로덕션 에이전트 시스템 비용의 10%이다. 90%는 통합 레이어: MCP 모듈, 지식 그래프, 감사 추적, human-in-the-loop 체크포인트, 에러 복구. 더 저렴한 모델은 이것을 해결하지 않는다.
Fiddler AI는 프로덕션에서 70–95% 에이전트 실패율을 보고한다——더 저렴한 추론은 실패율을 낮추지 않는다; 실패를 더 저렴하게 생산할 뿐이다. 거버넌스와 관측가능성 투자가 출하하는 에이전트와 사일런트 실패하는 에이전트를 구분한다.

비용 붕괴는 실시간이지, 회고적이 아니다

추론 경제학의 표준적 서사는 다년간의 아크를 추적한다: 2023년 초 백만 토큰당 $20에서 오늘날 $1 미만으로, 20–50× 하락. 그 서사는 이제 오해를 유발한다. 하락은 감속이 아닌 가속 중이다. 2026년 7월 말 단일 주에, 세 가격 변동이 프론티어에 동시에 hit했다:

OpenAI Luna -80% (7월 30일): 백만 토큰당 $0.20/$1.20. Luna는 Ramp, Cognition(Devin Fusion), Dust의 기본 백그라운드 에이전트 모델이다. 24/7 조달 큐를 모니터링하는 백그라운드 에이전트는 이제 하루 추론 비용이 센트 단위다.
Claude Opus 5 $5/$25 (7월 24일): Fable 5의 $10/$50 절반. 프론티어 티어는 능력 후퇴 없이 저렴해졌다——Opus 5는 SWE-bench Verified에서 97.00%로 리드한다.
Gemini 3.6 Flash $1.50/$7.50 (7월 21일): agentic 작업에서 3.5 Flash보다 출력 토큰 17% 감소, 장기 시야 태스크에서 최대 65% 감소. Intelligence Index 50 동일——더 저렴하고 빠르지, 더 똑똑하지는 않다.

프로바이더 간 패턴은 일관적이다: 각 릴리스는 같거나 더 높은 인텔리전스 수준에서 가격-성능을 최적화한다. 프론티어는 티어의 상단(Opus 5)과 하단(Luna)에서 동시에 저렴해진다. 2026년 1월 에이전트 추론에 $50,000/월을 예산한 팀은 2026년 8월 $5,000 미만으로 동일 워크로드를 실행할 수 있다——모델 아키텍처, 프롬프트, 태스크 정의를 변경하지 않고.

무엇이 변했는가: 추론은 트레이닝에서 서빙으로 이동

2023년, AI 컴퓨팅은 67% 트레이닝, 33% 추론이었다. 2026년, 그 비율은 반전했다: 추론은 이제 AI 컴퓨팅의 67%와 AI 클라우드 지출의 55%를 차지한다. Gartner의 7월 27일 예측 수정은 2026년 글로벌 IT 지출을 $6.37T(+14.2%)로, 데이터센터 시스템은 62.5% 성장해 $822B, IaaS는 29.3% 성장해 $287B로 둔다. Gartner의 John-David Lovelock은 AI 컴퓨팅 빌드아웃을 "인류가 시도한 가장 큰 인프라 프로젝트"라고 불렀다.

지출이 트레이닝에서 서빙으로 이동한 것은 에이전트 아키텍처에 구조적으로 중요하다. 트레이닝 비용은 매몰되었다——프론티어 모델은 사용 여부와 무관하게 수억 달러의 트레이닝 비용이 든다. 서빙 비용은 가변적이다——모든 에이전트 호출, 모든 툴 호출, 모든 검색 단계마다 스케일한다. 서빙이 비용 구조를 지배하고 서빙 가격이 단일일에 80% 하락할 때, 상시 가동 에이전트의 경제학은 반전된다. 주당 200개 RFQ를 모니터링하고 세 개의 공급업체 카탈로그를 쿼리하고 견적 응답을 초안하는 에이전트는 $20/M 토큰에서 경제적으로 마진이었다. $0.20/M 토큰에서 추론 비용은 그것이 대체하는 직원 시간 대비 반올림 오차다.

10:1 비율: 왜 더 저렴한 모델이 빌드를 언락하지 않는가

추론 비용 붕괴는 프로덕션 에이전트 배포에서 가장 쉬운 문제를 해결한다. 더 어려운 문제는 통합 레이어다.

xccelera.ai의 2026년 엔터프라이즈 데이터가 비율을 정량화한다: AI 기술에 $1을 투자할 때마다, 기업은 프로세스 재설계, 거버넌스 프레임워크, 인력 재구성, 운영 통합에 최대 $10을 지출한다. 모델은 프로덕션 에이전트 시스템 비용의 10%다. 나머지 90%는:

MCP 모듈은 에이전트를 NetSuite, HubSpot, BigCommerce, ShipStation, 공급업체 카탈로그에 연결한다——각각 자체 인증, 레이트 리미트, API 표면과 에이전트가 실제로 알아야 할 것 사이의 시맨틱 갭을 가진다.
지식 그래프는 에이전트에게 제품 호환성, 대체 부품, 공급업체 이력을 부여한다——원시 LLM이 가지지 않는 구조화된 컨텍스트.
Human-in-the-loop 체크포인트는 민감한 액션용: 견적 승인, 구매 주문 발행, 공급업체 커뮤니케이션. kill-switch 패턴은 B2B 워크플로에서 옵션이 아니다.
감사 추적과 관측가능성: 모든 툴 호출, 모든 모델 호출, 모든 결정이 기록되고 추적 가능. OWASP MCP08(감사와 텔레메트리 부재)가 MCP top-10 리스트인 데는 이유가 있다.
에러 복구: 장기 실행 태스크의 재시도 로직, 폴백 체인, 타임아웃 전략. Fiddler AI의 70–95% 프로덕션 실패율은 모델 비용이 아닌 복합 에러, 툴 고장, 환각에 의해 구동된다.

더 저렴한 추론은 각 실패를 더 저렴하게 생산할 뿐, 더 발생하기 어렵게 하지 않는다. 거버넌스와 통합 투자가 출하하는 에이전트와 사일런트 실패하는 에이전트를 구분한다. Luna 가격 인하를 통합 작업을 건너뛸 허가로 취급하는 팀은 더 적은 실패가 아닌 더 저렴한 실패를 얻는다.

본 글은 프로덕션 에이전트 시스템의 비용이 실제로 어디에 있는지 보여주는 1분 설명 다이어그램을 포함한다:

model-flexible 빌드: 태스크별 라우팅, 코드 배포 없이 스왑

추론 비용 붕괴는 모델 선택 질문을 바꾼다. 추론이 비쌌을 때, 질문은 "우리가 감당할 수 있는 단일 모델은?"이었다. 추론이 저렴해진 지금, 질문은 "태스크당 어떤 모델을, 그리고 에이전트를 재작성하지 않고 어떻게 스왑하는가?"가 된다.

답은 model-flexible 빌드다: 모델 선택이 코드 배포가 아닌 구성 레코드인 아키텍처. 이 패턴은 세 컴포넌트를 가진다:

태스크별로 모델을 선택하는 라우팅 레이어. 백그라운드 모니터링은 $0.20/$1.20의 Luna를 사용한다. 견적 초안은 $5/$25의 Opus 5를 사용한다. 제품 룩업은 $1.50/$7.50의 Gemini 3.6 Flash를 사용한다. 라우팅 결정은 태스크 복잡도, 레이턴시 요건, 호출당 비용에 기반한다——팀이 먼저 커밋한 프로바이더가 아니라. Vercel의 프로덕션 데이터는 이것이 이미 일어나고 있음을 확인한다: 토큰량의 29%가 4% 미만의 지출로 오픈웨이트 모델에서 실행된다.
model-agnostic한 MCP 모듈. 에이전트가 호출하는 툴——NetSuite 재고 쿼리, 공급업체 카탈로그 가져오기, 견적 응답 초안, 호환성을 위한 지식 그래프 쿼리——는 MCP 레이어에서 한 번 정의된다. 모델은 바뀐다; 툴은 바뀌지 않는다. MCP Module Code Standard가 모듈 구조를 안정적 인터페이스로, 모델 선택을 런타임 관심사로 취급하는 이유다.
모델의 신뢰성에 의존하지 않는 거버넌스 레이어. Human-in-the-loop 체크포인트, 감사 추적, kill-switch 아키텍처는 model-independent하다. 비례 거버넌스 패턴——자율 레벨을 리스크에 매치——은 에이전트가 Luna에서든 Opus 5에서든 같은 방식으로 작동한다. Fiddler의 70–95% 실패율은 모델 문제가 아니다; 시스템 문제다. 해결책은 더 비싼 모델이 아닌 관측가능성과 거버넌스다.

자금 데이터가 시장에 대해 확인하는 것

2026년 상반기 글로벌 스타트업 자금은 $510B에 달했고, OpenAI와 Anthropic만 $217B——모든 스타트업 자금의 43%를 차지했다. Anthropic은 $965B 밸류에이션에 $65B를 모금했다. Q2 투자의 약 80%가 AI 포커스 스타트업으로 갔다. 자본은 모델 레이어로 흐르고 있다.

CRV의 2026년 시장 분석은 애플리케이션 레이어가 "제거"되고 있음을 확인한다——통합 깊이 없는 얇은 AI 래퍼가 자금을 잃고 있다. B2B 팀에 대한 함의는 직접적이다: 모델 프로바이더는 추론을 더 저렴하게 만들기 위해 자금을 받았고, 살아남는 애플리케이션 레이어 기업은 모델 API를 감싸는 기업이 아니라 통합 문제를 해결하는 기업이다. IdeaBosque의 포지셔닝——플랫폼 + 솔루션, 코드 소유는 옵션——은 모델 레이어가 다루지 않는 비용 구조의 90%에 자리한다.

업데이트 — 2026-08-03: Claude Managed Agents 가격 — 추론 경제학의 새로운 비용 축

Anthropic는 2026년 8월 3일에 Claude Managed Agents를 출시했습니다 — 프론티어 랩 최초의 매니지드 에이전트 플랫폼 가격 모델입니다. 이 가격은 추론 경제학에 새로운 차원을 추가합니다: 매니지드 에이전트의 비용은 토큰뿐 아니라 실행 시간이기도 합니다.

세션 시간당 $0.08, 토큰 별도. 세션 런타임 차원($0.08/시간)은 새로운 비용 축입니다. 24/7 실행되는 매니지드 에이전트는 토큰 비용 전에 주당 약 $19.20의 세션 요금을 누적합니다; 하루 8시간 실행되는 것은 주당 약 $6.40을 누적합니다. 라우팅에 대한 의미: 장기 실행 에이전트는 이제 처리량이 아닌 지속 시간으로 가격이 책정되며, 저 볼륨이지만 항상 온인인 워크로드(받은편지함 모니터링, 큐 감시)의 경우 세션 시간 비용이 토큰 비용을 주도할 수 있습니다.
Anthropic 자체 추정: 회당 약 3,700 토큰으로 10,000개 지원 티켓당 $37. 이것은 매니지드 에이전트 플랫폼 최초의 구체적인 B2B 비용 벤치마크입니다. $37/10,000 티켓으로, 티켓당 에이전트 비용은 $0.0037 — 인간 지원 에이전트의 티켓당 비용을 훨씬 밑돕니다. 이 벤치마크는 항상 온인 지원 에이전트의 비용을 모델링하는 팀의 참조점입니다: 매니지드 플랫폼은 모델, 런타임, 오케스트레이션을 번들로 묶고 세션 시간 + 토큰으로 번들에 가격을 책정합니다.
토큰 가격(MTok당 입력/출력): Claude Opus 5 $5/$25, Claude Sonnet 5 $2/$10(2026년 8월 31일까지 도입가), Claude Haiku 4.5 $1/$5. 매니지드 에이전트 세션 요금은 토큰 비용에 추가됩니다. 약 3,700 토큰/회의 지원 워크로드의 경우, Sonnet 5(도입가)의 토큰 비용은 입력 약 $0.037/티켓 + 출력 약 $0.037/티켓(대략 절반으로 가정)이며, 8시간 창에서 10,000 티켓에 상환된 세션 시간 비용은 약 $0.0064/티켓입니다. 매니지드 플랫폼의 가치 제안은 오케스트레이션, 상태 관리, 도구 호출 인프라가 번들로 제공된다는 것입니다 — $0.08/시간은 스스로 그 레이어를 구축하지 않는 가격입니다.
라우팅 결정의 변화. 모델 유연 빌드 논증에 새로운 옵션이 생겼습니다: 매니지드 플랫폼을 임대(세션 시간 + 토큰, 통합 작업 없음) vs. 라우팅 레이어에서 모델을 셀프 호스트(토큰만, 전체 통합 작업). $10의 통합 대 $1의 모델 지출 비율이 결정 경계입니다. 통합 비용이 매니지드 플랫폼의 세션 시간 요금을 초과하는 팀은 매니지드 경로를 평가해야 합니다; 통합이 이미 구축된 팀은 토큰을 가장 저렴한 능력 있는 모델로 라우팅하고 세션 요금을 지불하지 않아야 합니다. 매니지드 플랫폼은 빌드 vs 바이 결정에서 "바이" 측면을 가격표와 함께 구체화한 것입니다.

논제는 강화됩니다: 추론 경제학은 이제 세 가지 비용 축을 가집니다 — 토큰, 세션 시간, 통합. 1000× 토큰 비용 붕괴가 항상 온인 에이전트를 감당 가능하게 만들었습니다; 매니지드 에이전트 세션 시간 가격이 빌드 vs 바이 결정을 정량화 가능하게 만들었습니다. 구속 제약은 여전히 통합 레이어이며, 매니지드 플랫폼은 그에 대한 하나의 답입니다 — $0.08/시간에서, 플랫폼은 $10:$1 비율이 비싼 부분이라고 말하는 오케스트레이션 작업에 대해 정확히 청구합니다.

업데이트 — 2026-10-17: DeepSeek-V4.1-Flash-1017 — 91.5% 캐시 히트가 실효 가격표다

DeepSeek의 10월 17일 스냅샷은 요율표를 그대로 둔 채 deepseek-flash 별칭 뒤의 모델을 V4.1-Flash-1017으로 올렸습니다 — 그리고 실효 가격을 움직였습니다. 공식 엔드포인트는 91.5%의 캐시 히트율을 보고하며, 실제 지불되는 입력 가격을 비피크 미스 가격 $0.15 대비 백만 토큰당 약 $0.017으로 내려놓았습니다. 이는 이 글의 표가 추적해 온 가장 싼 운영 비용이며, 가격 인하 없이 달성되었습니다(Hugging Face 카드). 캐시 히트 입력은 $0.003/$0.006(비피크/피크)이고, 히트는 미스의 2%입니다. 가중 입력 가격은 이제 가격표가 아니라 워크로드의 컨텍스트 재사용에 대한 함수입니다. 이 글이 가르치는 조달 규율에 한 조항이 추가됩니다: 캐시 비중은 프롬프트 설계로 구매 가능한 속성입니다(안정적인 접두어, 안정적인 스키마, 휘발성 콘텐츠 앞에 검색된 컨텍스트). 같은 릴리스는 DeepSeek의 Search & Fetch API를 1,000회 호출당 0.75달러로 개방했습니다. 전체 스냅샷 분석이 카드 항목, 캐시 산술, 그리고 팀이 통제할 수 있는 네 레버를 담습니다.

업데이트 — 2026-08-05: NVIDIA Groq 3 LPU — 추론 비용 붕괴의 하드웨어 차원

추론 비용 붕괴는 이제 모델 가격 스택뿐만 아니라 하드웨어 스택 전체에서 일어나고 있습니다. NVIDIA의 Groq 3 LPU(GTC 2026에서 발표, Vera Rubin NVL72 시스템과 페어링)는 HBM 기반 GPU 대비 메가와트당 35배 더 높은 추론 처리량을 주장합니다 — 비교 가능한 모델 크기에서 와트당 약 150 토큰.

메가와트당 35배 추론 처리량. Groq 3 LPU는 1,500 토큰/초의 에이전트 AI 추론을 목표로 합니다. 풀 랙은 315 PFLOPS, 128 GB SRAM, 40 PB/s 메모리 대역폭을 제공.
비용 붕괴는 이제 두 스택의 이야기. 이 문서는 모델 가격 차원을 추적해왔습니다. Groq 3 LPU는 하드웨어 차원을 추가 — 동일한 추론 워크로드가 더 적은 비용으로 실행.
라우팅 결정의 변화. 라우팅 레이어가 태스크별로 모델을 선택하고, 추론 하드웨어가 토큰당 비용을 결정. Groq 3 LPU를 실행하는 팀은 35배 더 낮은 에너지 비용으로 모델을 서빙 가능.

Update — 2026-08-06: BenchLM August 2026 leaderboard — Grok 4.5, Nemotron 3 Nano Omni, LFM2.5-2.6B

The BenchLM leaderboard refreshed August 5, 2026, adding three decision-ready data points to the cost-frontier section of this article:

Grok 4.5 — 91% of frontier quality at 88% lower output cost. Grok 4.5 earns "best near-frontier value" on the BenchLM August refresh: 91% of the top score at 88% lower output cost. The 91%/88% ratio is the price-to-performance data point that reshapes deployment decisions — a model that delivers near-frontier quality at near-open-weight cost. For the model-flexible build, this is the routing sweet spot: tasks that need frontier-class quality but not frontier-class cost route to Grok 4.5 instead of Opus 5. The gap between Grok 4.5 (91% at 88% lower cost) and the open-weight frontier (DeepSeek V4-Flash 0731 at Intelligence Index 50, ~60% cheaper than Luna) is the decision space the routing layer operates in.
Nemotron 3 Nano Omni — fastest at 323 tok/s, 30B total / 3B active MoE. Nemotron 3 Nano Omni is the fastest model on the BenchLM leaderboard at 323 tokens per second. The architecture is a sparse Mixture-of-Experts (30B total parameters, 3B active) — the same architecture pattern (sparse MoE) that DeepSeek V4-Flash 0731 uses (284B total / 13B active). The 323 tok/s figure is the architecture-level cost collapse this article's NVIDIA Groq 3 update describes, but at the model layer: sparse MoE delivers frontier-adjacent quality at a fraction of the active-parameter cost. The inference-cost-collapse-from-architecture thesis this article makes is now validated at two layers — the hardware layer (Groq 3 at 35× per megawatt) and the model architecture layer (sparse MoE at 3B active parameters delivering 323 tok/s).
LFM2.5-2.6B — agents on-device. LFM2.5-2.6B runs agents entirely on-device — the edge deployment dimension of the inference cost collapse. A 2.6B-parameter model that can run an agent loop on a laptop or a phone is the extreme of the cost frontier: zero per-token cost, zero latency, zero data egress. For the routing decision, LFM2.5-2.6B is the option for workflows where data residency (the inference never leaves the device) or latency (sub-millisecond local inference) is the binding constraint, not throughput. The model-flexible build now has a device-tier routing option alongside the cloud tiers.

The BenchLM BenchAlign leaderboard shows the open-weight/frontier gap at ~17% (MiniMax M3 at 68.8 vs Claude Mythos 5 at 83.04) — wider than the ~11-point gap on the Intelligence Index. The gap is narrowing at the capability frontier (Grok 4.5 at 91%) while the cost frontier drops across every tier simultaneously. The cost-frontier section now has eight data points: Luna at $0.20/$1.20, DeepSeek V4-Flash 0731 at $0.14/$0.28, Claude Managed Agents at $0.08/session-hour, Qwen3.8-Max at $2/$6, Grok 4.5 at 91%/88%-lower-cost, Nemotron 3 Nano Omni at 323 tok/s, LFM2.5-2.6B on-device, and the NVIDIA Groq 3 LPU at 35× per megawatt. The pattern is consistent across all eight: every release optimizes price-performance at the same or higher intelligence level, and the cost collapse is happening at the model layer, the hardware layer, and the platform layer simultaneously.

업데이트 — 2026-08-04: Qwen3.8-Max 가격 — 오픈웨이트 비용 프론티어 추가 하락

Qwen3.8-Max API 가격이 1M 입력 토큰당 $2, 1M 출력 토큰당 $6으로 확인되었습니다. 암시적 캐시 $0.25/M (QwenCloud, OpenRouter, glbgpt.com, windowsforum.com, 2026년 8월 4일). 이는 Kimi K3($3/$15)를 크게 밑돕니다 — 입력 33% 저렴, 출력 60% 저렴 — 비용 프론티어 섹션에 새로운 데이터 포인트를 추가합니다.

2.4T 매개변수(95B 활성 MoE) 모델로 1M 토큰당 $2/$6. Qwen3.8-Max는 주요 랩의 첫 Max 규모 오픈웨이트 릴리스이며, 가격은 API 시장에서 가장 저렴한 Max 규모 모델로 만듭니다. 비용 프론티어에는 현재 네 가지 가격대의 오픈웨이트 옵션이 있습니다: DeepSeek V4-Flash 0731 $0.14/$0.28(Intelligence Index 50, 가장 저렴한 유능한 모델), Qwen3.8-Max $2/$6(Max 규모, 장시간 자율 작업), GLM-5.2 $0.60/$2.20(방어적 사용), Kimi K3 $3/$15(원시 능력, 93.40% SWE-bench). 라우팅 결정은 이제 네 가지 가격 층에 걸쳐 있으며, 오픈웨이트와 클로즈드 프론티어 간이 아닙니다.
오픈웨이트 비용 우위는 클로즈드 프론티어 대비 누적됩니다. Claude Opus 5 $5/$25는 Qwen3.8-Max보다 입력 2.5× 비싸고 출력 4.2× 비쌉니다 — SWE-bench Verified 97.00%를 리드하는 모델 vs Kimi K3의 93.40%(Qwen3.8-Max는 아직 Artificial Analysis에 의해 평가되지 않음). 비용 격차는 벤치마크 격차보다 빠르게 좁혀지고 있습니다: 오픈웨이트 프론티어는 SWE-bench에서 3.6점 이내이면서 60-75% 더 저렴합니다. 모델 프렉시블 빌드를 위해, 라우팅 계층은 이제 장시간 자율 작업(10+일 자율 코딩, 125시간 연구 재현)을 위해 Qwen3.8-Max를 선택할 수 있으며, 프론티어 비용의 극히 일부입니다.
라우팅 결정에서 변화. 이 글의 비용 프론티어 섹션에는 이제 5개 데이터 포인트가 있습니다: Luna $0.20/$1.20(7월 30일 80% 인하), DeepSeek V4-Flash 0731 $0.14/$0.28(Intelligence Index 50, 7월 31일), Claude Managed Agents $0.08/session-hour(8월 3일), Qwen3.8-Max $2/$6(8월 4일). 패턴은 일관됩니다: 모든 릴리스는 동일하거나 더 높은 지능 수준에서 가격-성능을 최적화합니다. 프론티어는 상단(Opus 5)과 하단(DeepSeek V4-Flash) 모두에서 동시에 저렴해지고 있으며, 오픈웨이트 옵션은 일주일 전에 존재하지 않던 새로운 가격 층(Max 규모의 Qwen3.8-Max)을 추가하고 있습니다. 2026년 1월에 에이전트 추론에 $50,000/월을 예산한 팀은 이제 5개 모델을 5개 가격 포인트로 라우팅할 수 있습니다 — 태스크당 가장 저렴한 유능한 모델은 설정 결정이지 연구 프로젝트가 아닙니다.

업데이트 — 2026-10-02: 의사결정 모델이 저비용 분류 티어를 제품화하다 — Cloudflare Clef + AWS Strands Decider 2B

이 글의 산술이 가리키는 비용 절감 벡터 — 고볼륨, 저모호성 분류를 LLM 호출에서 오프로드하는 것 — 이 하루에 두 번 제품화되었습니다: Cloudflare의 Clef와 Clef-flash(오픈소스, Apache-2.0)와 AWS Strands Labs의 Decider 2B가 TypeSafe의 Jev에 합류해 상용 이용 가능 의사결정 계층이 되었습니다(TREND-02 §3.1). 이 글이 가격을 매기는 상시 루프를 위해, 현재 가격이 매겨진 LLM 티어에 실려 있는 라우팅과 가드레일 호출을 레이턴시와 비용이 일 부분 수준인 의사결정 모델로 옮길 수 있습니다 — 이것이 비용 스택의 아키텍처를 바꿉니다: 프런티어 LLM 지출은 판단이 필요한 호출에 농축되고, 분류 경계(라우팅, 안전 임계값, 트레이스 평가)는 보정을 유지할 수 있는 가장 저렴한 계층으로 이동합니다. 열하루 안에 세 벤더가 출하하면서, 의사결정 티어는 흥미거리가 아니라 조달 라인 항목이 됩니다 — 그리고 이 글의 구매자 계약에 있는 작업당 상한들은 그것을 맞추도록 설계된 모델 클래스를 얻습니다.

업데이트 — 2026-10-26: 자동 라우팅 정정, 그리고 DeepSeek의 150억 달러 재무 행

위의 9월 10일 업데이트에 대한 시효 정정: 발표된 자동 라우팅은 한 번도 발효되지 않았습니다. DeepSeek의 변경 로그(9월 10일 항목, 2026년 10월 26일 재독)는 "In response to user demand, we have decided to continue providing API services for DeepSeek V4 Pro after September 14, 2026, with the billing method remaining unchanged"(사용자 수요에 응해 2026년 9월 14일 이후에도 DeepSeek V4 Pro API 서비스를 계속 제공하기로 결정했으며, 과금 방식은 그대로 유지합니다)라고 기록합니다(변경 로그). 한편 아직 살아 있는 발표 페이지에는 원래의 라우팅 명령이 페이지 자체의 어떤 철회도 없이 그대로 남아 있습니다(api-docs.deepseek.com) — 공급자의 두 표면은 겉보기부터 서로 모순입니다. 비용 거버넌스 논제에게 이 정정은 하향이 아니라 승급입니다: 공급자는 교체를 발표하고, 일방적으로 철회하고, 두 기록을 모두 남겨둘 수 있습니다. 응답에 실린 실제 서빙 모델이 여전히 사실의 기준이며, 라우팅 계층(모델 교체 기사)이 여전히 통제입니다. 둘째, 자금 조달 행은 명명된 출처로 디리스크되어 정리되었습니다: DeepSeek는 두 번째 사모 라운드에서 약 150억 달러를 조달했습니다 — 약 1,000억 위안, Tencent와 CATL이 최대 투자자에 포함 — 프리머니 밸류에이션 약 740억 달러(보도 기준 포스트머니 약 890억 달러). 창업자 량원펑(Liang Wenfeng)은 9월 투자자에게 회사가 연환산 10억 달러 속도로 수익을 내고 있으며 상하이 스타마켓 IPO를 목표로 하고, 훈련을 중국 칩으로 옮기려고 Huawei와 협력한다고 말했습니다(qz.com; TechStartups — WSJ/블룸버그 보도의 중계). 가장 싼 상시 가동 에이전트 컴퓨트의 신뢰 공급자가 이제 전략 투자자의 깊이와 IPO 활주로와 칩 다변화 경로를 갖추었습니다 — 이 레인의 공급자 연속성 리스크는 내려가고, 9월의 모델 정체성 사건이 상시 경고로 남습니다.

업데이트 — 2026-09-30: Gemini 4 Argon이 3개 랩 작업당 비용 세트를 완성하다

이 글이 9월 내내 모아 온 엑서비트 세트에 세 번째 랩이 합류했다: Google이 2026년 9월 30일 Gemini 4 Argon을 출시했다 — 7개월여 만의 플래시가 아닌 프런티어 모델 — AA Intelligence Index에서 53점을 기록하며 GPT-6 Astra와 동률을 이루었다. 프로모션 요금(표준 $4/$20이 현재 50% 할인된 $2/$10) 기준으로 AA가 측정한 Argon은 Intelligence Index 작업당 $1.99 — Astra의 $3.26의 60% 이지만, 그 자체가 약 5분의 1 비용으로 Astra와 동률인 GPT-6.1 Sol($0.74)의 2.7배다. Sonnet 5.5는 토큰 효율 방향에서 세트를 완성한다: Index 56점에 요금 카드는 $2/$10 그대로, 그러나 최대 노력 기준 Index 작업당 약 193,000 출력 토큰이 $7.60의 청구서를 만든다 — Sonnet 5보다 약 50% 높다. 추론 구매자를 위한 3개 랩의 결론: 같은 50점대 지능이 이제 출시 전략에 따라 작업당 $0.74, $1.99, $7.60로 청구된다 — 가격 주도, 역량+할인, 역량+토큰 청구서. Argon의 캐시 입력 95% 할인($0.10/1M)은 캐시 주도路线의 짝 데이터 포인트이며, 업계 최고 수준인 100만 토큰 출력 한도는 always-on 경제학을 반대 방향으로 바꾼다: 연속 추론 루프가 더 이상 64K 천장에서 조각나지 않고, 장시간 가동 에이전트의 출력 측 청구서가 흩어지는 대신 모일 수 있게 된 것이다.

Sonnet 5.5의 교훈과 병행되는 경고 하나: 프로모션 가격은 요금 카드가 아니다. Argon의 $2/$10은 Google이 유지를 약속하지 않은 할인이다. 프로모션 이후 비용은 작업당 $3.98로 측정된다(약 Astra의 1.2배). 프로모션 이후 숫자로 계약하거나, 프로모션 만료일을 조달 달력에 올려라 — 할인 구조 자체가 네 번째 랩의 라우팅 결정이며, DeepSeek V4.1-Flash 사건이 기록한 자동 라우팅 인접 대체 리스크와 같은 계보다.

업데이트 — 2026-09-29: 주간 가격전 원장 — 세 가지 출시 전략, 하나의 작업당 비용 표

이 글이 추적하는 가격 케이던스는 이제 주간이며, 9월 출시들은 추론 구매자가 나란히 가격을 매겨야 하는 세 가지 출시 전략으로 정리됩니다 (pricepertoken의 9월 원장은 이번 달 671개 추적 모델에서 181회 가격 변경을 집계): 가격 주도 — $2/$10의 OpenAI GPT-6 Sol, $0.10/$0.50의 Luna 계층, 그리고 한 주 뒤 거의 동일한 $2/$10로 Astra에 근접한 지능을 지닌 GPT-6.1 Sol (OpenAI) — 는 상품 가격으로 프런티어 역량을 삽니다. 캐시 주도 — 캐시 읽기 −60%와 함께 $4/$20인 Anthropic의 Opus 5.5 — 는 쓰기가 많은 에이전트 루프에 지배적 비용 라인의 재가격을 삽니다. 역량 주도 — 변하지 않은 $2/$10 요금표로 9월 28일에 출시된 Claude Sonnet 5.5이지만, Artificial Analysis가 최대 노력에서 Intelligence Index 작업당 약 193,000 출력 토큰을 측정 — AA가 기록한 가장 높은 토큰 청구서로, 대략 GPT-6 Astra의 작업당 7배 — 는 효율 함정을 보여줍니다: "작업당 최대 30% 저렴"이 $7.60의 실측 작업당 비용과 경쟁하며, 이는 Sonnet 5 대비 약 50% 높습니다 (AA; 전체 산술은 Sonnet 5.5 분석에 있습니다). 두 개의 라우팅 무결성 전시가 이 달을 완성합니다: OpenAI의 Smart Route(9월 25일)는 가격이 매겨진 계층 사이에서 자동 선택합니다 — 이 글의 감사 로그 가이던스가 다루는 공급업체 측 라우터가, 이제 사건이 아니라 기본값으로; 그리고 MiMo-V2.6-Pro(총 1.02T / 활성 42B, MIT 라이선스)가 46으로 AA Intelligence Index 역사상 최고 점수 오픈웨이트 모델이 되며, 이미 토큰 볼륨의 29%가 실려 있는 오픈웨이트 바닥을 재가격화합니다. 한 가지 주의가 이 업데이트의 모든 교차 모델 비교를 지배합니다: AA의 Intelligence Index 점수는 릴리스 전반에 걸쳐 리베이스되므로, 다른 리베이스에서 인용된 점수는 비교할 수 없습니다 — 리베이스를 넘어 인덱스를 섞지 마십시오. 구매자의 계약은 9월 11일 읽기 이후 바뀌지 않았습니다; 무시하는 대가가 바뀌었습니다: 모델 ID를 고정하고, 주간 상한이 있는 작업당 비용으로 계약하고, 다음 모델 교체 전에 산술을 다시 실행하십시오 — 현재 케이던스로는 그 교체가 며칠 밖에 남지 않았습니다.

업데이트 — 2026-10-04: 로컬 결정 모델 — API 왕복이 가장 싼 계층을 떠나다

이 문서가 유지하는 추론 비용 모델은 가장 싼 계층에서 데이터포인트를 얻는다: llama.cpp가 결정 모델 계급(Julia-1, Laya, Kev-4B, lev, OpenJev를 GGUF로, /v1/systemone 스타일 엔드포인트 경유)을 서비스하게 되어, API 지출을 피하려고 존재하던 계층에서 API 왕복이 사라진다. 결정 모델 계층은 원래 스택에서 한계 비용이 가장 낮은 계층이었다; 로컬 런타임은 그 비용을 한계 영(零) 근처로 밀고 남는 지출을 RAM/CPU 프로비저닝으로 옮긴다. 규모화 상시 가동 에이전트의 라우팅 산수가 바뀐다: 로컬 결정 모델은 건당 API 가격이 설계 제약이던 규모에서, 액션당 판정을 감당할 수 있게 만든다.

업데이트 — 2026-10-02: 벤더 파이낸싱 컴퓨트 — Broadcom이 Anthropic에 최대 420억 달러 대출

이 글이 추적하는 가격 산술에 이제 파이낸싱 차원이 생겼습니다: Broadcom이 Anthropic에 최대 420억 달러를 대출해 Broadcom의 칩을 리스하기로 합의했습니다 — 지금까지 공개된 가장 큰 AI 하드웨어 대여 계약입니다(로이터, 2026년 10월 1일). 비용 스택을 위해, 이것은 토큰당·작업당 열이 닫지 않는 벡터를 만듭니다: 벤더의 대차대조표에서 확보되고 미래 매출에서 갚아지는 컴퓨트. 구매자를 위한 전략적 독해는 방향은 그대로지만 메커니즘이 더 선명합니다 — Anthropic의 프런티어 용량이 이제 확약된 벤더 파이낸싱 위에서 달리며, 이 글이 기록한 벤더 연속성 리스크(DeepSeek 자동 라우팅 사건, Relay 셧다운)를 특정 형태로 농축합니다: 컴퓨트 공급이 자기 책의 부채인 랩은 마진만큼 부채 상환에도 구속되는 가격 행동을 가진 랩입니다. 다음 작업당 비용 비교가 나올 때, 각 랩의 용량 뒤에 있는 파이낸싱 구조가 산술의 일부입니다.

업데이트 — 2026-10-06: 추론 경제학 대장에서 새로운 주권 오픈웨이트 가격 라인 3건 추가 — ML4, Beam, Kolibri-1

Mistral Large 4 (ML4, 2026년 10월 6일 퍼블릭 프리뷰). 1T 파라미터 / 49B 액티브 네이티브 멀티모달 MoE를 Mistral 자체 유럽 데이터센터의 3,800장 NVIDIA Grace Blackwell GPU로 학습(€3B 시리즈 D — 유럽 테크 기업 역사상 최대 지분 유치). 가격 입력 $1.36/M, 출력 $4.18/M — 9월 전략 옆에 대장이 나란히 두어야 할 유럽 주권 오픈웨이트 신규 라인입니다. 그러나 본 문서가 가장 신중하게 가격 평가하는 전시품은 최대 노력에서 달러당 능력입니다: ML4가 reproduce-and-patch에서 82% (측정된 모든 모델 중 최고 사이버보안 점수. Claude Opus 5.5와 GPT-6 Astra는 과제를 거부해 거의 0점) — 주권 바이어가 이 security-workload per-dollar 데이터 포인트를 소비자 API 바이어와 다르게 가격 평가하는 부분입니다. 가중치는 이번 달 말 공개. 셀프호스트 경로가 레이트 카드를 완전히 대체합니다.

Reflection AI Beam. 501B / 23B 액티브 스파스 MoE를 10.5K장 NVIDIA GB300 GPU에서 1억 회 이상 RL 롤아웃으로 학습 — 코딩과 에이전트 과제에서 GLM-5.2에 필적, Qwen 3.8-Max에 근접하며 추론 연산은 3–4배 적음(SWE-Bench Verified 80.9%, Terminal-Bench v2.1 80.1%, MCP Atlas 78.7%). 대장의 능력-당-과제 행이 서구 벤더에서欠缺했던 연산 효율 데이터 포인트입니다: 501B 모델이훨씬 작은 액티브 풋프린트처럼 행동하고, Nvidia 지원($4.7B 조달, 프리머니 $25B), Apache 2.0 가중치 이번 달, "AI 팩토리" 주권 배포 제안(한국 신세계 파트너십)을 동반합니다.

Kolibri-1 (Aleph Alpha, 10월 3일). 총 78.1B / 액티 3.46B MoE, 라우팅 엑스퍼트 384개(토큰당 6개 액티브), 독일어-영어 이중언어, 262K 컨텍스트(1M까지 확장 가능), Apache 2.0, 독일·핀란드 개발·학습 — 프랑스 라인 옆에 독일의 주권 오픈웨이트 라인.

대장 구조에 대해: 9월의 세 가지 릴리스 전략(price-led, cache-led, capability-led)은 여전히 프레임이지만, 네 번째 소싱 차원이 이제 독립적으로 가격 평가됩니다 — 주권: 가중치가 어디에 있고 누가 당신의 워크로드를 거부할 수 있는지, 셀프호스트가 레이트 카드 대비 무엇을 요구하는지. ML4의 $1.36/$4.18를 Sonnet급 per-task 산술에, Beam의 3–4배 효율을 GLM-5.2급에 비춰 평가하는 바이어는 본 문서가 요구하는 규율을 실행하는 것입니다: 다음 모델 교체 전에 산술을 다시 계산 — 그리고 교체는 이제 매주 세 지역에서 도착합니다.

업데이트 — 2026-10-15: Muse Spark Open + Apple MLX — 데스크톱 클러스터 토폴로지 행

이 글의 비용 최적화 벡터에 데스크톱 클러스터 토폴로지 데이터포인트가 추가되었습니다. Meta의 Muse Spark Open(2026년 10월 15일)은 약 530GB NVFP4 체크포인트를 공개했고, Apple의 MLX 연구 포스트는 그 체크포인트의 RDMA 분산 추론을 Mac Studio 클러스터에서 시연했습니다. 약 38,000 달러 상당의 Apple 실리콘(256GB M5 Ultra Mac Studio 4대, Engadget 기준)은 내가 보유한 하드웨어에서 부분 프런티어 능력을 삽니다. 이는 RTX Spark 24GB 로컬 행이 하단에서 열어 둔 축과 동일한 축입니다. 비용 승리가 아니라 토폴로지 행으로 읽으십시오. 3.8만 달러의 자본은 토큰 청구 없는 능력 폭을 삽니다. API 과금은 풀 프런티어를 삽니다. 상시 가동 에이전트의 빌드 결정은 이제 이 양극 사이에서 데스크톱 클러스터의 검증 사례를 갖습니다. 애그리게이터에서 뜬 API 가격은 Muse Spark Open을 백만 토큰당 약 1.25 달러로 올려놓습니다. Meta의 일차 자료 대비 미검증이므로 인용 전에 라벨을 다셔야 합니다.

Update — 2026-10-19: MiniMax M3.1 Flash ― 공시된 캐시 요율 행

벤더가 공시한 $0.015/1M 캐시 입력 행이 도착했습니다. MiniMax(HKEX: 0100.HK)는 2026년 10월 19일 M3.1 Flash를 단일 가격 $0.15 입력 / $0.60 출력 / $0.015 캐시 입력(1M 토큰당)으로 출시했습니다 ― 피크/비수기 시간 구분 없음 ― 이로써 캐시 행은 견적서가 참조할 수 있는 조달 항목이 됩니다 (MiniMax; Reuters). 위의 91.5% 히트 실질 행 바로 옆에 자리합니다. DeepSeek은 캐시 히트 입력을 $0.003–$0.006으로 공시하고 미스 가격은 $0.15–$0.30입니다(오프피크 미스 가격의 2%, 시간 구간 조건부). MiniMax는 목록의 10%에 해당하는 단일 요율을 그대로 공시합니다. 두 체제는 동일한 산술을 따릅니다. 유효 입력 = 히트율 × 캐시 요율 + 미스율 × 목록 요율 ― 예시 히트율 91.5%에서 DeepSeek의 계산은 약 $0.017/1M, MiniMax의 계산은 약 $0.0265/1M입니다 (DeepSeek 가격; 전체 비교는 캐시 비용 분석과 M3.1 Flash 기사). 게재 시점에 가중치는 미공개입니다(커뮤니티 게시물은 10월 23일, 428B MoE 수치는 애그리게이터 보도로 미확인) ― 가격표를 인용하고 파라미터 행은 유보하세요.

NetSuite와 BigCommerce를 운영하는 중견 유통업체는 주당 200개 RFQ를 처리한다. Luna 가격에서, 수신함을 모니터링하고 MCP 모듈로 세 개의 공급업체 카탈로그를 쿼리하고, 대체 부품을 위한 지식 그래프를 확인하고, 견적 응답을 초안하는 에이전트의 추론 비용은 주당 $50 미만이다. 동일 워크로드는 2026년 1월 가격에서 $2,000 이상이었다. 유통업체의 질문은 더 이상 에이전트가 감당 가능한지가 아니다——통합 레이어가 구축되었는지이다. MCP 모듈, 지식 그래프, 견적 발행을 위한 인간 승인 체크포인트, 모든 툴 호출의 감사 추적이 빌드의 90%이다. 그것이 스코프가 정의된 인게이지먼트가 제공하는 것이다: 저렴한 모델을 프로덕션 에이전트로 변환하는 통합과 거버넌스 레이어.

업데이트 — 2026-10-07: GLM-5.3-Flash — 플래그십 요율표의 10분의 1로 프런티어에 근접한 능력

원장의 가장 강력한 비용 붕괴 항목이 2026년 10월 7일 도착했습니다: Z.ai의 GLM-5.3-Flash. 320B 총/18B 활성 네이티브 멀티모달 MoE로 입력 0.15달러/M, 출력 0.50달러/M — GLM-5.3의 1.40/4.40의 10분의 1(Z.AI 블로그). 달러당 산술이 바로 본 문서가 가격을 매기는 논제입니다: Intelligence Index v4.1.1 57점, 태스크당 0.045달러(할인가) — Z.ai에 따르면 이 능력 수준은 이전에는 약 10배 비용에서만 가능했습니다 — Terminal Bench 2.1은 84.3(Claude Opus 4.8과 1점 이내), AutomationBench는 48.8로 에이전트 워크플로 벤치마크에서 Claude Opus 4.8(41.0)과 GPT-5.6 Terra(37.2)를 앞섭니다. 중국 AI 칩 위에서 대규모 서빙되며 SGLang 전용 추론 엔진으로 3배 개선을 주장합니다 — 원장의 하드웨어 효율 행에 비(非)NVIDIA 데이터 포인트가 추가됐습니다. 수요 측면은 이미 보입니다: MarketScale은 토큰 비용 급등으로 기업 AI 예산이 1~2개월 만에 고갈된다고 보도하고, AI Business Weekly는 2026년 AI 인프라 지출이 62.5% 증가해 8,220억 달러에 달하지만 측정 가능한 기업 전체 이익을 창출한 채택 기업은 6%뿐이라고 집계합니다 — 이 예산 고갈 데이터가 태스크당 산술을 최적화가 아니라 조달 제약으로 바꿉니다. 구매자의 계약 규율은 동일합니다: 모델 ID를 고정하고(GLM-5.3-Flash는 GLM-5.3과 다른 요율표 — 자신의 게이트웨이가 어느 쪽으로 라우팅하는지 확인), 주간 상한을 둔 태스크당 비용으로 계약하며, 다음 교체 전에 산술을 다시 실행합니다. 가중치는 동일한 매출 연동 라이선스 계열로 Hugging Face에 있으므로, 볼륨 임계값을 넘는 운영자에게 셀프호스팅 경로는 이 항목을 요율표에서 완전히 지웁니다. GLM-5.3-Flash 짝문서에 가격과 거버넌스의 전체 분해가 실려 있습니다.

요율표를 둘러싼 시장 구조는 병행하여 가속합니다: 2026년 4분기는 공개된 AI 에이전트 펀딩 2억 6천만 달러로 문을 열었습니다 — Armadin의 2억 5,550만 달러 시리즈 B(AI 네이티브 사이버보안, a16z+Accel, 기업가치 25억 달러+)와 개인 AI 비서의 Instinct 10억 달러 시리즈 C(기업가치 100억 달러) — 추론 수요는 가격이 붕괴하는 것과 같은 속도로 자본화되고 있습니다.

귀하의 시스템을 위해 이것을 구축하고 싶으신가요?

여기의 각 문서는 실제 프로덕션 작업에서 나왔습니다. 대상 시스템과 워크플로가 있다면, 1주 내에 빌드를 범위 정의할 수 있습니다.

범위 정의 빌드 요청

1주 발견. 시스템 인벤토리, 워크플로 맵, 고정 범위를 받습니다 — 우리와 빌드할지 여부와 관계없이.