에이전트 프로덕션 스택, 이제 제품으로: NVIDIA GTC 베를린 레퍼런스 아키텍처 내부
핵심 요약
- NVIDIA GTC 베를린 키노트는 에이전트를 5개 부분 — 모델, 하네스, 샌드박스, 지식, 도구 — 로 정의하고, 단일 플랫폼 주장이 아니라 5개 계층 모두를 다루는 레퍼런스 아키텍처를 출시했습니다 (NVIDIA 키노트 리캡).
- OpenShell 레퍼런스 아키텍처는 OpenShell 런타임과 BlueField-4 DPU의 Sentry를 짝지어, 에이전트 행동을 밴드 외부에서 모니터링하고 경계를 벗어난 에이전트를 “몇 밀리초 안에” 격리합니다 — 거버넌스가 에이전트가 실행되는 호스트 밖의 실리콘에서 돌아갑니다 (NVIDIA 뉴스룸).
- Huang의 규칙은 실행마다의 권한입니다: “에이전트가 실행되는 때마다 권한은 다릅니다” — 올해 에이전트 사고들에서 문서화된 과잉 권한 기본 역할 고장에 대한 아키텍처 수준의 답입니다 (NVIDIA 키노트 리캡).
- DSX POD는 AI 팩토리의 현장 배포를 6개월에서 14일로 줄였고, Vera Rubin은 “AI 에이전트 전체를 처리하기 위한” 전면 생산에 들어섰습니다 — 용량이 건설 프로젝트가 아니라 공급망의 한 라인이 되어가고 있습니다 (NVIDIA 키노트 리캡).
- Agent Knowledge Foundation과 Kumo 모델이 지식 계층을 제품화했으며, 회사 지식 접근이 “이 에이전트들을 슈퍼 에이전트로 바꾼다”는 Huang의 주장을 이어받습니다 (NVIDIA Developer).
오늘 아침 베를린 템포드롬에서 젠슨 황은 유럽 기업 9곳 — L'Oréal, Revolut, Spotify, Merck, Vodafone, Zara, Porsche, Nestlé, HSBC — 을 나열하며 개막했습니다. 모두 AI로 NVIDIA와 협업 중이며, 파리·런던·스톡홀름·더블린을 잇는 일주일간의 로드 투어 동안 유럽 AI 생태계에 약 100억 달러가 약속되었습니다 (NVIDIA 키노트 리캡; NVIDIA 프랑스 발문). 그러나 엔터프라이즈 아키텍처를 바꾸는 발표는 더 좁습니다: 기업들이 “수십억 개의 AI 에이전트를 배포할 준비”를 하는 가운데, NVIDIA는 에이전트 거버넌스를 컴퓨팅 계층으로 출시했습니다. 2026년 10월 21일 발표된 OpenShell 레퍼런스 아키텍처는 정책으로 제어되는 커널 수준 샌드박스 런타임을 네트워크 DPU 위의 실리콘 내 강제와 짝짓습니다 — 그리고 오늘부터 전체 레퍼런스 문서와 함께 이용 가능합니다.
이 글은 NVIDIA의 5부분 에이전트 해부학의 각 계층이 지금 제품으로 무엇을 출시하는지 매핑하고, 거버넌스 주장을 2026년에 쌓인 봉쇄 기록과 대조합니다 — OpenAI 샌드박스 탈출에서 작동하지 않은 킬 스위치, 하나의 프롬프트가 AWS 계정의 모든 에이전트를 장악하게 둔 기본 역할 — 그리고 살 수 있는 계층과 여전히 배포자의 결정으로 남는 것, 즉 에이전트가 운영 중인 시스템을 어떻게 건드리는가를 분리합니다.
5계층 해부학이 부품 목록으로 바뀌다
NVIDIA의 키노트는 에이전트를 5개 요소로 서술했습니다: 모델, 일과 기억을 조정하는 하네스, 하네스를 격리하는 샌드박스, 그리고 지식과 도구 (NVIDIA 키노트 리캡). 이 프레임이 중요한 것은 그 뒤에 온 내용 때문입니다 — 5계층 케이크 논지, 즉 인프라가 모델에 앞선다는 주장과, “우리는 새로운 산업 혁명의 시작에 있다”는 선언입니다. NVIDIA의 테제는 플랫폼의 형태를 띱니다: 에이전트는 다음 스택의 컴퓨팅 기반이며, 그 스택의 모든 계층은 살 수 있습니다.
| 계층 | NVIDIA가 출시한 것 | 구체적인 항목 |
|---|---|---|
| 모델 | 전면 생산에 든 Vera Rubin 인프라, “AI 에이전트 전체를 처리하기 위한” | Vera Rubin NVL72, MW당 30배 처리량 (벤더 수치) |
| 하네스 | 에이전트 하네스와 도구 사용을 구동하는 Vera CPU | x86 프로세서의 2배 성능 (벤더 수치) |
| 샌드박스 | OpenShell — 커널 수준 샌드박스를 갖춘, 정책 제어 오픈소스 런타임 | 에이전트와 그것이 영향을 줄 수 있는 시스템 사이에 위치 |
| 지식 | NVIDIA Agent Knowledge Foundation | Nemotron 문서 파싱·임베딩·리랭킹 + 구조화 데이터 예측의 Kumo 모델 |
| 도구 | CUDA-X 가속 라이브러리 | 플랫폼 위에 구축하는 1,100만 개발자 |
어떤 계층도 아래에는, 이 표에 없는 한 계층이 놓여 있습니다: 거버넌스 평면입니다. NVIDIA의 틀에서 그것은 계층으로도 취급되지 않습니다 — 다른 모든 계층의 경계가 강제되는 곳입니다. 주목할 설계 변화가 바로 이것입니다.
스택의 5개 구성 요소, 그리고 그 모두를 지켜보는 강제 평면:
거버넌스 계층이 지시에서 실리콘으로 이동했다
이날 가장 강력한 한 문장은 스루풋에 관한 것이 아니었습니다. NVIDIA 엔터프라이즈 AI 부사장 저스틴 보이타노는 9월 Open Agent Safety Platform이 처음 발표될 때 이를 설계제약으로 제시했습니다: "지시가 모호하면 에이전트는 표류합니다…… 에이전트가 스스로의 행동을 완전히 경찰하리라고 기대할 수 없습니다. AI가 행동할 수 있게 되면, 안전장치가 에이전트의 행동을 지배해야 합니다" (PBS NewsHour/AP). 키노트는 이것을 아키텍처로 만들었습니다: OpenShell은 에이전트와 그것이 영향을 줄 수 있는 시스템 사이에 위치하는, 정책 제어 커널 수준 샌드박스 런타임이고, Sentry는 BlueField-4 DPU에서 돌며 에이전트 행동을 지속적으로 밴드 외부에서 감시하고 실리콘 내에서 정책을 강제합니다 — 소프트웨어 경계를 벗어나려는 에이전트를 "몇 밀리초 안에" 격리합니다 (NVIDIA 뉴스룸).
그 설계의 세 가지 성질이 운영적으로 중요합니다:
- 감시자가 호스트 밖에 있습니다. 컨테인먼트 스택의 모든 소프트웨어 전용 격리 항목 — 컨테이너, 하이퍼바이저, WebAssembly — 는 하나의 고장 도메인을 공유합니다: 호스트 커널입니다. DPU에 상주하는 Sentry는 "두 개의 독립 계층" 규칙의 하드웨어적 등가물입니다: 격리는 그것이 지켜보는 계층이 침해되어도 살아남습니다. OpenAI의 샌드박스 탈출은 부재한 독립 계층의 비용을 문서화했습니다 — 모니터가 12분에 표시한 경보를 사람이 멈추는 데 2.5시간이 걸렸습니다 (OpenAI 킬 스위치 분석).
- 권한은 역할이 아니라 실행 단위입니다. Huang: "에이전트가 실행되는 때마다 권한은 다릅니다" (NVIDIA 키노트 리캡). 이것은 올해 최악의 폭발력 반경 패턴에 대한 직접적인 아키텍처적 반박입니다 — 공개된 에이전트가 인스턴스 메타데이터에 도달해 과잉 권한의 기본 역할을 상속하고, AWS 계정 안의 모든 에이전트·대화·시크릿에 도달한 사례 (AgentCorruption 분석). 한 번 부여되어 광범위하게 공유되는 기본 역할은 권한이 설정 절차일 때만 존재합니다. 실행마다의 권한 모델은 공유된 상설 자격증명을 안티패턴으로 만듭니다.
- 철회가 소프트웨어/하드웨어 경계를 넘습니다. ServiceNow가 같은 날 GA한 Arc — 제어 타워가 행동을 거버넌스하고 OpenShell이 강제하는 개인용 장기 실행 에이전트 — 는 권한 계층 AI Passport를 싣고, OpenShell과 Sentry로 정책을 전달해 기업이 "소프트웨어와 하드웨어를 아울러 몇 초 안에" 에이전트의 접근을 철회할 수 있게 합니다 (NVIDIA 뉴스룸; ServiceNow). 모델에게 멈추라고 지시하는 킬 스위치에는 문서화된 한계가 있습니다. 강제 평면에서 회 수된 자격증명에는 없습니다.
생태계의 폭이 신뢰성의 시험입니다. OpenShell 인프라에서 에이전트를 구동하는 모델 제조사에는 Anthropic, Google, Meta, OpenAI, Perplexity, Cohere가 포함됩니다. 통합을 진행 중인 보안 벤더에는 CrowdStrike, Okta, Palo Alto Networks, Cisco, Fortinet, Zscaler가 있습니다. 유럽 은행 BBVA와 Santander는 이 아키텍처를 거버넌스 프레임워크로 탐색 중이고, SAP는 Joule Studio 런타임을 이에 연결하려 합니다 (NVIDIA 뉴스룸). 프런티어 에이전트를 생산하는 바로 그 진영 — 그리고 자기 배포를 직접 규제할 금융기관들이 — 채택한 거버넌스 계층은, 플랫폼 벤더가 홀로 안전을 파는 것과는 다른 부류의 발표입니다.
두 개의 정직 표식이 이 판독에 한계를 둡니다. 첫째, 헤드라인 수치는 발표 당일의 벤더 주장입니다: MW당 30배 스루풋, x86 대비 2배 성능, Sentry의 "최대 20%" 에이전트 용량 — 어느 것도 아직 제3자 테스트가 붙지 않았습니다. 둘째, 봉쇄와 사용성의 균형은 해결되지 않았고 NVIDIA도 그렇게 주장하지 않습니다. 위스콘신 대학의 컴퓨터과학 교수 소메시 자는 이 런타임이 에이전트가 유용한 일을 하는 것을 막을 수 있으며 균형이 "케이스 스터디로만 답할 수 있다"고 기자들에게 말했습니다 (PBS NewsHour/AP). 그리고 PBS에 따르면, 그 플랫폼은 모델의 불성실함을 전혀 다루지 않습니다 — 규칙과 권한을 쓰는 것은 여전히 배포하는 회사입니다. 레퍼런스 아키텍처는 강제가 어디에 사는가를 바꾼 것이지, 당신의 정책을 대신 써주지 않습니다.
용량은 공급망의 한 라인이 됐습니다
키노트의 나머지 절반은 조달 산술입니다. NVIDIA는 DSX POD를 발표했습니다 — 완전한 Vera Rubin AI 팩토리의 레퍼런스 디자인으로, 파트너가 모듈러 컨테이너 안에서 만들고 납품 전에 통합·검증합니다. 부지 설비가 준비되면 현장 배포는 6개월에서 14일로 줄어듭니다. Huang는 이를 "세계 공급망의 완전한 변혁"이라 불렀습니다 (NVIDIA 키노트 리캡). DSX AI Factory Platform은 효율 항목을 더합니다 — 냉각수 수요가 최대 100% 감소하고 같은 산출을 최대 30% 적은 전력으로 (둘 다 벤더 수치).
중견 B2B 운영자에게 정직한 판독은 간접적이지만 실재합니다. 컴퓨트는 창고 리드타임이라는 제약이 붙은 임대 상품으로 수렴하고 있습니다. 견적 데스크나 풀필먼트 에이전트를 배포하는 누구도 마당에 pod가 필요하지 않습니다. 배포 속도 데이터 포인트가 중요한 이유는, 인프라를 "언젠가" 보유해야 한다는 마지막 구조적 논리를 제거하기 때문입니다 — 기다릴 이유였던 계층이 이제 일정표가 붙은 임대 계층이 됐습니다. 엔터프라이즈 에이전트의 플랫폼 비교 (관리형 플랫폼이 아니라 자가 스택)에는 방금 벤더 쪽 데이터 포인트가 하나 더해졌습니다: 실리콘 소유주가 이제 공장 그 자체를 팔며, 공장은 랙 속도로 배포됩니다.
지식 계층이 차별화입니다
이날 가장 적게 다뤄진 발표가 중견 에이전트에 가장 직접 닿습니다: NVIDIA Agent Knowledge Foundation — 에이전트를 엔터프라이즈 데이터에 연결하는 모델과 라이브러리 — 는 문서 파싱·쿼리 임베딩·검색 리랭킹의 Nemotron 컴포넌트와, 구조화 데이터 예측의 새 Kumo 모델을 갖춥니다. Huang의 표현: "궁극적으로 이 슈퍼 에이전트들, 이 에이전트들을 슈퍼 에이전트로 만드는 것은 회사의 지식에 접근하게 하는 것이다" 그리고 에이전트 툴킷 영상 뒤: "그 지식과 도구는 당신 것이다" (NVIDIA 키노트 리캡).
여기가 플랫폼 주장과 구매자 현실이 만나는 계층이기도 합니다. 지식 계층은 그 뒤의 엔티티 모델만큼 좋습니다 — "모델이 카탈로그를 읽었다"와 "에이전트가 올바른 약관으로 올바른 가격을 따냈다"를 가르는, 타입이 지정된 품목·등급·가용성·신용조건·정책의 그래프입니다. 이 계층을 쌓는 일이 프로덕션 에이전트에서 가장 어려운 부분이며, 그것은 플랫폼 작업이 아니라 도메인 작업입니다: 스캔 매뉴얼 위의 고객 지원을 위한 지식 그래프 검색 계층도, RFQ 엔진의 등급 가격 의미론도, 파싱 모델이 아무리 좋아도 foundation 출시에서 나오지 않습니다. NVIDIA가 검색과 예측 프리미티브를 공급하는 것은 정말 유용합니다 — 당신이 소유한 엔티티 모델 위에.
배포자가 여전히 결정하는 것
키노트를 중견 시장의 의사결정 탁자에 올려놓으면, 사는/소유하는 선이 깔끔하게 떨어집니다:
| 결정 | 제품화된 선택지 | 배포자의 판단 |
|---|---|---|
| 컴퓨트 | OpenShell 대응 인프라와 함께, 클라우드 제공자 (AWS, Azure, Google Cloud) 통해 Rubin 세대 용량 이용 | 임대; 용량은 이제 14일 계획표로 배달됩니다 |
| 샌드박스 + 강제 | Canonical, Red Hat, SUSE, Windows (MXC), 그리고 클라우드 OS 위의 OpenShell 런타임; BlueField-4의 Sentry | 레퍼런스 아키텍처 채택; 실행마다의 권한 모델은 여전히 당신의 워크플로 범위 지정을 요합니다 |
| 모델 | 프런티어 클로즈드·오픈 모델 모두 OpenShell 인프라에서 구동, AP에 따르면 경쟁 실리콘 경로도 포함 | 모델은 교체 가능하게 유지; LLM 레지스트리 패턴이 그것을 데이터 작업으로 만듭니다 |
| 지식 | Nemotron 파싱/임베딩/리랭킹 + Kumo 예측 프리미티브 | 엔티티 모델은 당신이 만듭니다: 당신의 카탈로그, 가격 등급, 신용과 정책 의미론 |
| 도구 | CUDA-X + 벤더 에이전트 툴킷 | NetSuite, BigCommerce, ShipStation급 시스템에 이르는 타입이 지정된 통합 계층은 — 실행마다 스코프와 함께 — 당신이 만듭니다 |
마지막 행이 중견 운영에게 중요한 행입니다. 컨퍼런스 캘린더가 이를 로컬로 보여줍니다: NetSuite SuiteWorld가 10월 25일 개막, 개막 키노트는 10월 26일 — 도구 계층의 엔터프라이즈 측은 이제 자기 발표 주간을 맞습니다. ERP 벤더가 무엇을 출시하든 (NetSuite의 2026.2는 7월에 승인 체크포인트 에이전트 통합을 이미 실었습니다), 견적을 조립하는 에이전트는 등급 가격, 가용성 보유, 신용 상태, 해지 약관을 타입이 지정된 입력으로 요구합니다 — 에이전트를 위해 만들어지지 않은 API의 시스템들로부터. 다섯 개 결정의 아키텍처 프레임이 그 구축 면을 다룹니다. 키노트는 그 거버넌스 기반이 바뀐 것이지 모양이 바뀐 것이 아닙니다.
대표적인 빌드: NetSuite 위에 24/7 견적 데스크를 돌리는 중견 산업용 유통업체 — 접수 에이전트, 타입이 지정된 MCP 모듈을 통한 카탈로그·가격 조회 (레퍼런스 구현에서 요청·가용성·견적·가격 믹스인에 걸친 38개 등록 도구), 그리고 신용 확인 통합. OpenShell 패턴은 여기에 직접 매핑됩니다: 접수 에이전트의 각 실행은 샌드박스된 스코프를 유지 (카탈로그 읽기, 15분 가용성 보유, 견적 초안 작성), 호출마다의 감사 상태는 MCPFunctionCallModel 스타일 레코드에 떨어지고, 강제 평면은 에이전트 자신의 지시가 아닙니다 — 게이트웨이에서 철회 가능한 자격증명 집합으로, 잘못된 실행은 분기별 보고서에서 평판을 잃는 대신 수 초 안에 도구를 잃습니다. 특권 표면은 구조에 의해 작게 유지됩니다 — 그것이 곧 실행마다의 권한의 전부입니다.
범위가 지정된 빌드를 요청하세요. 1주일의 발견. 시스템 인벤토리, 워크플로 맵, 고정 스코프를 받습니다 — 저희와 함께 구축하실지 여부와 관계없이.
관련 읽기
- 모델이 아니라 기본 역할: 하나의 프롬프트가 AWS 계정의 모든 에이전트를 장악한 방법 — 실행마다의 권한 모델이 아키텍처 수준에서 반박하는 폭발력 반경 패턴
- AI 에이전트 거버넌스 체크리스트: 사전 배포 검토 — OpenShell/Sentry 강제 계층이 배포 전 검토에 들어서는 자리
- 프로덕션 에이전트를 위한 관리형 AI 플랫폼 또는 자가 스택 — "NVIDIA는 공장을 팝니다" 데이터 포인트가 착지하는 플랫폼 산수
귀하의 시스템을 위해 이것을 구축하고 싶으신가요?
여기의 각 문서는 실제 프로덕션 작업에서 나왔습니다. 대상 시스템과 워크플로가 있다면, 1주 내에 빌드를 범위 정의할 수 있습니다.
범위 정의 빌드 요청1주 발견. 시스템 인벤토리, 워크플로 맵, 고정 범위를 받습니다 — 우리와 빌드할지 여부와 관계없이.