AI 컨텍스트 플랫폼: 그래프 기반 컨텍스트 계층이 벡터 전용 RAG를 능가하는 경우

Gartner는 2026년 8월 13일 "AI Context Platforms"에 공식 정의를 부여했습니다. 데이터·AI 엔지니어링 팀이 의미적으로 정리된 지식을 구축·거버넌스·전달하고, 에이전트별 설정이 아닌 최우선 기업 자산으로서 컨텍스트를 다루게 하는 소프트웨어입니다. 2개 벤더가 48시간 안에 제품으로 카테고리에 응답했습니다. Neo4j는 10월 20일 Context Engine을, NVIDIA는 10월 21일 Agent Knowledge Foundation을 출시했습니다. 분석 회사가 카테고리를 명명하고 2개 플랫폼 벤더가 이틀 만에 채우면, 구매자에게는 실질적인 선택지와 새로운 결정이 주어집니다. 이 가이드는 그 결정을 정리합니다. 그래프 기반 컨텍스트 계층이 벡터 전용 RAG를 능가하는 다섯 가지 질문, 벡터 전용 RAG가 여전히 이기는 세 가지 질문, 그리고 무엇을 구매하느냐보다 더 중요한 — 어느 쪽이든 직접 구축해야 하는 — 세 가지 통제입니다.

핵심 요점

• 86% 대 57% — Microsoft의 GraphRAG 연구(Edge et al., 2024)는 복잡한 복수 엔터티 질문에서 그래프 검색이 86%의 완전성을 달성한 반면 벡터 전용 RAG는 57%에 그쳤다고 측정했습니다. 텍스트 매칭이 아니라 관계를 걸어야 하는 질문에서 이 격차가 드러납니다.
• Gartner는 2026년 8월 13일 카테고리를 명명했다 — 애널리스트 정의에 따르면 AI Context Platforms은 "조직 지식의 라이프사이클을 개별 에이전트의 라이프사이클에서 분리"합니다. 이 분리가 거버넌스 논거이며, 검색 기능이 아닙니다.
• Neo4j의 Business Ontology는 6계층 그래프 모델 — 업무 프로세스와 조직, 도메인 온톨로지, 데이터 제품, 물리 시스템, 도구·통합, 런타임 지식 — Neo4j에 따르면 수백 건의 엔터프라이즈 배포에서 구축되었습니다. Context Engine은 프라이빗 프리뷰로 출시됩니다.
• 벡터 전용 RAG는 구축 비용과 문서 Q&A에서 여전히 유리 — 프로덕션까지 6–8주(그래프 구축은 12–16주). 그리고 레이트 인터랙션 임베딩은 OCR 없이 800개 실물 PDF에 대한 에이전트 질문을 92.4%(MADQA)로 답합니다.
• 배포자의 통제는 출처 추적, 권한 전달 검색, 라이프사이클 분리 — 어느 것도 시중 제품에 완전히 담기지 않는다. 각각은 팀이 소유한 MCP 모듈과 감사 계층 안에 있습니다.

이름을 얻은 카테고리

Gartner의 정의(Kjell Carlsson, Afraz Jaffri, Christopher Long, Radu Miclaus, 2026년 8월 13일)는 검색이 아니라 거버넌스의 정의이므로 두 번 읽을 만합니다. AI 컨텍스트 플랫폼은 "데이터·AI 엔지니어링 팀이 에이전트를 위해 의미적으로 정리된 지식을 구축·거버넌스·전달할 수 있게 하는 소프트웨어"이며, "컨텍스트를 에이전트별 설정이 아닌 최우선 기업 자산으로 취급함으로써 조직 지식의 라이프사이클을 개별 에이전트의 라이프사이클에서 분리하고, 다양한 도메인에 걸쳐 AI 에이전트를 확장·거버넌스하는 조직의 능력을 높인다."

카테고리가 짚어내는 문제는 에이전트 고유의 것입니다. 데이터에는 수십 년간 두 소비자가 있었습니다. 레코드 간 관계를 머릿속에 품는 사람, 그리고 그 의미가 하드코딩된 로직으로 존재하는 애플리케이션입니다. 에이전트는 어느 쪽도 승계하지 않는 세 번째 소비자입니다. Neo4j의 출시 블로그가 실패 모드를 구체적으로 밝힙니다. 애플리케이션은 계정 상태 "2"가 "검토 대기 중지"를 뜻한다는 것을 압니다. 매핑이 코드에 있기 때문입니다. 에이전트에게는 아무 힌트가 없고, 매핑은 조직마다 다릅니다. "고객"은 마케팅 부서에서는 A, 재무 부서에서는 다른 의미입니다(Neo4j 블로그).

두 벤더가 48시간 안에 응답을 출시했습니다. Neo4j의 Context Engine은 사전 정의된 6계층 Business Ontology, Databricks·Snowflake 같은 소스로 온톨로지를 구축해 오케스트레이션 계층에 노출하는 빌드·런타임 계층, Context Studio 제어 평면, 에이전트 추론과 의사결정 경로를 기록하는 그래프 네이티브 메모리 계층을 패키징합니다. Neo4j의 President of Technology 겸 CPO는 그 시사점을 직설적으로 말했습니다. "다른 모든 방식은 AI 에이전트의 복잡성과 시스템 접근 요구가 커질수록 깨지는 임시땜질입니다"(보도자료). 구매자에게 중요한 성실성 표식이 2개 있습니다. Context Engine은 프라이빗 프리뷰라는 점, 그리고 "GraphRAG가 벡터 전용 RAG보다 정확하고 비용효율적"이라는 문구가 벤더 주장이라는 점입니다. 독립 수치는 Neo4j가 아니라 Microsoft 연구에서 왔습니다.

NVIDIA는 10월 21일, 정반대의 아키텍처 입장을 취했습니다. 플랫폼이 아니라 스스로 조립하는 모델과 CUDA-X 라이브러리입니다. Agent Knowledge Foundation 페이지는 구성 요소가 "기존 데이터 플랫폼, 온톨로지, 벡터 DB, 에이전트 프레임워크와 연동하며, 새로운 엔드투엔드 플랫폼 도입을 요구하지 않는다"고 명시하고, NVIDIA 테스트에서 온톨로지 생성 시간을 90% 줄였다고 하는 Auto Ontology 생성기를 포함하며, 비즈니스 전문가는 여전히 출력물을 "테스트·보완·인증"해야 한다고 합니다(NVIDIA). 마지막 조항이 온톨로지 구축의 성실한 버전입니다. 소프트웨어가 제안하고, 소유자가 인증합니다.

벡터 전용 RAG가 여전히 잘하는 것

벡터 전용 검색은 카테고리 출시 자료가 암시하는 전가의 보도가 아닙니다. 3가지 강점이 그것이 올바른 선택인 시점을 정합니다.

첫째, 구축 비용. 본 사이트의 GraphRAG 구현 가이드는 문서 중심의 텍스트 코퍼스와 단일 엔터티 조회라는 조건에서 전통적 RAG가 GraphRAG 결과의 85–90%를 작업량 30%로 달성하며, 프로덕션까지 6–8주(그래프 구축 12–16주)로 추정합니다. 11월 안에 서비스 매뉴얼에서 기술자의 질문에 답해야 하는 소규모 팀은 벡터 검색부터 먼저 배치합니다.

둘째, 문서 검색의 바닥은 계속 올라갑니다. Perplexity의 pplx-embed-v2-late(10월 7일 공개, MIT 라이선스)는 오픈 웨이트 레이트 인터랙션 임베딩을 MADQA 92.4%로 밀어올렸습니다. 800개 실물 PDF, 18,000쪽 이상을 대상으로 한 에이전트 질문에 OCR 없이 텍스트·이미지·PDF 페이지 전체를 검색합니다. 비정형 문서 축에서 벡터 검색은 움직이는 표적이며, 지식 그래프가 해소하는 격차는 문서 QA의 격차가 아닙니다.

셋째, 벡터 생태계는 자신의 약점을 이미 알고 구조적으로 보완합니다. 셀프호스트 엔진 10종을 검토한 vdf.ai의 2026년 10월 총정리는 멀티테넨시가 인덱스 수준에서 처리된다는 점 — 대형 테넌트를 전용 샤드로 승격하는 Qdrant의 테넌트 키 파티션, Weaviate의 테넌트별 샤드 모델 — 그리고 밀집 벡터만으로는 "계약 번호와 오류 코드 같은 정확한 토큰을 놓치는" 까닭에 하이브리드 검색이 엔진 안에서 융합된다는 점을 보여줍니다. 권한 필터링과 키워드 재현은 달리 말하면 벡터 스택 내부의 엔지니어링 문제로 이미 해결되어 있습니다. 벡터 스택이 결코 해결하지 않는 것은 의미론입니다. 당신 조직에서 "고객", "공급업체", "리스크"가 뜻하는 바를 둔 장소가 없고, 검색된 두 레코드가 왜 관련되는지에 대한 답도 없기 때문입니다.

거버넌스된 컨텍스트 계층이 더하는 것

그래프 기반 컨텍스트 계층은 벡터 전용 RAG로는 전혀 표현할 수 없는 네 가지를 더합니다. 그 네 번째가 구매 기준입니다.

명시적 관계. 검색된 청크는 관계를 함축할 뿐이지만, 그래프는 관계를 명시합니다. Microsoft의 GraphRAG 수치 — 복수 엔터티 질문에서 86% 대 57%의 완전성 차이 — 가 그 측정값입니다. 부품에서 대체품, 대체품에서 지점 가용 재고로 걸어가야 하는 질문에서는 유사도 검색이 매 홉을 찍어 맞춰야 합니다.

비즈니스 의미가 사는 한 군데. Neo4j의 6계층 Business Ontology는 조직의 정의들 — 프로세스, 도메인 용어, 데이터 제품, 물리 시스템, 도구, 런타임 지식 — 을 모든 에이전트가 읽는 하나의 그래프로 옮겨, 에이전트마다 다시 학습하는 방식을 끝냅니다(Neo4j 블로그). SanjMo의 Principal Sanjeev Mohan은 보도자료에서 벡터 스택이 해소할 수 없는 차이를 이렇게 밝혔습니다. "컨텍스트는 단순히 더 많은 데이터가 아닙니다. 핵심은 관계입니다. 두 요소가 연결되었다는 사실이 아니라 왜·어떻게 연결되는지입니다. 정확히 그것을 그래프는 네이티브하게 모델링합니다."

답변별 출처 추적. Context Engine의 메모리 계층은 "에이전트 추론과 운영 경로를 기록해 기업 경험의 영구 기록을 만든다"(보도자료)고 합니다. 답변에 그것을 낸 경로가 동행합니다. 벡터 검색이 주는 것은 가장 높게 랭크된 청크뿐입니다.

권한을 실어 나르는 검색 경로. Neo4j의 Context Build and Runtime은 "권한이 부여된 데이터에만 접근할 수 있음"을 보장하는 내장 거버넌스를 포함합니다. 정책이 사후 필터가 아니라 검색과 함께 이동합니다. 반면 벡터 스택에서 테넌트 필터링은 선택한 데이터베이스 고유의 인덱스 설계 기능이며(vdf.ai 총정리는 pgvector·Qdrant·Weaviate가 구현을 어떻게 달리 하는지 기록합니다), 애플리케이션이 그 규칙을 다시 구현합니다.

이 패턴은 프라이빗 프리뷰 소프트웨어를 기다리지 않고도 구축할 수 있습니다. 본 사이트 RFQ 기사들 뒤에 있는 레퍼런스 구현에서 견적 데스크의 MCP 모듈은 단일 inquire_catalog 도구를 노출합니다. 자연어 질문을 지식 그래프 엔진으로 라우팅해 랭크된 결과를 반환합니다 — 하나의 거버넌스된 호출 안에서 검색과 의미론을 함께 — 트랜잭션 측은 별도의 가용성 홀드 도구 집합이 담당합니다. 이를 거버넌스된 것으로 만드는 것은 검색기가 아니라 도구 경계입니다. 모든 호출은 실행 데코레이터를 통과해 상태·소요시간·페이로드를 DynamoDB의 감사 모델에 기록하고, 테넌트 스코핑은 저장소 계층의 파티션 키로 강제됩니다. 모듈 코드 표준 기사가 이 패턴을 끝까지 문서화합니다.

의사결정 매트릭스

실무에서 두 아키텍처를 가르는 다섯 가지 질문입니다. 각 질문마다 워크로드를 솔직하게 스코어링하십시오. 그래프 열에 두 줄 이상이 걸리면 컨텍스트 계층이 12–16주의 구축을 정당화합니다.

구매자 질문	그래프 기반 컨텍스트 선택	벡터 전용 RAG로 충분
질문의 형태는?	복수 엔터티·관계 걷기("이 부품의 승인된 대체품 중 금요일까지 보스턴 지점에 재고가 있는 곳은?") — 86% 대 57% 격차가 여기 삽니다	문서 텍스트 위의 단일 엔터티 조회("매뉴얼이 오류 E-204에 대해 말하는 것은?")
의미는 어디에 있나?	시스템·팀에 흩어져 있음 — "고객", "공급업체", "리스크"는 에이전트가 공유하는 한 가지 정의가 필요	문서 안에 담겨 있음 — 텍스트가 곧 의미
거버넌스가 입증할 것은?	답변별 출처 추적, 의사결정 경로, 이를 승인한 정책 — Gartner의 라이프사이클 분리	콘텐츠 수준 접근 통제, 인덱스의 테넌트 필터와 페이로드 권한
얼마나 빨리 출시해야 하나?	12–16주 + 지속적인 온톨로지 유지관리 — 에이전트가 비즈니스 데이터에 작용할 때 수용 가능	프로덕션까지 6–8주 — 용도가 문서 Q&A라면 올바른 첫걸음
분기마다 무엇이 바뀌나?	의미론의 변화(신규 제품군, 개명된 등급, 신규 컴플라이언스 규칙) — 에이전트가 아니라 그래프를 편집	코퍼스 변화 — 밤마다 재임베딩으로 최신 유지

두 줄에는 성실성 메모가 필요합니다. 쿼리당 비용에서 GraphRAG 검색은 벡터 유사도보다 무겁습니다 — 그래프를 파는 벤더 스스로 말하며, 구현 가이드의 쿼리당 산수(그래프 업데이트는 티켓당 O(N), 문서는 O(1))가 고볼륨·저난도 질문 워크로드가 벡터에 머물러야 하는 이유를 설명합니다. 그리고 "세 번째 소비자" 프레임은 Neo4j의 출시 서사이지만, 그 위에 놓인 관찰은 더 앞서 있습니다. 상태 "2"의 문제는 당장도 모든 중견 B2B 회사에서 현실이며, 무엇을 사서 고치는지와 무관합니다.

나란히 비교: 두 아키텍처가 다섯 가지 구매자 질문에 어떻게 답하는지, 각 주장 뒤에 있는 측정된 증거와 함께.

무엇을 사느냐보다 더 중요한, 배포자의 통제

Gartner의 정의는 컨텍스트를 "자산"으로 만드는 3개 능력을 열거합니다. 구축, 거버넌스, 전달. 벤더 페이지를 자세히 읽으면 각각 일부를 제공합니다. Context Studio는 제어 평면, 빌드 런타임은 승인을 강제, 메모리는 결정을 기록합니다. 그러나 3개를 엔드투엔드로 제공하는 곳은 없고, 둘은 구조적으로 당신 몫입니다.

출처 추적은 기능이 아니라 통제다. 기록된 의사결정 경로를 동반하는 답변은, 경로가 append-only이고 그것을 낸 에이전트보다 오래 살아남을 때만 감사 산출물입니다. 레퍼런스 구현에서 모든 MCP 도구 호출은 상태·소요시간·정제된 페이로드를 테넌트별 감사 모델에 기록합니다. 그것이 에이전트 거버넌스 아키텍처의 패턴입니다. Neo4j의 Context Engine이든 자체 그래프든, 에이전트가 무엇을 검색했고 무엇에 작용했는지의 기록은 당신의 경계에 속합니다.

권한 전달은 마지막 홉까지 살아남아야 한다. 그래프 내부에서 필터하는 컨텍스트 플랫폼이라도 에이전트 연결은 도구 경계를 통합니다. 그 경계가 식별자를 실어 나르지 않으면 — 호출마다 인증된 주체, 테넌트·역할로 스코프된 — 플랫폼의 승인은 권고에 그칩니다. governed modules 패턴은 모든 요청을 가로채는 미들웨어에 검증을 둡니다(MCP 보안 기사). Neo4j가 그래프 내부에서 강제하는 정책이 스코핑되지 않은 도구 호출로 우회되지 않습니다.

라이프사이클 분리는 당신의 아키텍처 선택이다. 카테고리의 핵심 주장 — 조직 지식이 개별 에이전트보다 오래 산다 — 는 에이전트가 자기 컨텍스트의 작성자가 아니라 컨텍스트 서비스의 소비자일 때만 성립합니다. 실무적으로, 에이전트는 고정 스냅샷이 아니라 질의로 컨텍스트를 참조하고, 에이전트를 폐기하면 에이전트 상태만 지워지지 그래프 상태는 지워지지 않으며, 에이전트 메모리 패턴 기사의 단기/장기 구분이 벤더들이 이제 파는 그래프 네이티브 메모리 계층에 그대로 대응합니다.

중견 팀을 위한 실천 순서: 벡터 전용 RAG를 강한 문서 질문에 먼저 출시한다. NVIDIA가 설명한 인증 단계를 갖춘 좁은 비즈니스 온톨로지(하나의 도메인 — 제품·공급업체·계정)를 세운다. 출처 추적이 중요한 곳에서 거버넌스된 MCP 도구 한두 개로 에이전트에 노출한다. 벡터 검색이 틀리고 비싸게 답한 관계 질문이 사용 사례에서 나타날 때에만 온톨로지를 넓힌다.

함께 읽기

• GraphRAG 구현 가이드: 텍스트 문서에서 프로덕션 지식 그래프 검색까지 — 그래프 쪽을 선택할 때의 5단계 구축 파이프라인과 비용 함정
• 에이전트 프로덕션 스택, 이제 제품으로: NVIDIA GTC 베를린 레퍼런스 아키텍처 내부 — Agent Knowledge Foundation의 모델·라이브러리가 완전한 프로덕션 스택에서 차지하는 자리
• 에이전트 메모리 설계: 세 가지 실패 모드와 강제 바닥 — 그래프 네이티브 메모리 계층이 구현하는 단기/장기 메모리 분리

스코프된 구축 요청

대표적인 구축 사례입니다. NetSuite로 견적 데스크를 운영하고, Postgres에 단계별 가격을 두며, 4명의 시니어 견적 담당자 머릿속에 대체품 지식을 둔 산업 유통업체입니다. 우리는 제품·대체품·가격 등급·지점 가용 재고 위에 지식 그래프를 세우고, 호출별 감사 로깅, 가용성 홀드, 취소 스냅샷 도구를 팀 소유의 MCP 모듈로 감싸며, 에이전트 프레임워크는 교체 가능하게 둡니다. 견적 답변에는 그것을 낸 경로 — 어느 대체품, 어느 등급, 어느 지점 재고 — 가 동반되고, 며칠이 아닌 몇 시간 만에 돌아옵니다.

스코프된 구축 요청: 1주간의 디스커버리. 구축 여부와 무관하게 시스템 인벤토리, 워크플로 맵, 확정 스코프를 제공합니다.