OrcaRouter, 다중 홉 검색 효율 높인 IndexRAG 논문 공개

노형석 기자

작성일 2026-10-12 08:24

인공지능 모델 개발 및 서비스 기업인 컨티뉴엄 AI(CONTINUUM AI)가 다중 홉 검색증강생성(RAG)의 효율성을 높이는 새로운 연구인 IndexRAG를 공개했다고 밝혔다. 이 연구는 AACL-IJCNLP 2026 Findings에 채택되었으며, 관련 코드는 Apache-2.0 라이선스로 공개되었다.

기존의 그래프 기반 및 반복형 RAG 시스템은 질문에 답하기 위해 엔티티 추출, 그래프 순회, 검색 및 생성 과정을 여러 번 반복해야 하는 비효율성이 있었다. 이러한 과정은 질문이 들어올 때마다 처음부터 다시 수행되어 상당한 시간과 비용을 소모했다.

IndexRAG는 이러한 반복적인 계산 과정을 색인 생성 시점으로 옮겨, 문서 간의 연결 정보를 '브리징 팩트(Bridging Fact)'라는 형태로 미리 저장한다. 브리징 팩트는 문서 간의 관계를 독립적으로 검색 가능한 단위로 만들어 놓은 것이다. 이로 인해 실제 질문이 들어왔을 때는 별도의 복잡한 과정 없이, 단 한 번의 검색과 한 번의 LLM 호출만으로 답변을 생성할 수 있게 된다.

컨티뉴엄 AI 측은 IndexRAG가 두 단계의 오프라인 과정을 거쳐 원자적 지식 단위(AKU)를 추출하고 문서 간 브리징 팩트를 생성한다고 설명했다. 이 과정에서 임베딩 모델이나 LLM을 별도로 미세 조정하지 않는 학습 없는(training-free) 방식을 사용했다고 밝혔다.

실험 결과, IndexRAG는 세 가지 주요 벤치마크에서 평균 F1 점수 51.7을 기록하며 기존의 Naive RAG보다 4.6점 높은 성능을 보였다. 특히 HotpotQA와 MuSiQue 벤치마크에서는 가장 높은 점수를 얻었다. 다만, 2WikiMultiHopQA 벤치마크에서는 FastGraphRAG가 57.4점으로 IndexRAG보다 앞섰다.

IndexRAG는 질의 시점의 비용을 절감하는 데 초점을 맞추고 있으며, HippoRAG2와 같은 다른 방식과 비교했을 때 검색 속도는 6.6~10.4배 빠르고, 색인 크기는 17~20배 작으며, 색인 구축 비용도 30~50% 낮다고 컨티뉴엄 AI는 밝혔다. 이는 질의 시점의 효율성을 극대화하는 데 기여한다.

한편, 컨티뉴엄 AI가 제공하는 OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, OpenAI GPT, Anthropic Claude 등 200개 이상의 다양한 모델을 단일 API 키와 엔드포인트로 제공하며 약 40%의 비용 절감 효과와 1밀리초 미만의 라우팅 오버헤드를 제공한다고 덧붙였다.