Papers·1주 전
UBC, 메타데이터 가이드 RAG로 검색 효율 8.24% 향상 — 지연 5배 단축
UBC 팀이 RAG 시스템에서 청크 크기와 검색 정밀도 간 트레이드오프를 해결하는 MCompassRAG를 공개했습니다. 토픽 메타데이터를 임베딩에 추가하고 LLM-teacher distillation으로 경량 검색기를 학습해, 6개 복합 검색 벤치마크에서 정보 효율(IE)을 평균 8.24% 개선하고 가장 강력한 효율적 RAG 기준선 대비 지연 시간을 5배 이상 줄였습니다. 코드는 GitHub에 공개되어 있습니다.
UBC 팀이 RAG의 청크 크기와 검색 정밀도 간 트레이드오프를 메타데이터로 풀어낸 MCompassRAG를 공개했습니다.
핵심 결론
- 벤치 — 6개 복합 검색 벤치마크에서 정보 효율(IE) 평균 8.24% 향상, 지연 시간은 가장 강력한 효율적 RAG 기준선 대비 5배 이상 단축.
- 모델 — LLM-teacher distillation으로 학습된 경량 검색기로, 추가 LLM 호출 없이 토픽 인식 검색이 가능합니다.
방법
- 메타데이터 임베딩 — 청크 임베딩에 토픽 메타데이터를 같은 공간에 추가해, 유사도 검색 시 노이즈를 줄이고 정밀도를 높입니다.
- 증류 — LLM-teacher distillation으로 검색기를 학습해, 추론 시 추가 LLM 호출 없이 토픽 신호를 활용합니다.
한계·조건
- 환경 — 벤치마크는 복합 검색 태스크에 특화되어 있어, 단순 QA에서는 이득이 다를 수 있습니다.
- 코드 — GitHub에 공개되어 재현 가능합니다.
편집자 한 줄
메타데이터를 임베딩 공간에 직접 통합하는 단순한 아이디어지만, 증류를 통해 효율을 극대화한 점이 인상적입니다.
- #rag
- #retrieval
- #metadata
- #ubc
Vision and NLP Group at University of British Columbia