PEEK: LLM 에이전트를 위한 컨텍스트 맵 캐싱 — 반복 외부 컨텍스트에서 6.3~34% 성능 향상

MIT 연구진이 LLM 에이전트가 반복 접근하는 외부 컨텍스트(문서, 코드 저장소)에 대해 재사용 가능한 방향 지식(컨텍스트 맵)을 캐싱하는 PEEK 시스템을 제안했습니다. Distiller, Cartographer, Evictor 모듈로 구성된 캐시 정책을 통해 고정된 토큰 예산 내에서 컨텍스트 맵을 유지하며, 장문 추론 및 정보 집계 태스크에서 강력한 기준선 대비 6.3~34.0% 개선, ACE 대비 1.7~5.8배 낮은 비용을 달성했습니다. 단, 이득은 반복 동일 컨텍스트 워크로드에 특화되며, 일회성 컨텍스트에서는 효과가 제한적입니다.

• #llm-agents
• #context-map
• #cache
• #long-context
• #mit