Papers·2개월 전
병렬 추론 중 브랜치 간 정보 공유로 탐색 효율 높인 CPT — HMMT·AIME에서 accuracy-latency Pareto 개선
Beijing Institute of Technology 연구팀이 병렬 test-time scaling에서 브랜치 간 정보가 고립되어 발생하는 중복 탐색 문제를 해결하는 Collaborative Parallel Thinking (CPT)을 제안했습니다. CPT는 진행 중인 브랜치에서 중간 정보를 추출해 중복 제거된 풀에 저장하고, 이후 탐색 단계에서 모든 브랜치가 이를 입력 컨텍스트를 통해 공유받아 재발견 비용을 줄입니다. HMMT와 AIME 벤치마크에서 rollout budget과 모델 스케일 전반에 걸쳐 accuracy-latency Pareto frontier를 개선했으며, 학습 없이 추론 시에만 적용 가능한 점이 특징입니다.
병렬 추론에서 브랜치 간 정보 공유가 부족해 발생하는 중복 탐색을 줄이는 훈련 없는 프레임워크 CPT를 소개합니다.
핵심 결론
- 벤치 — HMMT와 AIME에서 accuracy-latency Pareto frontier가 기존 병렬 TTS 대비 모든 rollout budget과 모델 스케일에서 개선되었습니다.
- 효율 — 동일한 accuracy를 달성하는 데 필요한 평균 탐색 단계 수가 감소했습니다.
방법
- 정보 추출 — 각 브랜치의 중간 추론 결과에서 compact한 정보를 추출합니다.
- 중복 제거 풀 — 추출된 정보를 query-level로 중복 제거하여 유지합니다.
- 브로드캐스트 — 풀의 항목을 입력 컨텍스트에 포함시켜 이후 탐색 단계의 모든 브랜치가 접근 가능하게 합니다.
- 이를 통해 한 브랜치가 발견한 정보를 다른 브랜치가 재발견하지 않고 재사용할 수 있습니다.
한계·조건
- 환경 — 실험은 특정 모델 크기와 rollout budget 범위 내에서 수행되었으며, 더 큰 스케일에서의 일반화는 추가 검증이 필요합니다.
- 코드 — 코드 공개 여부는 명시되지 않았습니다.
편집자 한 줄
탐색 단계에서의 협업을 통해 병렬 TTS의 효율을 높인 점이 인상적입니다. 특히 학습 없이 inference만으로 적용 가능해 실용성이 높아 보입니다.
- #test-time-scaling
- #parallel-inference
- #collaborative-thinking
- #bit
Beijing Institute of Technology