LLM 라우팅에서 프로파일 설계가 성능에 미치는 영향 — RouteProfile 체계적 분석

UIUC 연구진이 LLM 라우팅에서 모델 프로파일 설계가 라우터 성능에 미치는 영향을 체계적으로 분석했습니다. RouteProfile이라는 일반 설계 공간을 제안하고, 4가지 차원(조직 형태, 표현 유형, 집계 깊이, 학습 구성)에 걸쳐 실험한 결과, 구조화된 프로파일이 평면 프로파일보다 일관되게 우수했고, 쿼리 수준 신호가 도메인 수준 신호보다 신뢰할 수 있었습니다. 특히 새로운 LLM에 대한 일반화는 학습 가능한 구성에서 구조화된 프로파일이 가장 효과적이었습니다. 단, 실험은 세 가지 대표 라우터에 국한되었으며, 더 다양한 라우터와 프로파일 조합에 대한 검증이 필요합니다.

• #llm-routing
• #profile-design
• #uiuc