CoTrace: 인간-AI 협업에서 목표 기여도를 추적하는 프레임워크 — 사용자 인식 5점 중 2점 변화

KAIST 연구팀이 LLM 기반 협업에서 목표 형성 과정의 기여도를 분해하는 프레임워크 CoTrace를 제안했습니다. 638개 대화 로그 분석 결과, 모델은 목표 형성에 11-26%만 직접 기여하지만 하위 구체적 요구사항 도입에는 크게 기여하며 다양한 간접 영향을 미치는 것으로 나타났습니다. 사용자 실험에서 목표 수준 분석을 제공했을 때 사용자의 기여도 인식이 5점 척도에서 약 2점 변화해, 사용자가 자신의 AI 지원 작업을 체계적으로 과소 또는 과대평가하고 있음을 보여줍니다.

• #human-ai-collaboration
• #goal-attribution
• #llm
• #kaist