CREDENCE: 개념 불확실성을 분해하는 CBM 프레임워크 — 에피스테믹·알레아토릭 분리

CREDENCE는 개념 병목 모델(CBM)에서 개념 예측의 불확실성을 에피스테믹(모델 부족)과 알레아토릭(입력 모호성)으로 분해합니다. 각 개념을 확률 구간(credal prediction)으로 표현하고, 다양한 개념 헤드 간의 불일치로 에피스테믹 불확실성을, 주석자 불일치를 학습한 전용 출력으로 알레아토릭 불확실성을 추정합니다. 이를 통해 낮은 불확실성은 자동화, 높은 에피스테믹은 데이터 수집, 높은 알레아토릭은 인간 검토, 둘 다 높으면 보류 등 처방적 결정을 지원합니다. 여러 태스크에서 에피스테믹 불확실성은 예측 오류와, 알레아토릭 불확실성은 주석자 불일치와 양의 상관관계를 보였습니다.

• #concept-bottleneck-model
• #uncertainty
• #credal
• #epistemic
• #aleatoric