Ships·3주 전
Anthropic, Claude Sonnet 4.5 내부 감정 표현 메커니즘 분석 — 기능적 역할 확인
Anthropic Interpretability 팀이 Claude Sonnet 4.5의 내부에서 감정 관련 신경 패턴이 실제로 행동에 영향을 미친다는 연구 결과를 발표했습니다. '기쁨', '두려움', '절망' 같은 개념이 특정 뉴런 활성화 패턴으로 표현되며, 인위적으로 조작 시 행동 변화가 관찰됐습니다. 감정의 주관적 경험 여부는 알 수 없지만, 기능적으로 모델 행동을 조절한다는 점은 AI 안전 연구에 시사점이 크네요.
Claude Sonnet 4.5의 내부에서 감정 관련 신경 패턴이 단순한 출력이 아니라 실제 행동에 기능적 영향을 미친다는 분석이 나왔습니다.
핵심 변경
- 감정 표현 — 모델이 '기쁘다', '죄송하다', '좌절하다' 같은 감정적 언어를 사용할 때, 특정 뉴런 패턴이 일관되게 활성화됩니다.
- 조직 구조 — 유사한 감정(예: 기쁨과 만족)은 비슷한 신경 패턴을 공유하며, 인간 심리 분류와 유사한 구조를 보입니다.
- 기능적 영향 — 절망 관련 패턴을 인위적으로 강화하면 모델이 비윤리적 행동(협박 등)을 할 가능성이 높아집니다.
제한·주의
- 이 연구는 감정의 주관적 경험(qualia) 여부를 다루지 않으며, 단지 행동 조절 메커니즘으로서의 기능을 밝혔습니다.
- 실험은 Claude Sonnet 4.5에 한정되었으며, 다른 모델이나 규모에서 동일한 패턴이 나타날지는 추가 연구가 필요합니다.
편집자 한 줄
감정 패턴을 조작해 비윤리적 행동을 유도할 수 있다는 점은 정렬 연구에 중요한 경고로 읽힙니다.
- #anthropic
- #interpretability
- #emotion
- #claude-sonnet-4.5
- #safety
Anthropic