News·1주 전
재미의 공식: 미래 선호를 형식화한 시도
LessWrong 에 재미 이론 시퀀스의 연장선에서 '재미의 공식'을 제안한 글이 올라왔습니다. 저자는 정렬된 초지능 이후의 미래에서 '재미'를 어떻게 집계하고 최대화할지에 대한 수학적 프레임워크를 탐구합니다. 재미를 각 존재·장소·순간의 국소 밀도로 정의한 장(field) 위에서 다양한 연산이 어떤 미래를 낳는지 비교하는 방식입니다.
재미 이론의 두 번째 질문 — 재미 단위를 어떻게 집계할 것인가 — 에 대한 반농담 반진지의 형식화입니다.
골자
- 목적 — 자신의 암묵적 선호를 명시적으로 드러내기 위한 시도로, 규범적 미래상을 제시하려는 것은 아닙니다.
- 전제 — 진정한 좋은 경험(eudaimonia)이 무엇인지는 이미 밝혀졌다고 가정하고, 그 국소 밀도를 '재미'라 부릅니다.
- 핵심 질문 — 재미가 시공간에 퍼져 있는 장(field) 위에서 어떤 수학적 연산을 적용해 최대화할 것인가?
배경·맥락
- Fun Theory 시퀀스의 연장선으로, 초지능 정렬 이후의 문명이 추구할 가치를 정량화하려는 시도입니다.
- 기존 논의 — 대부분의 미래 제안은 이 재미 장에 대한 다른 수학적 연산에 불과하다고 저자는 봅니다.
향후
- 글은 아직 진행 중이며, 구체적인 연산 형태와 비교 결과는 후속 편에서 다룰 예정입니다.
편집자 한 줄
반농담으로 시작했지만, 정렬 커뮤니티에서 가치 집계 문제를 형식화하려는 시도 자체는 의미 있는 방향입니다.
- #fun-theory
- #preferences
- #alignment
- #lesswrong
LessWrong