News·1주 전
확률과 무한에 대한 개인적 종합 — LessWrong 시리즈 마무리
LessWrong 에 게재된 시퀀스 마지막 글에서 저자는 무한 윤리, 솔로몬프 귀납, 평균/총 효용주의에 대한 자신의 종합적 관점을 제시합니다. 도덕적 비실재론자로서 객관적 도덕은 없다고 보지만, 자신의 가치에 따라 더 나은 의사결정 방식이 있다고 주장합니다. 장기적 성찰(Long Reflection)을 통해 이상화된 가치 체계를 정립하고, 그때까지는 현재 직관을 근사치로 삼아 고위험 결정을 내려야 한다는 입장입니다.
도덕적 비실재론자의 관점에서 확률과 무한을 다루는 의사결정 이론의 개인적 종합을 시도합니다.
골자
- 저자 입장 — 도덕적 비실재론자로 객관적 도덕은 없다고 보지만, 자신의 가치에 따라 더 나은 결정 방식이 있다고 봅니다.
- 장기 계획 — 안전해진 세계에서 장기적 성찰(Long Reflection)을 통해 이상화된 가치를 정립하고 자원을 배분하겠다는 구상입니다.
- 현재 전략 — 현재의 직관과 사고를 최종 가치의 근사치로 삼아 고위험·비가역적 결정을 내리는 방식을 취합니다.
배경·맥락
- 이전 글에서 다룬 무한 윤리와 UDASSA(무한 차원의 알고리즘적 확률 공간) 이해가 필수라고 명시합니다.
- 시퀀스 — 이 글은 확률 개념 자체를 비판한 첫 번째 글을 포함한 시퀀스의 마지막입니다.
자금 용처·향후
- 성찰 방법 — AI 조언자와의 대화, 지능 향상, 자녀 양육, 타인과의 거래 등을 통해 가치를 정교화할 계획입니다.
- 거래의 이점 — 서로 다른 직관을 가진 사람들과 자원을 풀어 각자의 강한 직관 영역을 따라 결정할 수 있다고 봅니다.
편집자 한 줄
LessWrong 시퀀스의 결론으로, 무한 윤리와 의사결정 이론에 관심 있는 독자에게 참고할 만합니다.
- #decision-theory
- #infinite-ethics
- #solomonoff-induction
- #utilitarianism
- #long-reflection
LessWrong