News·5일 전
정렬 동전의 양면 — 인간의 마음은 안전한가
정렬 문제를 동전에 비유한다면, 한쪽 면은 '무엇과 정렬할 것인가'라는 질문입니다. 정렬 연구자들 사이에서는 확장된 인간 마음이 셔거스보다 안전할지에 대한 논의가 오갔습니다. 저자는 자신의 마음을 안다고 믿는 인간의 확신에 의문을 제기합니다.
정렬 문제를 동전에 비유하며, '무엇과 정렬할 것인가'라는 근본적인 질문을 던집니다.
골자
- 비유 — 정렬 문제는 동전의 양면 — 한쪽은 '무엇과 정렬할 것인가'라는 질문.
- 확장된 인간 마음이 셔거스보다 안전할지에 대한 논의가 연구자들 사이에서 오갔습니다.
- 저자는 인간이 자신의 마음을 안다고 믿는 확신에 의문을 제기합니다.
배경·맥락
- 정렬 연구 커뮤니티에서 자주 나오는 주제 — scaled-up human mind vs shoggoth.
- 저자는 '평균적인' 인간의 마음, 자신의 마음에 대한 확신이 얼마나 근거 있는지 반문합니다.
편집자 한 줄
개인적 서사가 섞인 글이지만, 정렬 논의의 핵심 질문을 건드리는 지점이 흥미롭습니다.
- #alignment
- #human-mind
- #shoggoth
- #metaphor
LessWrong