News·6일 전
자연선택의 비근시성: 게놈 구조 선택과 개체의 출현
MATS 9.1 참여자가 자연선택이 잡음으로 인해 비근시적(hyperopic)으로 작동할 수 있음을 보입니다. 게놈 구조에 대한 선택이 단기적 이익보다 장기적 적응을 선호하게 하여, 하위 복제자들의 연합으로서 '개체'가 출현하는 다윈주의적 설명을 제시합니다. 이후 포스트에서는 신경망 특징 학습과의 연결을 다룰 예정.
자연선택이 잡음으로 인해 장기적 이익을 우선시하는 비근시적 진화를 가능하게 한다는 주장입니다.
골자
- 핵심 주장 — 잡음이 선택의 분해능을 제한함으로써 진화가 비근시적(hyperopic)이 될 수 있습니다.
- 개체의 기원 — 하위 복제자들의 연합으로서 '개체'가 출현하는 과정을 다윈주의적으로 설명합니다.
- 연속성 — 이후 포스트에서는 신경망 특징 학습과 해석 가능성, 정렬 문제로 연결됩니다.
배경·맥락
- 선택의 한계 — 자연선택은 잡음으로 인해 작은 적응도 차이를 구분하기 어렵습니다.
- 비근시성 — 잡음 바닥(noise floor)이 단기적 이익보다 장기적 이익을 선호하는 돌연변이를 버퍼링합니다.
- 예시 — 위험 분산(bet-hedging)과 나비넥타이(bowtie) 네트워크 모티프가 비근시적 진화의 사례로 제시됩니다.
자금 용처·향후
- 향후 포스트 — 게놈 구조 선택과 신경망 특징 학습 간의 연결을 개발할 예정입니다.
- 응용 — 해석 가능성과 정렬 문제에 대한 시사점을 제공합니다.
편집자 한 줄
MATS 프로그램의 일환으로 작성된 이론적 글. 진화와 AI 정렬을 연결하려는 시도가 흥미롭습니다.
- #darwinism
- #natural-selection
- #agency
- #alignment
- #interpretability
LessWrong