News·1주 전
AI 예측의 한계와 개선 방향 — LessWrong 에세이
LLM 이 인간 예측가를 능가하기 시작했지만, 예측 정확도만 높아져도 의사결정에 도움이 되지 않는다는 지적이 LessWrong 에 올라왔습니다. 모든 결정은 예측을 내포하지만, 그 예측은 무의식적·부하가 큰 과정에서 나오는데, 현재의 예측 도구는 그 과정과 구조적으로 분리되어 있다는 게 핵심입니다. 저자는 '관련성 실현'이라는 인지 프레임을 설명하며, 예측이 평가적 도구일 뿐 생성적 작업을 대체할 수 없다고 주장합니다. 대안으로 'AI 2027' 같은 시나리오 예측이 서사와 결합해 더 유용할 수 있다고 제안합니다.
AI 예측 정확도는 높아지지만, 의사결정에 실제로 쓰이지 않는 이유를 분석한 LessWrong 에세이입니다.
골자
- 현황 — LLM 이 인간 예측가를 능가하기 시작했으며, 내년에는 대부분의 질문에서 슈퍼예측가와 견줄 것으로 보입니다.
- 문제 — 예측 정확도가 아무리 높아져도, 의사결정자에게 유용해지지는 않을 것이라는 게 저자의 주장입니다.
- 원인 — 모든 결정은 예측을 내포하지만, 그 예측은 무의식적·부하가 큰 과정에서 나오며, 현재 예측 도구는 그 과정과 구조적으로 분리되어 있습니다.
배경·맥락
- 관련성 실현 — 인간의 인지는 '관련성 실현'이라는 순환 과정을 통해 현재 중요한 것과 무시할 것을 구분하는 프레임을 만듭니다.
- 평가 vs 생성 — 예측은 평가적 도구(질문에 답하고 가설을 검증)인 반면, 관련성 실현은 생성적 작업(주의 집중, 중요도 판단)입니다. 이 둘을 혼동하는 게 근본적 오류입니다.
대안
- 시나리오 서사 — 'AI 2027' 같은 프로젝트는 시나리오 예측을 거주 가능하고 설득력 있게 만들어, 사람들이 그 안에서 전개를 체험하도록 돕습니다.
- 잘 보정된 서사 — 예측의 의미를 널리 전달하고 새로운 중요한 관점을 내면화하는 데 효과적입니다.
편집자 한 줄
예측 정확도와 의사결정 유용성 사이의 간극을 지적한 점이 흥미롭습니다. 특히 '평가 vs 생성' 구분은 AI 도구 설계에 중요한 시사점을 줍니다.
- #llm
- #forecasting
- #decision-making
- #relevance-realization
LessWrong