News·1개월 전
Claude Fable 5 출시, OpenAI·행정부 AI 정책 발표 — 세 연구소의 계획과 기조
Anthropic 이 Claude Fable 5 를 출시했습니다. 동시에 행정부 AI 각서와 OpenAI 의 AGI 혜택 확산 계획이 나왔습니다. OpenAI 계획은 국제 조정을 통한 개발 속도 조절과 집중된 권력 위험을 강조하지만, 인간 통제 유지 문제는 다루지 않았습니다.
Claude Fable 5 출시와 함께 AI 정책 관련 세 가지 주요 발표가 나왔습니다.
골자
- Claude Fable 5 — Anthropic 이 안전하게 배포할 수 있다고 판단한 Claude Mythos 버전을 출시했습니다.
- 행정부 각서 — AI 각서는 'Anthropic 은 영원히 해고됨, 어떤 모델이든 원하는 대로 사용'을 법적으로 구현하려는 시도로 읽힙니다.
- OpenAI 계획 — OpenAI 가 AGI 혜택 보장 계획을 발표, 국제 조정을 통한 개발 속도 조절과 권력 집중 위험을 강조했습니다.
배경·맥락
- OpenAI 의 속도 조절 제안은 Anthropic 과 Google DeepMind 의 Demis Hassabis 가 이전에 한 요청과 같은 맥락입니다.
- 용어 선택 — OpenAI 문서는 '파국적' 위험만 언급하고 '실존적' 또는 '멸종' 용어를 피했으며, 인간 통제 유지 필요성은 다루지 않았습니다.
- 모순 — OpenAI 계획은 명시적으로 AI 의 재귀적 자기 개선을 목표로 하지만, 내재된 모순을 해결하지 않았습니다.
자금 용처·향후
- Fable 5 — 본격적인 모델 리뷰는 금요일이나 월요일부터 시작될 예정입니다.
- OpenAI — 계획은 국제 조정과 권력 분산에 초점을 맞추지만, 구체적인 실행 일정은 제시되지 않았습니다.
편집자 한 줄
세 연구소의 계획이 각기 다른 위험 인식과 목표를 드러내며, 정책 대화의 방향성을 보여주는 사례입니다.
- #anthropic
- #claude
- #openai
- #ai-policy
- #agi
LessWrong