News·4시간 전
OpenAI, 연방 AI 거버넌스 청사진 발표 — RSI 집중
OpenAI 가 연방 차원의 프론티어 AI 거버넌스 청사진을 발표했습니다. 핵심은 CAISI(국립 AI 안전 연구소)가 최첨단 모델을 평가하되 배포 승인 권한은 없고, 기업이 안전 조치를 이행하도록 하는 프레임워크입니다. 특히 recursive self-improvement(RSI)를 '가장 시급한 안전 이슈'로 명시하며, CAISI가 RSI 진행 상황을 지속적으로 모니터링할 기준을 마련해야 한다고 주장했습니다. 주(state) 차원의 규제를 선점하는 연방 우선 조항도 포함됐습니다.
OpenAI 가 행정명령 직후 연방 AI 거버넌스 청사진을 내놓았습니다 — RSI(recursive self-improvement)를 최우선 과제로 삼은 점이 눈에 띕니다.
골자
- 문서명 — Democratic Governance of Frontier AI: A Blueprint For A Federal Framework.
- CAISI 역할 — 최첨단 모델에 대한 의무 평가를 수행하되, 배포 승인·차단 권한은 없음.
- 기업 의무 — 적절한 안전장치 구현 및 미준수 시 '의미 있는 책임 메커니즘' 적용.
- 연방 우선 — 주(state) 차원의 프론티어 AI 안전 규제를 선점하는 조항 포함.
배경·맥락
- 새 행정명령 직후 발표된 문서로, OpenAI 가 정부와의 협력 프레임을 주도하려는 의도로 읽힙니다.
- RSI 강조 — OpenAI 는 '현재 시스템에서 RSI의 초기 징후를 본다'며, 이를 향후 10년 가장 중요한 프론티어 안전 이슈로 지목.
- 정치적 타이밍 — Sam Altman 이 현재 워싱턴 DC에서 Speaker Mike Johnson 등과 회동 중.
자금 용처·향후
- 다음 단계 — CAISI 가 RSI 진행 상황에 대한 독립 기술 평가 기준을 개발하고, 정책 입안자에게 지속적 가시성을 제공해야 한다고 제안.
- 한계 — 모델이 너무 위험할 경우 배포를 막을 구체적 절차는 명시되지 않음.
편집자 한 줄
평가 권한은 있지만 승인 권한은 없다는 점에서, 업계 자율 규제에 가까운 청사진입니다. RSI를 공식 안전 프레임워크의 축으로 삼은 건 비교적 선제적인 움직임이네요.
- #openai
- #ai-governance
- #rsi
- #caisi
- #regulation
LessWrong