News·3시간 전
AI 거버넌스의 보이지 않는 절반 — 내부자 작업의 중요성
LessWrong 에 게재된 글에서 AI 거버넌스의 보이지 않는 측면, 즉 장관실·국제포럼·기관 내부에서의 작업이 외부 활동(언론·성명·공개서한) 못지않게 영향력이 크다고 주장합니다. 저자는 프랑스 AI 안전 센터 CeSIA 를 공동 창립하고 OECD·UN·EU AI 사무소 등에서 활동한 경험을 바탕으로, 커뮤니티가 눈에 보이지 않는 유형의 작업을 과소평가하고 있다고 지적합니다.
AI 거버넌스에서 진짜 영향력 있는 작업은 대부분 보이지 않는 곳에서 이루어집니다.
골자
- 주장 — AI 거버넌스에서 중요한 작업의 상당 부분이 보이지 않는 곳에서 이루어졌습니다.
- 유형 — 거버넌스에는 다양한 게임이 있으며, 가시성에 따라 차이가 큽니다. 가장 영향력 있는 작업 중 일부는 매우 낮은 가시성을 가집니다.
- 행정부 — 영향력 있는 작업 중 일부는 행정부 내에서 이루어지며, 입법부를 보완합니다. 이는 프랑스에서 ControlAI 를 복제하는 것에 대한 저자의 주저함을 설명합니다.
배경·맥락
- 커뮤니티는 지적 생산에 과잉 투자하고 있을 가능성이 있습니다. 보이지 않는 유형의 작업에 대한 편향이 존재합니다.
- 가시성 — 공개 작업이 반드시 중요한 사람들에게 보이는 것은 아닙니다.
자금 용처·향후
- 저자 — 기술 안전에서 거버넌스로 전환한 저자는 처음에는 보이지 않는 게임을 낯설고 약간 불쾌하게 여겼지만, 지금은 그 중요성을 인식합니다.
- 제안 — AI 안전 커뮤니티는 보이지 않는 부분을 과소평가하고 있어, 영향력의 큰 통로를 놓칠 수 있습니다.
편집자 한 줄
내부자 작업의 가시성 부족이 커뮤니티의 자원 배분에 왜곡을 일으킨다는 지점은 정책 실무자에게 시사하는 바가 큽니다.
- #ai-governance
- #policy
- #insider-work
- #lesswrong
LessWrong