Noam Brown, Anthropic의 책임 확장 정책 비판 — 내부 설문조사 신뢰성 문제 제기

Noam Brown이 Anthropic의 최신 시스템 카드에 대해 솔직함은 인정하지만, 고급 AI 모델 배포에 대한 책임 있는 행동에 신뢰가 가지 않는다고 비판했습니다. 그는 Anthropic이 Opus 4.6의 자율 AI R&D 임계값 도달 여부를 판단하기 위해 주로 내부 설문조사에 의존했으며, 16명 중 5명이 더 강한 안전장치가 필요하다고 응답하자 해당 직원들에게만 후속 질의를 한 점을 지적했습니다. 또한 다른 연구소(OpenAI)는 포화되지 않은 정량적 평가(OPQA)를 보유하고 있다고 강조하며, 책임 확장 정책의 취지를 살리려면 내부 설문조사가 아닌 정량적 평가가 필요하다고 주장합니다.

• #anthropic
• #noam-brown
• #responsible-scaling
• #ai-safety
• #opus-4.6

Noam Brown@polynoamial