News·5시간 전
미국 정부, Anthropic 모델 두 개 강제 회수 — Fable 5·Mythos 5
미국 정부가 국가 안보를 이유로 Anthropic의 최신 모델 Fable 5와 Mythos 5를 강제 회수했습니다. Amazon 연구진이 Fable 5의 가드레일을 우회하는 방법을 발견했다는 이유인데, 보안 연구자들은 이 조치가 위험하다는 공개 서한을 냈고 Anthropic도 동일한 취약점이 다른 모델에도 존재한다고 지적했습니다.
미국 정부가 Anthropic의 두 최신 모델을 강제 회수하면서 논란이 일고 있습니다.
골자
- 조치 — 미국 정부가 Anthropic에 Fable 5와 Mythos 5를 회수하도록 명령했습니다.
- 이유 — Amazon 연구진이 Fable 5의 가드레일을 우회하는 방법을 발견했다는 제보가 국가 안보 우려를 불러일으켰습니다.
- 시점 — 지난주 말에 발효되었으며, 모델은 즉시 서비스에서 제거되었습니다.
배경·맥락
- 사이버 보안 연구자들은 이번 강제 회수가 위험한 선례가 될 수 있다는 공개 서한을 발표했습니다.
- Anthropic은 동일한 취약점이 다른 모델에도 존재한다고 밝히며, 정부의 선택적 조치에 의문을 제기했습니다.
- 관련 — 이번 결정은 AI 모델 규제를 둘러싼 연방 정부의 권한 행사 사례로 주목받고 있습니다.
향후 전망
- Anthropic은 법적 대응 가능성을 시사했으며, 업계에서는 규제의 투명성 부족을 비판하는 목소리가 나옵니다.
- 이번 사건이 AI 안전성 평가와 정부 개입의 경계를 재정의할 계기가 될 수 있습니다.
편집자 한 줄
정부가 특정 모델만 겨냥한 점과 연구자들의 반발을 고려하면, 단순한 안전 조치 이상의 정치적 맥락이 읽히는 사건입니다.
- #anthropic
- #regulation
- #national-security
- #ai-safety
TechCrunch AI