News·5시간 전
미국 정부, Anthropic Fable 5 출시 금지 — 보안 논란 속 모델 철수
미국 정부가 Anthropic 의 최신 모델 Fable 5 와 Mythos 5 출시를 금지했습니다. Amazon 연구진이 Fable 5 의 가드레일을 우회하는 방법을 발견했다는 이유에서인데, 사이버보안 연구자들은 이 조치가 위험하다는 공개서한을 발표했고 Anthropic 도 동일한 취약점이 다른 모델에도 존재한다고 지적했습니다.
미국 정부가 국가 안보를 이유로 Anthropic 의 최신 모델 출시를 막았지만, 업계의 반발이 만만치 않습니다.
골자
- 조치 — 미국 정부가 Anthropic 에 Fable 5 와 Mythos 5 모델을 철수하도록 명령했습니다.
- 이유 — Amazon 연구진이 Fable 5 의 가드레일을 우회하는 방법을 발견해 국가 안보 우려가 제기됐습니다.
- 반응 — 사이버보안 연구자들은 이 조치가 위험하다는 공개서한을 발표했고, Anthropic 도 동일한 취약점이 다른 모델에도 존재한다고 반박했습니다.
배경·맥락
- 이번 결정은 미국 정부가 AI 모델의 안전성 규제를 강화하는 흐름 속에서 나왔습니다.
- Anthropic 은 이전에도 안전성 논란에 휩싸인 바 있지만, 정부의 직접적인 출시 금지는 이번이 처음입니다.
편집자 한 줄
정부의 규제와 업계의 반발이 충돌하는 지점인데, 취약점이 다른 모델에도 존재한다는 주장은 규제의 일관성 문제를 제기합니다.
- #anthropic
- #regulation
- #national-security
- #ai-safety
TechCrunch AI