News·어제
Anthropic, 정부 명령으로 Fable 5·Mythos 5 전면 차단
Anthropic 이 6월 12일 정부 명령에 따라 최신 AI 모델 Fable 5 와 Mythos 5 의 접근을 전면 차단했습니다. 아마존과 백악관 간 협의 후, 연구진이 Fable 5 에서 사이버 공격에 활용 가능한 정보를 추출하는 방법을 발견했다는 보고가 명령의 배경이 되었습니다. Anthropic 은 "좁은 범위의 잠재적 jailbreak 발견이 수억 명이 사용하는 상용 모델을 리콜할 사유는 아니다"라며 이의를 제기했습니다.
Anthropic 이 정부 명령으로 자사 최신 AI 모델 두 개의 접근을 전면 차단했습니다.
골자
- 명령 — 6월 12일, 정부가 Fable 5 와 Mythos 5 의 해외 접근을 차단하라는 명령을 내렸습니다.
- 조치 — Anthropic 은 모든 고객에 대해 두 모델의 접근을 차단했습니다.
- 발표 — Fable 5 는 6월 9일 출시 당시 "지금까지 공개한 어떤 모델보다 뛰어난 능력"이라고 평가받았고, Mythos 5 는 동일 모델에 안전장치 일부를 해제한 버전입니다.
배경·맥락
- 아마존과 백악관 간 대화 이후, 연구진이 Fable 5 에서 사이버 공격에 사용될 수 있는 정보를 추출하는 jailbreak 방법을 발견했다는 보고가 있었습니다.
- 펜타곤 — Anthropic 은 이미 펜타곤과의 갈등 속에 있었으며, 이번 명령으로 정부와의 또 다른 분쟁에 직면했습니다.
자금 용처·향후
- 입장 — Anthropic 은 "정부의 법적 지시를 준수하지만, 좁은 범위의 잠재적 jailbreak 발견이 수억 명이 사용하는 상용 모델을 리콜할 사유는 아니다"라고 밝혔습니다.
- 영향 — 이번 조치는 비미국 AI 의 필요성을 강화하는 사례로 지적되고 있습니다.
편집자 한 줄
상용 모델 리콜이라는 강력한 조치가 나온 배경에 주목할 만합니다. 정부와 기업 간 안전성 해석 차이가 앞으로도 유사한 충돌을 낳을 가능성이 있습니다.
- #anthropic
- #fable-5
- #mythos-5
- #regulation
- #ai-safety
The Verge AI