News·4시간 전
Anthropic, Fable 모델 복원 협상 지연 — 예측 시장 55% 확률
Anthropic 의 Fable 모델이 2일째 오프라인 상태입니다. 예측 시장은 7월 1일 전 복원 확률을 55%로 보고 있습니다. 원인은 'fix this code'라는 단순한 프롬프트였으며, 실제 jailbreak 는 없었다고 주장합니다. Amazon 의 공식 서한 내용도 일부 확인되었습니다.
Anthropic 의 Fable 모델이 2일째 오프라인 상태이며, 워싱턴 회의 후 아무런 소식이 없습니다.
골자
- 상태 — Fable 모델이 2일째 오프라인, Anthropic 팀이 워싱턴에서 회의를 가졌으나 아직 복원 소식 없음.
- 예측 시장 — 7월 1일 전 복원 확률 55%, 6월 26일 30%, 6월 19일 12%로 안정화.
- jailbreak 주장 — 실제로는 'fix this code'라는 프롬프트만 있었고, jailbreak 는 없었다고 주장.
배경·맥락
- Amazon 역할 — Amazon 이 공식 서한을 보냈으며, 그 내용이 일부 확인됨.
- 영향 — Fable 과 Mythos 모델이 오프라인 상태로, 미국 사이버 방어와 생산성에 타격.
- 규제 논란 — 백악관이 모델을 오프라인으로 전환할 권한을 가져야 한다는 주장이 제기됨.
자금 용처·향후
- 다음 단계 — Anthropic 이 법적으로 이의를 제기할 경우 승소 가능성이 있지만, 현재는 협상 중.
- 장기 영향 — 이 사건이 미국 AI 산업 전반의 신뢰에 영구적 손상을 줄 수 있다는 우려.
편집자 한 줄
예측 시장이 55%라는 건 시장이 복원을 약간 유리하게 보지만, 확신은 없다는 뜻입니다. 'fix this code'가 jailbreak 라고 불린 점이 아이러니하네요.
- #anthropic
- #fable
- #ai-safety
- #regulation
- #jailbreak
LessWrong