Ships·3시간 전
Anthropic, LLM 생물학적 위험 평가와 안전장치 강화 — ASL-3 보호 조치 활성화
Anthropic 이 Claude Opus 4 출시와 함께 AI Safety Level 3 (ASL-3) 보호 조치를 활성화했습니다. 이는 모델이 생물학 무기 개발에 도움을 줄 가능성을 배제할 수 없다는 평가에 따른 예방적 결정입니다. 프론티어 레드팀은 LLM의 이중 용도 가능성에 주목하며, 생물학적 위험 평가를 책임 있는 AI 개발의 핵심 요소로 보고 있습니다.
Anthropic 이 Claude Opus 4 출시와 함께 생물학적 위험에 대한 안전장치를 강화했습니다. ASL-3 보호 조치가 활성화된 배경과 평가 방식을 설명합니다.
핵심 변경
- ASL-3 활성화 — Claude Opus 4 출시 시점에 AI Safety Level 3 보호 조치를 적용, CBRN(화학·생물·방사능·핵) 무기 개발 관련 작업을 차단합니다.
- 평가 근거 — 모델 성능 향상으로 인해 기본 STEM 배경을 가진 사람이 생물학 무기를 개발하려 할 때 모델이 도움을 줄 가능성을 배제할 수 없다고 판단했습니다.
- 이중 용도 기술로서 AI의 특성을 고려해, 악의적 사용자가 합법적 연구 도구를 오용할 위험을 사전에 차단하는 데 초점을 맞췄습니다.
제한·주의
- 이번 조치는 예방적(precautionary) 결정이며, 실제 악용 사례가 확인된 것은 아닙니다.
- 다른 프론티어 AI 연구소들도 유사한 안전 프레임워크에 생물학적 위험 평가를 포함하고 있습니다.
편집자 한 줄
ASL-3는 Anthropic 자체 안전 등급 체계로, 공개된 평가 기준이 아직 충분히 투명하지는 않습니다. 다만 생물학 위험을 구체적으로 평가하고 대응한 점은 주목할 만합니다.
- #anthropic
- #claude-opus-4
- #asl-3
- #biorisk
- #safety
Anthropic