News·4시간 전
보안 연구자들, Anthropic Fable 가드레일 지나치게 엄격하다고 불만
사이버보안 연구자들이 Anthropic 의 새 모델 Fable 의 가드레일이 지나치게 엄격해 보안 작업에 사용하기 어렵다고 불만을 제기했습니다. 연구자들은 취약점 분석이나 익스플로잇 코드 생성 같은 작업이 차단된다고 지적합니다.
Anthropic 의 새 모델 Fable 의 가드레일이 보안 연구자들 사이에서 논란입니다.
골자
- 사이버보안 연구자들이 Fable 의 가드레일이 너무 엄격하다고 불만을 표시했습니다.
- 취약점 분석이나 익스플로잇 코드 생성 같은 보안 작업이 차단된다는 지적입니다.
편집자 한 줄
Anthropic 의 안전 정책이 보안 연구 커뮤니티와 충돌하는 사례가 또 나왔네요.
- #anthropic
- #fable
- #guardrails
- #cybersecurity
TechCrunch AI