실시간 AI 트렌딩

Feed

오늘의 AI · 6월 11일 (목)

오늘은 Anthropic의 Claude Fable 5가 안전 설계 논란의 중심에 서고, AI 발전 속도에 대응하는 정책 제안과 기업들의 막대한 AI 투자 소식이 주목받았습니다.

  1. 01Fable 5, 안전 제약 논란 — Anthropic의 최신 모델 Claude Fable 5가 기초 생물학 질문에 답을 거부하고 이전 모델로 넘기는 안전 설계가 알려졌습니다. 사이버보안 능력이 뛰어난 Mythos 계열 모델로, 의도적 지식 차단 사례입니다.
  2. 02Amodei, 'AI Exponential' 정책 제안 — Anthropic CEO Dario Amodei가 AI 발전의 지수적 속도에 대응하는 정책 프레임워크 'Policy on the AI Exponential'을 발표했습니다. 안전성과 통제 가능성 확보를 위한 규제 방향을 제시합니다.
  3. 03Amazon, AI 투자 175억 달러 차입 — Amazon이 AI 인프라 투자 자금을 위해 은행 신디케이트론 175억 달러를 조달했습니다. 회사채 100억 달러 발행 직후 추가 차입으로 AI 경쟁에 따른 자본 지출 확대가 지속됩니다.
  4. 04GPT-5.5, CoT 없이 3분 과제 50% 성공 — METR 연구에 따르면 GPT-5.5가 chain-of-thought 없이 인간 평균 3분짜리 과제를 50% 정확도로 수행합니다. CoT 없는 추론 능력은 안전성 모니터링에 중요한 함의를 가집니다.
  5. 05MS, Fable 5 내부 사용 제한 — Microsoft가 Anthropic Claude Fable 5를 직원용 내부 도구에서 제외했습니다. Anthropic의 데이터 보유 정책이 Microsoft의 Zero Data Retention 규칙과 충돌하기 때문입니다.

Fable 5는 안전을 위해 지식을 숨겼지만, 연구자들은 너무 엄격하다고 불만입니다. 안전과 유용성 사이의 줄타기는 여전히 진행형.

로그인하면 내 관심사 기반 추천 피드까지 받아볼 수 있어요.