AI at Meta, Muse Spark 스케일링 특성 공개 — Llama 4 대비 10배 효율

AI at Meta가 Muse Spark의 스케일링 특성을 프리트레이닝, 강화학습, 테스트타임 추론 세 축으로 분석한 결과를 공유했습니다. 프리트레이닝 스택을 9개월간 재구축해 아키텍처, 최적화, 데이터 큐레이션을 개선했고, 이전 모델 Llama 4 Maverick 대비 동일 성능에 10분의 1 미만의 FLOPs로 도달할 수 있었다고 합니다. 스케일링 법칙을 통해 효율성을 입증한 점이 인상적입니다.

• #meta
• #muse-spark
• #llama-4
• #scaling
• #efficiency

AI at Meta@AIatMeta