Datadog, 시계열 파운데이션 모델 Toto 2.0 공개 — 4M→2.5B 파라미터 스케일링, 3개 벤치마크 SOTA

Datadog이 시계열 예측 파운데이션 모델 Toto 2.0 패밀리를 공개했습니다. 4M에서 2.5B 파라미터까지 단일 학습 레시피로 안정적인 성능 향상을 보여주며, BOOM(관측성), GIFT-Eval(범용), TIME(오염 저항) 세 가지 벤치마크에서 SOTA를 달성했습니다. 핵심은 u-muP 하이퍼파라미터 전이 파이프라인으로, 작은 모델에서 튜닝한 설정을 큰 모델로 확장할 수 있다는 점이 흥미롭습니다. 단, 이번 릴리스는 베이스 체크포인트만 Apache 2.0으로 공개되어, 파인튜닝이나 추론 코드는 별도로 준비해야 합니다.

• #time-series
• #foundation-model
• #datadog
• #forecasting
• #scaling