Google DeepMind, T5Gemma 공개 — 인코더-디코더 LLM 컬렉션

Google DeepMind가 Gemma 2 기반의 인코더-디코더 LLM 컬렉션 T5Gemma를 출시했다. 기존 디코더 전용 모델을 적응(adaptation) 기법으로 변환한 2B·9B 모델과 새로 학습된 T5 크기 모델(Small·Base·Large·XL)로 구성되며, 사전학습·인스트럭션 튜닝 버전 모두 공개된다. 디코더 전용 모델 대비 요약·번역·QA에서 높은 추론 효율을 제공하지만, 적응 과정에서 추가 사전학습이 필요하고 Gemma 2 기반으로만 제공된다.

• #google-deepmind
• #t5gemma
• #gemma-2
• #encoder-decoder
• #llm