Sundar Pichai 'latency budgets 얘기 제일 많이 한 술집' — 구글 AI 인프라 전략 신호

Sundar Pichai 가 'Most I’ve ever talked about latency budgets in a pub' 라고 트윗하며 Collision 컨퍼런스 비하인드를 공유했다. 지연시간 예산(latency budgets)은 AI 모델 서빙 최적화의 핵심 지표로, 구글이 추론 효율성에 집중하고 있음을 시사한다. 내일 출간되는 'Cheeky Pint' 책에서 관련 인사이트가 공개될 가능성.

• #google
• #sundarpichai
• #ai-infrastructure
• #latency

Sundar Pichai@sundarpichai