Mistral AI, vLLM 메모리 누수 디버깅 사례 공개 — 400MB/min 증가 원인 추적

Mistral AI가 vLLM에서 발견된 메모리 누수 디버깅 과정을 엔지니어링 블로그에 공개했다. Mistral Medium 3.1 모델과 그래프 컴파일, Prefill/Decode 분산 서빙 환경에서만 400MB/분의 선형 메모리 증가가 발생했으며, Python 레벨에서 커널 트레이싱까지 내려가 원인을 추적했다. 이번 사례는 의존성 레이어의 숨은 위험을 보여주며, 특정 조건에서만 재현되는 누수는 표준 디버깅 도구로는 발견이 어려웠다.

• #mistral
• #vllm
• #memory-leak
• #debugging
• #engineering