ROCm

COMPUTE / 06

vLLM v0.28.0公開 — Kimi-K3最適化とDeepSeek V4対応、Model Runner V2とKVキャッシュ階層化を強化

vLLM v0.28.0が公開。Kimi-K3の大幅最適化、DeepSeek V4のsparse MLA、投機的デコーディング、Model Runner V2、階層KVキャッシュなどを強化。