长提示词如何阻塞其他请求：优化 LLM 性能

TNG 在 24 块 H100 上自托管多个大语言模型，每日消耗超 1 亿 token、生成超 1000 万 token，发现 vLLM 默认 chunked-prefill 会顺序调度不同请求的 prefill，单个长提示词请求会阻塞后续请求，导致首 token 等待时间变长。