LLM 流式推理的自适应调度引擎：背压传播、批处理优化与过载保护
在 LLM 推理服务中，Streaming（流式）输出带来了极致的用户体验，但也给服务端带来了独特的调度难题。本文深入探讨如何在流式推理场景下构建具备背压感知、自适应批处理和过载保护的生产级调度系统，涵盖 GPU 显存预算器、AIMD 自适应批处理、分级降级策略及 Token Bucket 限流等核心技术。
投稿
微信公众账号
微信扫一扫加关注
顶部