AI

KServe 模型部署与弹性推理实践(2025)

一、部署与接口;InferenceService:统一模型入口与协议(REST/gRPC)。模型格式:支持 ONNX/TensorFlow/PMML 等多格式。二、弹性与发布;Autoscaling:按 QPS/并发与延迟指标伸缩副本

GPU 调度与 AI 推理成本优化(2025)

GPU 调度与 AI 推理成本优化(2025)推理服务成本受批量与并发与精度等影响,需在性能与体验之间平衡。一、批处理与并发;批处理:提升吞吐但增加延迟;按场景权衡批大小。并发调度:控制并发队列与优先级,避免拥塞与抖动。二、精度与算子;混合精度:FP16/BF16 在可接受损失下提升性能。