API设计与开发

KServe 推理服务自动伸缩与 GPU 调度治理(2025)

# KServe 推理服务自动伸缩与 GPU 调度治理(2025) ## 一、架构与部署 - 模型服务:`InferenceService` 定义接口与路由;支持 REST/gRPC。 - 资源:为 `GPU` 设置 requests/limits 与节点选择器;隔离不同模型的资源。 - 存储:模型拉取与缓存策略,减少启动时延。 ## 二、自动伸缩与队列 - Autoscaling:按 QPS

API 安全测试与漏洞扫描(2025)

# API 安全测试与漏洞扫描(2025) API 安全测试覆盖静态与动态、自动与人工的多维度方法,形成持续治理闭环。 ## 一、基线与清单 - 基线:对鉴权、速率限制、输入校验等建立安全基线。 - 资产清单:统一记录 API 清单与暴露面,纳入测试范围。 ## 二、SAST 与 DAST - SAST:在 CI 阶段进行代码级静态扫描与规则校验。 - DAST:对运行中的接口进行黑盒扫描与