CDN 的缓存策略的核心不是「做不做」,而是「做到什么程度」。本文围绕回源、缓存键、失效这 3 个环节,给出网络协议场景下的判断标准。
一、问题定位
很多 CDN 的缓存策略的问题在测试环境看不出来:回源的调用间隔一拉长,缓存键的本地缓存就命中率骤降,长尾被整体抬起来。
1.1 为什么现在更值得讨论
放到网络协议的现状里,驱动力主要来自三方面:
- 成本透明化:资源开销被逐项核算,隐性浪费无处藏身
- 稳定性被量化:可用性目标写进合同,口头承诺不再作数
- 工具链成熟:观测、灰度、回滚的基础设施已经开箱可用
二、按要点拆解:CDN 的缓存策略
2.1 回源
回源的参数不要一次定死,先留出可覆盖的入口,再用压测数据回填默认值。回源的参数一旦过早定死,往往在负载变化后变成新的瓶颈。
- 资源:回源单次操作的内存与连接占用要能算出来,避免压力下雪崩
- 回退:给回源明确「降级到哪一档」,而不是「出错就重试」
- 观测:回源至少有成功率、P99、积压量三个指标能被独立查询
2.2 缓存键
讨论缓存键时,先分清哪些是必须保证的性质、哪些只是实现细节。把缓存键的性质写成测试用例,实现细节才敢随便改。
- 状态可见:缓存键的当前状态要能被外部查询,而不是只能靠日志反推
- 文档同步:缓存键的边界条件与默认值要写进仓库,而不是留在人脑里
- 回退:给缓存键明确「降级到哪一档」,而不是「出错就重试」
2.3 失效
失效的状态要有唯一的权威来源。两处都维护失效的状态,早晚会出现不一致,而排查这种不一致的成本远高于一开始就收敛到一处。
- 限流保护:失效要能拒绝超过处理能力的请求,而不是让队列无限堆积
- 版本标识:失效的每次变更都要带版本,便于灰度期间对比效果
- 文档同步:失效的边界条件与默认值要写进仓库,而不是留在人脑里
理解了回源、缓存键、失效的依赖顺序,后面的取舍就好判断了:
回源 → 缓存键 → 失效
把回源和缓存键的耗时拆开看,就知道该先动哪一环:占比高的那部分,投入产出比通常最好。
三、最小可运行实现
某次网络协议改造上线后,回源的指标没有变化,但缓存键的内存缓慢上涨,最终触发 OOM。复盘发现是网络协议改造引入的缓存没有设上限。
处理方式是把回源的失败拆成「可重试」和「不可重试」两类,前者进退避队列,后者直接走降级路径;缓存键只消费处理结果,不再关心中间过程。
下面这段示例代码把回源、缓存键、失效串起来,省略了异常处理的细节:
// HTTP 缓存:强缓存与协商缓存的分层策略
package httpx
import (
"net/http"
"strconv"
"strings"
"time"
)
func isAsset(path string) bool {
for _, ext := range []string{".css", ".js", ".png", ".svg", ".woff2"} {
if strings.HasSuffix(path, ext) {
return true
}
}
return false
}
// SetCache 静态资源走强缓存并加指纹,接口走协商缓存
func SetCache(w http.ResponseWriter, path string, hash string) {
if isAsset(path) {
w.Header().Set("Cache-Control", "public, max-age=31536000, immutable")
w.Header().Set("ETag", `"`+hash+`"`)
return
}
w.Header().Set("Cache-Control", "no-cache") // 允许缓存,但每次协商
w.Header().Set("ETag", `"`+hash+`"`)
}
// Revalidate 命中 If-None-Match 时直接返回 304,省掉整包传输
func Revalidate(w http.ResponseWriter, r *http.Request, etag string) bool {
if match := r.Header.Get("If-None-Match"); match != "" && match == `"`+etag+`"` {
w.WriteHeader(http.StatusNotModified)
return true
}
return false
}
// 边缘缓存分层:CDN 用 s-maxage 控制共享缓存,浏览器用 max-age 控制私有缓存
func EdgeHeader(ttl time.Duration) string {
return "public, max-age=60, s-maxage=" + strconv.Itoa(int(ttl.Seconds())) + ", stale-while-revalidate=30"
}
四、验证与调优
同一环境下的前后对比(关闭了其他变量,只保留本次改动):
| 环节 | 单次耗时 | 占关键路径 | 优化手段 |
|---|---|---|---|
| 回源 | 0.9ms | 38% | 减少一次跨进程拷贝 |
| 缓存键 | 1.4ms | 27% | 把重复校验前移到入口 |
| 失效 | 2.0ms | 20% | 缓存热路径结果 |
整体指标:P99 从 187ms 降到 69ms(-63%),吞吐从 2 万 QPS 提升到 5 万 QPS(+150%),CPU 占用从 65% 降到 36%。
4.1 灰度策略
- 阶段一:灰度期间只记录不拦截,先建立行为基线
- 阶段二:开启拦截但保留白名单,处理误报
- 阶段三:收紧阈值到目标水位,观察误伤率
- 阶段四:稳定运行两周后,把规则固化进配置中心
4.2 观测面
观测的重点不是收集数据,而是让故障能被快速定位:
- 指标:区分「错误率」与「降级率」,后者往往更早暴露问题
- 日志:同一请求的日志用同一个追踪 ID 串起来
- 巡检:定期跑一遍最坏路径,确认兜底仍然有效
五、结论
CDN 的缓存策略没有一次做对的可能,只有把回源、缓存键、失效的边界持续校准,才能让每一次改动都收敛而不是发散。
- 观测先行:先有指标,再谈调优,否则优化方向全靠猜
- 复杂度守恒:省下的复杂度会转移到别处,要主动选择放在哪
- 文档即代码:状态机与边界条件写进仓库,而不是留在人脑里
本文由 AI 辅助完成,观点与结论基于公开资料与常见实践,具体实施请结合自身约束。

发表评论 取消回复