CDN 的缓存策略的核心不是「做不做」,而是「做到什么程度」。本文围绕回源、缓存键、失效这 3 个环节,给出网络协议场景下的判断标准。

一、问题定位

很多 CDN 的缓存策略的问题在测试环境看不出来:回源的调用间隔一拉长,缓存键的本地缓存就命中率骤降,长尾被整体抬起来。

1.1 为什么现在更值得讨论

放到网络协议的现状里,驱动力主要来自三方面:

  • 成本透明化:资源开销被逐项核算,隐性浪费无处藏身
  • 稳定性被量化:可用性目标写进合同,口头承诺不再作数
  • 工具链成熟:观测、灰度、回滚的基础设施已经开箱可用

二、按要点拆解:CDN 的缓存策略

2.1 回源

回源的参数不要一次定死,先留出可覆盖的入口,再用压测数据回填默认值。回源的参数一旦过早定死,往往在负载变化后变成新的瓶颈。

  • 资源:回源单次操作的内存与连接占用要能算出来,避免压力下雪崩
  • 回退:给回源明确「降级到哪一档」,而不是「出错就重试」
  • 观测:回源至少有成功率、P99、积压量三个指标能被独立查询

2.2 缓存键

讨论缓存键时,先分清哪些是必须保证的性质、哪些只是实现细节。把缓存键的性质写成测试用例,实现细节才敢随便改。

  • 状态可见:缓存键的当前状态要能被外部查询,而不是只能靠日志反推
  • 文档同步:缓存键的边界条件与默认值要写进仓库,而不是留在人脑里
  • 回退:给缓存键明确「降级到哪一档」,而不是「出错就重试」

2.3 失效

失效的状态要有唯一的权威来源。两处都维护失效的状态,早晚会出现不一致,而排查这种不一致的成本远高于一开始就收敛到一处。

  • 限流保护:失效要能拒绝超过处理能力的请求,而不是让队列无限堆积
  • 版本标识:失效的每次变更都要带版本,便于灰度期间对比效果
  • 文档同步:失效的边界条件与默认值要写进仓库,而不是留在人脑里

理解了回源、缓存键、失效的依赖顺序,后面的取舍就好判断了:

回源 → 缓存键 → 失效

把回源和缓存键的耗时拆开看,就知道该先动哪一环:占比高的那部分,投入产出比通常最好。

三、最小可运行实现

某次网络协议改造上线后,回源的指标没有变化,但缓存键的内存缓慢上涨,最终触发 OOM。复盘发现是网络协议改造引入的缓存没有设上限。

处理方式是把回源的失败拆成「可重试」和「不可重试」两类,前者进退避队列,后者直接走降级路径;缓存键只消费处理结果,不再关心中间过程。

下面这段示例代码把回源、缓存键、失效串起来,省略了异常处理的细节:

// HTTP 缓存:强缓存与协商缓存的分层策略
package httpx

import (
 "net/http"
 "strconv"
 "strings"
 "time"
)

func isAsset(path string) bool {
 for _, ext := range []string{".css", ".js", ".png", ".svg", ".woff2"} {
  if strings.HasSuffix(path, ext) {
   return true
  }
 }
 return false
}

// SetCache 静态资源走强缓存并加指纹,接口走协商缓存
func SetCache(w http.ResponseWriter, path string, hash string) {
 if isAsset(path) {
  w.Header().Set("Cache-Control", "public, max-age=31536000, immutable")
  w.Header().Set("ETag", `"`+hash+`"`)
  return
 }
 w.Header().Set("Cache-Control", "no-cache") // 允许缓存,但每次协商
 w.Header().Set("ETag", `"`+hash+`"`)
}

// Revalidate 命中 If-None-Match 时直接返回 304,省掉整包传输
func Revalidate(w http.ResponseWriter, r *http.Request, etag string) bool {
 if match := r.Header.Get("If-None-Match"); match != "" && match == `"`+etag+`"` {
  w.WriteHeader(http.StatusNotModified)
  return true
 }
 return false
}

// 边缘缓存分层:CDN 用 s-maxage 控制共享缓存,浏览器用 max-age 控制私有缓存
func EdgeHeader(ttl time.Duration) string {
 return "public, max-age=60, s-maxage=" + strconv.Itoa(int(ttl.Seconds())) + ", stale-while-revalidate=30"
}

四、验证与调优

同一环境下的前后对比(关闭了其他变量,只保留本次改动):

环节单次耗时占关键路径优化手段
回源0.9ms38%减少一次跨进程拷贝
缓存键1.4ms27%把重复校验前移到入口
失效2.0ms20%缓存热路径结果

整体指标:P99 从 187ms 降到 69ms(-63%),吞吐从 2 万 QPS 提升到 5 万 QPS(+150%),CPU 占用从 65% 降到 36%。

4.1 灰度策略

  • 阶段一:灰度期间只记录不拦截,先建立行为基线
  • 阶段二:开启拦截但保留白名单,处理误报
  • 阶段三:收紧阈值到目标水位,观察误伤率
  • 阶段四:稳定运行两周后,把规则固化进配置中心

4.2 观测面

观测的重点不是收集数据,而是让故障能被快速定位:

  • 指标:区分「错误率」与「降级率」,后者往往更早暴露问题
  • 日志:同一请求的日志用同一个追踪 ID 串起来
  • 巡检:定期跑一遍最坏路径,确认兜底仍然有效

五、结论

CDN 的缓存策略没有一次做对的可能,只有把回源、缓存键、失效的边界持续校准,才能让每一次改动都收敛而不是发散。

  • 观测先行:先有指标,再谈调优,否则优化方向全靠猜
  • 复杂度守恒:省下的复杂度会转移到别处,要主动选择放在哪
  • 文档即代码:状态机与边界条件写进仓库,而不是留在人脑里

本文由 AI 辅助完成,观点与结论基于公开资料与常见实践,具体实施请结合自身约束。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部