一、Checkpoint 与 Savepoint 的区别
Checkpoint 是 Flink 容错机制的核心:作业运行过程中会周期性对状态做轻量快照,任务失败时自动从最近一次检查点恢复,保证 Exactly-Once 语义。Savepoint 则是用户手动触发的全局一致性快照,主要用于作业升级、迁移、扩缩容与灰度验证,恢复时需要显式指定路径。
| 维度 | Checkpoint | Savepoint |
|---|---|---|
| 触发方式 | 系统自动周期性触发 | 用户手动触发 |
| 生命周期 | 作业取消即失效,保留策略可配 | 独立于作业存在,需手动删除 |
| 主要用途 | 故障自动恢复 | 升级、迁移、回滚 |
| 性能开销 | 轻量,支持增量 | 相对重,偏全量快照 |
| 格式兼容 | 与状态后端强绑定 | 可跨版本、跨后端迁移 |
二、状态后端选型
2.1 HashMapStateBackend
状态存放在 TaskManager 的 JVM 堆内存中,读写延迟低,适合状态规模较小、对延迟敏感的场景。缺点是受堆内存限制,状态过大容易触发 OOM 或明显的 GC 抖动。
2.2 EmbeddedRocksDBStateBackend
状态存放在本地 RocksDB(磁盘加内存缓存),支持增量检查点与超大状态,是生产环境的主流选择。代价是序列化与磁盘 I/O 带来额外延迟,需要通过调整块缓存与写缓冲来优化。
三、关键配置
state.backend: rocksdb
state.checkpoints.dir: hdfs:///flink/checkpoints
state.savepoints.dir: hdfs:///flink/savepoints
execution.checkpointing.interval: 60s
execution.checkpointing.mode: EXACTLY_ONCE
execution.checkpointing.timeout: 10min
state.backend.incremental: true
state.backend.rocksdb.ttl.compaction.filter.enabled: true
检查点间隔越短,故障恢复时回滚的数据越少,但开销越大。超时设置要明显大于正常单次检查点的耗时,避免偶发慢快照导致作业反复失败。
四、Exactly-Once 的实现条件
- 数据源必须支持重放或事务,例如 Kafka 按 offset 回退。
- 状态后端开启检查点,且 Sink 实现 TwoPhaseCommitSinkFunction 或等价的事务语义。
- 检查点模式设置为 EXACTLY_ONCE,依靠 barrier 对齐保证快照边界一致。
- 下游存储支持幂等写入或事务提交,避免恢复后重复写入。
五、Savepoint 操作
# 触发保存点
flink savepoint $JOB_ID hdfs:///flink/savepoints
# 从保存点恢复,并允许丢弃无法映射的状态
flink run -s hdfs:///flink/savepoints/savepoint-xxx -n
# 删除保存点,释放存储空间
flink savepoint -d hdfs:///flink/savepoints/savepoint-xxx
恢复时如果算子并行度发生变化,需要配合 -n(allow non-restored state)处理无法映射的状态,避免作业直接失败。
六、扩缩容与状态迁移
Savepoint 依赖最大并行度(maxParallelism)机制:只要新并行度不超过保存时设定的最大并行度,状态就可以自动重新分配。建议在作业初次提交时设置一个合理的 maxParallelism(如 128 或 256),为后续扩容留出空间。
七、常见问题与最佳实践
- 检查点持续失败:优先检查状态后端存储(HDFS 或 S3)的可用性与权限,其次排查反压导致 barrier 长时间无法对齐。
- 检查点体积过大:开启增量检查点,启用 RocksDB 的 TTL 压缩过滤器,及时清理过期状态。
- 恢复后数据重复:确认 Sink 具备事务或幂等语义,单纯依赖 Checkpoint 无法保证端到端 Exactly-Once。
- 升级前演练:正式发布前用 Savepoint 做一次完整恢复演练,验证状态兼容性与数据一致性。
- 目录规划:检查点目录与保存点目录分离,分别设置保留策略与存储配额,避免互相挤占。
结语
Checkpoint 决定作业的容错能力,Savepoint 决定作业的可演进能力。把两者纳入发布与运维流程,才能让长期运行的流作业在故障与迭代中保持稳定。

发表评论 取消回复