架构与中间件
Kafka 事务与精确一次语义(Idempotent Producer、Transactional 与验证)
通过幂等生产与事务边界实现Kafka精确一次语义,配置生产者与消费者参数,并提供端到端的验证方案以避免重复写入与脏读。
Kafka 事务与端到端一致性(2025)
Kafka 事务与端到端一致性(2025)端到端一致性需要在生产、消费与持久化之间协同保障。一、幂等生产与事务幂等生产:避免重复消息;配置生产者幂等与重试。事务:将多个写入合并为原子操作,保障一致性。二、Exactly-once (EOS)EOS:在流处理与下游写入之间实现 Exactly-once
Kafka Streams状态存储与RocksDB调优
掌握 Kafka Streams 的状态存储与恢复机制,调优 RocksDB/缓存与日志,提升稳定性与延迟表现。
Kafka Streams 拓扑设计与交付一致性(2025)
Kafka Streams 拓扑设计与交付一致性(2025)一、拓扑与分区拓扑设计:按业务模块拆分子拓扑,减少耦合。重分区:在键变更时进行重分区,保证均衡与有序。二、状态与一致性状态存储: RocksDB 本地状态与压缩策略。Exactly-once:事务与偏移一致性保障端到端。三、容错与观测容错:
状态存储治理(2025)
Kafka Streams Exactly-Once 与事务/状态存储治理(2025)一、EOS 与事务配置:启用 `processing.guarantee=exactly_once_v2`;设置事务超时与隔离级别。幂等:生产端使用幂等写;避免重复提交。事务边界:按拓扑节点划分事务;失败回滚与重试
Kafka Schema Registry:Avro/Protobuf/JSON Schema演进
使用 Schema Registry 管理消息模式,比较三种模式的兼容策略与演进路径,保障生产稳定。
Kafka Schema Registry 兼容策略与演进(Backward/Forward/Full 与验证)
配置与验证Schema Registry的兼容策略,指导Avro模式的演进与回滚,避免生产者/消费者不兼容与数据破坏。
Kafka Schema Registry 与 Avro 兼容性策略实战
"使用 Schema Registry 管理 Avro 模式,介绍兼容性策略与生产者/消费者集成示例,保障演进与解耦。"
Kafka Schema Registry 与 Avro/Protobuf 演进(兼容策略与验证)
使用 Schema Registry 管理 Kafka 消息模式,选择兼容策略(BACKWARD/FORWARD/FULL),实施演进与验证,保障生产稳定性。
