数据

数据归档治理(2025)

ClickHouse MergeTree 分区与 TTL/数据归档治理(2025)一、表设计与索引主键与排序键:根据查询模式选择高选择性列;避免宽主键导致写放大。索引:跳表(data skipping)与稀疏索引减少扫描;控制 granularity。二、分区与并行分区:按时间或租户分区,提升删除与

CDC 变更数据捕获与异构同步实践(2025)

CDC 变更数据捕获与异构同步实践(2025)CDC 将数据库的变更事件化,支持跨系统的低延迟同步与审计。一、捕获与来源binlog/redo:从数据库日志捕获变更(如 MySQL binlog)。表级变更:配置过滤与白名单,控制事件体量。二、管道与传输事件总线:以 Kafka 等传输与缓冲变更事件

Airbyte 数据集成与增量同步实践(2025)

Airbyte 数据集成与增量同步实践(2025)一、连接器与管道连接器:配置源/目标与认证;选择全量/增量模式。管道:调度与并发与重试策略;失败回退与告警。二、增量与 CDC增量同步:按更新时间或主键推进。CDC:基于日志捕获变更,保障一致性与回放能力。三、观测与治理指标:延迟与积压与错误率;存储

AI 评估数据集构建与标注流程(2025)

AI 评估数据集构建与标注流程(2025)评估数据集决定了评估的可信度,需要规范采样与标注与质量流程。一、采样与覆盖采样:覆盖主流与长尾场景,控制偏差。分层:按类别与难度分层,提升代表性。二、标注与质检标注规范:统一标签与说明,降低歧义。质检:双人标注与仲裁,提升质量与一致性。三、评估与闭环指标:准