数据
数据脱敏与日志治理(字段级红线/结构化)最佳实践
以字段级红线与结构化日志治理为核心,统一脱敏与白名单策略,保障隐私不外泄并提升可观测与审计能力。
数据脱敏与隐私合规(Masking、Pseudonymization、GDPR/CCPA)
构建数据脱敏与隐私合规体系,采用 Masking/Pseudonymization 与最小化原则,结合审计与验证流程确保合规。
数据脱敏与隐私计算实践(2025)
数据脱敏与隐私计算实践(2025)隐私保护要求在采集、存储与使用全链路实施技术与治理手段。一、脱敏与匿名化掩码与替换:对敏感字段进行掩码与伪值替换。泛化与聚合:按范围与分组降低识别风险。二、差分隐私与采样差分隐私:在统计输出添加噪声以保护个体隐私。采样与阈值:控制最小样本与门槛避免过拟合与泄露。三、
数据血缘与元数据治理(2025)
数据血缘与元数据治理(2025)数据血缘揭示数据从源到用的路径,元数据治理提升数据资产的可见性与一致性。一、元数据模型与目录(Catalog)范畴:数据集、字段、任务与调度;统一命名与标签。可视化:以目录与关系图呈现依赖与责任归属。二、血缘采集与存储采集:在 ETL/ELT、流处理与查询层植入血缘事
数据质量与校验(校验和、审计对账、死信队列与补偿)
建立数据质量保障机制,采用校验和与审计对账、死信队列与补偿流程,确保跨系统的一致性与可追溯。
数据质量与验证:Great Expectations与断言策略
通过规则断言与可执行文档治理数据质量,将验证嵌入管道与消费侧,避免脏数据扩散。
数据质量度量与管控体系(2025)
数据质量度量与管控体系(2025)数据质量是数据价值的基础。本文从指标、规则与流程构建治理体系。一、指标体系完整性:字段缺失率与约束校验。一致性:跨源与跨表的一致校验与对账。准确性:与权威来源比对与抽样复核。及时性:时延与更新频次的监控与告警。二、规则与流程DQ 规则:在采集、加工与发布环节设定质量
数据转换框架选型:dbt与Dataform对比
对比两大 SQL 转换框架在建模、依赖与测试上的差异,指导数据仓库内的转换治理。
