网络安全

AI 安全与评估体系(2025)

# AI 安全与评估体系(2025) AI 系统的安全与质量需要制度化治理。本文从指标、攻防与审计三个方面展开。 ## 一、评估指标 - 准确性与一致性:针对任务定义标注集与评分标准。 - 幻觉控制:回答需可追溯来源;无法回答时明确退路。 - 鲁棒性:对对抗样本与异常输入进行压力评估。 ## 二、数据泄露与防护 - 最小权限:隔离敏感数据,严格访问控制与审计。 - 输出检测:对潜在泄露与敏感