大语言模型

AI 安全与评估体系(2025)

# AI 安全与评估体系(2025)AI 系统的安全与质量需要制度化治理。本文从指标、攻防与审计三个方面展开。## 一、评估指标- 准确性与一致性:针对任务定义标注集与评分标准。- 幻觉控制:回答需可追溯来源;无法回答时明确退路。- 鲁棒性:对对抗样本与异常输入进行压力评估。## 二、数据泄露与防护- 最小权限:隔离敏感数据,严格访问控制与审计。- 输出检测:对潜在泄露与敏感

Origin-Agent-Cluster:站点隔离与进程安全

---title: Origin-Agent-Cluster:站点隔离与进程安全keywords: - Origin-Agent-Cluster - OAC - 站点隔离 - 进程模型 - 安全强化description: 使用 `Origin-Agent-Cluster: ?1` 将页面置于独立的 agent cluster,增强隔离与安全,减少跨文档共享造成的风险,并...

Open Policy Agent-Kyverno策略治理与准入控制实践

---title: Open Policy Agent/Kyverno策略治理与准入控制实践keywords:- OPA- Kyverno- 准入控制- Policy- Rego- 验证- 变更阻断- 策略集成- 审计- 合规description: 使用 OPA/Kyverno 在 Kubernetes 中实施策略治理与准入控制,编写与验证策略、阻断不合规变更,并提供审...

LLM 输出去敏与审计流水(PII Redaction、审计与验证)

---title: LLM 输出去敏与审计流水(PII Redaction、审计与验证)date: 2025-11-26keywords: - PII Redaction - 审计流水 - Masking - 合规 - 日志description: 为LLM输出进行PII去敏与审计记录,通过规则与模型识别敏感信息并替换,保留审计流水与证据链,提供实现与验证方法。cat...