LLM输出防护：提示注入、敏感信息与事实核查

LLM输出防护：提示注入、敏感信息与事实核查概览在检索增强与工具调用场景中，LLM 容易受到提示注入与越权指令影响。通过输入/输出防护与证据引用可降低风险。技术参数（已验证）上下文隔离：将系统指令与用户输入区分，限制工具执行与外部调用边界。敏感信息过滤：基于规则与分类模型过滤密钥/个人信息等敏感内容。事实核查：对回答中的关键断言进行检索比对，保留来源与片段引用。实战清单为工具调用与外部 API 设置白名单与参数约束。在最终输出中加入证据与来源链接，拒绝无证据断言。