大语言模型安全：理解与应对AI幻觉

AI幻觉的定义

AI幻觉是大语言模型生成看似合理但实际与事实不符内容的现象，是当前LLM最严峻挑战之一。

幻觉类型

事实性幻觉：与客观事实违背

忠实性幻觉：与输入上下文矛盾

产生原因

训练数据噪声、自回归误差累积、知识截止限制、多样性采样放大——四因素叠加。

缓解策略

训练阶段：RLHF对齐、Constitutional AI、事实增强

推理阶段：Chain-of-Verification、Self-Consistency、RAG检索增强

RAG防御方案

检索增强生成（RAG）将LLM连接权威知识源，使事实准确率提升至90%+。典型架构含向量数据库、检索器、重排序器和生成器四个组件。

总结

AI幻觉是根本性挑战，需训练改进+检索增强+验证机制三管齐下。开发者必须内置幻觉检测与降级策略。