AI

AI 评估数据集构建与标注流程(2025)

AI 评估数据集构建与标注流程(2025)评估数据集决定了评估的可信度,需要规范采样与标注与质量流程。一、采样与覆盖;采样:覆盖主流与长尾场景,控制偏差。分层:按类别与难度分层,提升代表性。二、标注与质检;标注规范:统一标签与说明,降低歧义。质检:双人标注与仲裁,提升质量与一致性。

AI Prompt Injection 防护与上下文隔离(2025)

AI Prompt Injection 防护与上下文隔离(2025)提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。一、上下文与权限;上下文隔离:用于不同任务的数据与权限分隔。最小权限:工具与接口仅开放必要能力。二、提示与约束;引用约束:明确只能基于提供上下文回答与引用。