AI

AI Prompt Injection 防护与上下文隔离(2025)

AI Prompt Injection 防护与上下文隔离(2025)提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。一、上下文与权限;上下文隔离:用于不同任务的数据与权限分隔。最小权限:工具与接口仅开放必要能力。二、提示与约束;引用约束:明确只能基于提供上下文回答与引用。

LLM 函数调用与工具编排实践(2025)

LLM 函数调用与工具编排实践(2025)函数调用与工具编排让模型与系统协作,提升可控性与可复现性。一、接口与模式;JSON Schema:定义函数参数与返回,校验输入输出。安全边界:限制可调用能力与资源,遵循最小权限。二、计划与执行;计划执行:将多步任务拆分为计划与步骤,控制顺序与依赖。

AI Agent 实践指南

AI Agent 以大模型为决策核心,通过规划、工具调用与记忆完成开放式任务。本文覆盖 Agent 架构、工具设计、多智能体协作、安全治理与评估观测,给出可落地的工程实践与常见误区。

AI 评估数据集构建与标注流程(2025)

AI 评估数据集构建与标注流程(2025)评估数据集决定了评估的可信度,需要规范采样与标注与质量流程。一、采样与覆盖;采样:覆盖主流与长尾场景,控制偏差。分层:按类别与难度分层,提升代表性。二、标注与质检;标注规范:统一标签与说明,降低歧义。质检:双人标注与仲裁,提升质量与一致性。