可解释性
  1. 首页
  2. 可解释性

列表

Agent治理与对齐工程：从意图对齐到生产级治理框架的系统化构建

Agent治理与对齐工程：从意图对齐到生产级治理框架的系统化构建

系统讲解Agent治理与对齐工程：从LLM对齐技术(RLHF/DPO/Constitutional AI)到可执行行为约束(规则引擎/动态监控/工具治理)、可解释性架构(推理追踪/决策透明)、审计合规(行为/质量/影响/合规)、组织级治理架构(三道防线/生命周期治理)、对齐深层挑战(古德哈特定律/局限性)。
AI技术 2026年09月26日
Agent人机协作工程：从自动化到人在环路的信任与效率平衡艺术

Agent人机协作工程：从自动化到人在环路的信任与效率平衡艺术

Agent工程实践系列第十四篇：系统化阐述Agent人机协作工程方法论——五层协作模式分类学（L0全自动→L4协同对话）、动态审批流引擎设计（风险自适应触发、智能路由、上下文工程）、信任校准机制（能力信号、渐进式授权、错误暴露策略）、分层可解释性接口（对比解释、因果链可视化）、结构化冲突消解流程，提出HITL成熟度模型（L0-L5），并给出构建生产级人机协作系统的关键陷阱规避策略。
AI技术 2026年09月26日