人工智能

LLM 函数调用与工具编排实践(2025)

# LLM 函数调用与工具编排实践(2025)函数调用与工具编排让模型与系统协作,提升可控性与可复现性。## 一、接口与模式- JSON Schema:定义函数参数与返回,校验输入输出。- 安全边界:限制可调用能力与资源,遵循最小权限。## 二、计划与执行- 计划执行:将多步任务拆分为计划与步骤,控制顺序与依赖。- 观察与回路:记录每次调用的观察与结果,便于回溯与调试。##

AI Prompt Injection 防护与上下文隔离(2025)

# AI Prompt Injection 防护与上下文隔离(2025)提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。## 一、上下文与权限- 上下文隔离:用于不同任务的数据与权限分隔。- 最小权限:工具与接口仅开放必要能力。## 二、提示与约束- 引用约束:明确只能基于提供上下文回答与引用。- 模板与过滤:对输入进行过滤与正则清洗,降低风险。#

不确定性校准深度实战:从可靠性图、ECE 到温度缩放与贝叶斯校准的工程全解

系统拆解模型校准的第一性原理:为什么高准确率网络普遍过自信、区分度与校准度解耦;从完美校准定义 P(Ŷ=Y|Ĉ=p)=p、可靠性图(校准曲线)、ECE/MCE/class-wise ECE/Brier/NLL(ECE 非 proper scoring rule,须与 NLL 同报)的评估体系,到参数化缩放谱系(Platt/Isotonic/Vector/Matrix/Temperature Scaling——单标量 T 保留 argmax 与 AUC 的性价比之王)、训练期标签平滑/数据增强/蒸馏反而放大过自信的反作用、以及 MC Dropout/Deep Ensemble/Conformal Prediction 对真实不确定性(认知+偶然)的建模。深入温度缩放实战(在独立验证集、eval 模式、fp32 下拟合 T>1)、12 项生产陷阱清单(训练集泄漏、未 eval、低精度、bin 数、类别不平衡、OOD 检测、多任务、漂移)与可复现 PyTorch 工具箱。与本站 损失函数、正则化、激活函数、RMSNorm、相对位置编码、交叉注意力、残差连接、学习率调度、梯度累积、词嵌入 共同构成 Transformer 内部机制与训练工程深度解系列(补全输出可靠性一环),并与 成员推断/模型提取攻击 共享"置信度"这一攻防面(校准是一把双刃剑)。