AI技术

AI Prompt Injection 防护与上下文隔离(2025)

# AI Prompt Injection 防护与上下文隔离(2025) 提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。 ## 一、上下文与权限 - 上下文隔离:用于不同任务的数据与权限分隔。 - 最小权限:工具与接口仅开放必要能力。 ## 二、提示与约束 - 引用约束:明确只能基于提供上下文回答与引用。 - 模板与过滤:对输入进行过滤与正则清洗,降低风险。 #

LLM 函数调用与工具编排实践(2025)

# LLM 函数调用与工具编排实践(2025) 函数调用与工具编排让模型与系统协作,提升可控性与可复现性。 ## 一、接口与模式 - JSON Schema:定义函数参数与返回,校验输入输出。 - 安全边界:限制可调用能力与资源,遵循最小权限。 ## 二、计划与执行 - 计划执行:将多步任务拆分为计划与步骤,控制顺序与依赖。 - 观察与回路:记录每次调用的观察与结果,便于回溯与调试。 ##

Cloudflare Workers AI 与 Vectorize 实战

引言 - Workers AI 将模型推理能力带到 Cloudflare 边缘;Vectorize 提供托管向量索引,便于在边缘实现检索增强与个性化服务。 能力与实践(已验证) - Workers AI:支持在边缘调用模型进行推理,兼容 Web 标准与 Workers 环境。来源:Cloudflare Docs(Workers AI)。 - Vectorize:托管向量索引存储,与 Work