LLM函数调用与JSON模式约束:结构化输出与工具编排 通过函数调用与 JSON Schema 约束实现结构化输出与工具编排,提升可控性与集成效率。 Prompt工程 2026年04月30日 0 点赞 0 评论 208 浏览
LLM 推理缓存与去重策略(Prompt Cache、Fingerprint 与验证) 通过Prompt缓存与请求指纹实现去重与命中,结合结果分片与Speculative策略降低延迟与成本,提供实现与验证方法。 Prompt工程 2026年04月30日 0 点赞 0 评论 178 浏览
AI Prompt Injection 防护与上下文隔离(2025) # AI Prompt Injection 防护与上下文隔离(2025)提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。## 一、上下文与权限- 上下文隔离:用于不同任务的数据与权限分隔。- 最小权限:工具与接口仅开放必要能力。## 二、提示与约束- 引用约束:明确只能基于提供上下文回答与引用。- 模板与过滤:对输入进行过滤与正则清洗,降低风险。# Prompt工程 2026年04月30日 0 点赞 0 评论 211 浏览
Pallas GPU 内核编程:XLA 编译器 + Hopper TMA 异步拷贝的 SMEM 流水线深度实战 Pallas 是 JAX/XLA 生态中用于编写高性能自定义 GPU 的底层编程模型,它通过 pallas_call 入口和 AsyncCopy 原语,让开发者既能利用 XLA 编译器的全局优化能力,又能精细控制 Hopper 架构的 Tensor Memory Accelerator (TMA) 硬件单元。 Prompt工程 2026年10月07日 0 点赞 0 评论 12 浏览
Agent推理规划工程实战:从思维链到自主认知架构的系统化构建 系统讲解Agent推理规划工程的全栈方法论:从CoT到ToT/GoT的推理范式演进、ReAct/Plan-then-Execute/LATs等规划架构对比、元认知/执行认知/社会认知三层认知模型、搜索增强推理的工程实现、以深层信息检索Agent为例的三层路由Tier架构实战落地。 Prompt工程 2026年09月26日 0 点赞 0 评论 39 浏览
上下文工程与多Agent协作架构:从Prompt Engineering到Agent Orchestration的范式升级 探讨从提示词工程到上下文工程的演进路径,深入解析多Agent协作中的上下文分发、记忆共享与任务编排策略。涵盖ReAct、LATS、CAMEL等框架的核心机制与2026年工程实践。 Prompt工程 2026年09月25日 0 点赞 0 评论 28 浏览
Loop Engineering:当开发者停止提示AI,开始设计AI的自我循环 "从'提示AI做事'到'设计AI自我循环运转'——2026年AI原生软件工程的核心范式转变。Google Cloud工程师Addy Osmani定义的Loop Engineering如何重塑开发者角色,以及它如何成为继RAG、Agent之后的下一个AI工程关键概念。" Prompt工程 2026年09月25日 0 点赞 0 评论 29 浏览
"Loop Engineering:当开发者停止提示AI,开始设计AI的自我循环" 从"提示AI做事"到"设计AI自我循环运转"——2026年AI原生软件工程的核心范式转变。Google Cloud工程师Addy Osmani定义的Loop Engineering如何重塑开发者角色,以及它如何成为继RAG、Agent之后的下一个AI工程关键概念。 Prompt工程 2026年09月25日 0 点赞 0 评论 41 浏览
大模型可解释性与思维链推理深化2026:从机械可解释性到过程奖励推理的全栈技术体系 2026年大模型可解释性与思维链推理的全栈技术深度解析——从机械可解释性的SAE特征电路到激活干预、过程奖励模型与交互式CoT的工程实践 Prompt工程 2026年09月24日 0 点赞 0 评论 41 浏览
大模型安全实战2026:AI红队对抗、Prompt安全框架与模型供应链保护 2026年大模型安全实战全指南:涵盖提示注入/越狱/数据投毒/模型窃取等AI攻击面,Garak/PAIR自动化红队技术,Llama Guard防御体系,模型供应链安全与MLOps治理。 Prompt工程 2026年09月24日 0 点赞 0 评论 45 浏览
思维链推理增强大模型工程化2026:CoT树状扩展ToT、过程奖励PRM与长链推理可靠性优化实践 深入剖析2026年大模型推理增强工程实践:思维链CoT树状扩展ToT、过程奖励PRM训练与推理优化、长链推理可靠性保障与自纠错机制 Prompt工程 2026年09月24日 0 点赞 0 评论 35 浏览
大模型应用安全治理体系2026:Prompt注入防御、内容合规与AI红队测试工程实践 深入分析2026年大模型应用安全治理体系的关键技术,涵盖Prompt注入攻击演进、防御技术体系、AI红队测试框架和合规审计实践。 Prompt工程 2026年09月24日 0 点赞 0 评论 26 浏览
2026年AI对抗性攻击与模型安全治理:从Prompt注入到大模型供应链风险的全景防御 2026年AI安全治理深度全景:从Prompt注入、模型投毒、多模态对抗样本到LLM供应链安全和Agent治理框架的系统性防御体系。 Prompt工程 2026年09月23日 0 点赞 0 评论 34 浏览