AI Agent学习:提示工程:优化系统提示词(李博杰《深入理解 AI Agent》2.4观后总结)

发布时间:2026/8/5 10:09:47
AI Agent学习:提示工程:优化系统提示词(李博杰《深入理解 AI Agent》2.4观后总结) 核心类比系统提示词 Agent 的员工手册检验标准聪明新人读完手册能清晰知道如何执行工作。一、语气与风格设定Agent人格影响用户体验不直接决定任务成败。明确输出约束限制行数、句子数量失败场景禁止冗长自我解释指令强调策略关键约束使用大写NEVER / MUST不要滥用避免权重稀释消融实验结论风格改变表达方式但任务完成率影响有限模型具备较强风格自适应能力二、结构化提示优化信息格式模型对结构化文本感知更强推荐双层结构XML标签机器可解析区分数据来源、语义边界用于外部内容标记、元信息Markdown人机可读组织层级指令、流程实践不要使用纯冒号文本传递关键结构化信息增加模型解析负担。三、组织方式流程驱动 零散规则堆砌❌ 反面无序上百条规则无优先级、无执行顺序模型无法处理规则冲突✅ 推荐SOP标准操作流程分步定义执行链路优势模型清晰识别当前阶段、下一步动作、异常处理逻辑实验佐证打乱有序流程、拆散规则任务成功率下降30%以上四、业务规则细化生产Agent重中之重定位属于产品设计问题而非单纯技术问题需要产品参与定义核心原则消除模糊描述规则细化至可执行禁止开放式判定“根据情况选择”明确边界、分类条件、例外场景标准化计算逻辑、成功率判定、计费/分支规则杜绝模型自由裁量设计哲学模型擅长执行复杂指令不要把业务决策自由交给模型在固定框架内释放模型思考能力五、Few-shot 少样本示例使用策略使用场景期望输出格式、语气、判定标准难以用文字描述时优先使用示例。工程要点数量2~3个高质量示例覆盖边界案例最优过多示例占用token、稀释规则注意力放置位置写入系统提示词全局永久生效独立user/assistant消息支持会话动态切换示例集KV Cache约束示例需要保持字节稳定禁止逐请求动态检索替换示例会持续破坏缓存不适用场景模型原生擅长、规则容易清晰描述的任务示例只会浪费token六、工具定义设计tools工具定义和系统提示词共同构成静态前缀工具描述规范写明使用边界、调用示例、性能建议、工具间协作约束前沿架构工具渐进式延迟加载Skills模式初始上下文仅存放工具名称与简述完整Schema按需追加至对话末尾优势不破坏KV缓存前缀追加内容不会使已缓存token失效注意仅新版模型支持识别“对话中途加载工具定义”七、消融实验Prompt调优科学方法控制变量逐项移除组件观测指标任务成功率、工具错误率重点观测维度语气风格对成功率影响较小信息组织结构影响最大混乱结构大幅降低成功率工具描述移除描述文本工具调用错误率上升45%落地思路Agent表现异常时优先消融实验定位瓶颈而非全盘重写提示词。八、提示注入Agent核心安全威胁攻击原理外部内容网页、PDF、文档、图片元数据嵌入伪装指令劫持Agent行为。风险放大普通聊天机器人仅输出异常具备工具调用能力的Agent可执行高危操作文件修改、数据泄露上下文层防御方案多层防护第一道防线来源标记外部不可信内容使用XML包裹标识external_content sourceweb区分指令与原始数据严格区分角色消息利用Chat Templatesystem/user/assistant/tool角色隔离禁止手动拼接消息输入清洗匹配恶意注入关键词仅作为辅助防御重要提醒上下文防御无法100%拦截注入必须搭配执行层沙盒、权限管控、高危操作二次确认分层防御第三方Skill、网页检索知识库均存在注入风险。九、核心总结优先采用SOP流程驱动 MarkdownXML结构化编写系统提示词业务规则做到无歧义、可执行减少模型自由判断Few-shot按需添加固定示例保障KV缓存稳定工具定义完善描述大型系统可采用工具延迟加载架构使用消融实验量化优化效果拒绝纯经验调参持续防范提示注入上下文防护执行权限隔离双层保障