Agent 开发必会基础知识:LLM 与 Agent Loop的演化

发布时间:2026/7/25 3:43:39
Agent 开发必会基础知识:LLM 与 Agent Loop的演化 昨天有位同学问我学智能体开发要先掌握哪些基础知识。我说基础其实就 2 点一是大模型LLM的本质二是 Agent Loop也就是智能体的最小循环。至于 Function Calling、Context Engineering、Agent Runtime、harness 这些看着眼花缭乱的名词全是围着这 2 个基础长出来的工程手法。真正干活的从来不是模型是模型外面那圈程序。把这两点吃透剩下的名词你一看就知道它在解决什么问题。下面我尽量讲得通俗一点。先把 LLM 当成一个无状态的推理接口先把大模型身上的神秘感拿掉。不管背后有多少参数、训练过程多复杂从应用开发者的角度看LLM 最终暴露出来的就是一个推理接口。厂商提供的 Web API 也好本地部署的模型也好最后都会封装成一个本地或内网 API。所谓 OpenAI 协议、Anthropic 协议本质上就是不同的接口规范是各家工程师第一版发布时定好的上下行格式。上行的核心参数就 3 个表示身份的 key、提示词、模型名字。下行就是模型推理出来的结果。关键在于这个接口是无状态的每一次调用都跟上一次没有关系模型只从这次提示词加上它自己储备的知识里推理然后作答。正因为无状态实际业务里我们会在提示词里明确限制它只准用 prompt 给的内容推理避免它调用自身知识乱答。要不然一个处理退款的机器人你问它母婴问题它也答得头头是道那就太出戏了。所以这一层记住一句话就够了模型基于单次输入推理每一次调用都跟上一次完全无关。这层我们叫 LLM。Agent LLM TOOLS LOOP一个无状态、只会吐文字的接口本身碰不到外部世界。它查不了数据库也调不了 API。想让它真的去做事就得给它一个能跟外界打交道的办法。这个办法就是 Function Calling也叫 Tool Use。做法是在提示词里额外塞一段工具描述{ tool: query_database, arguments: { sql: SELECT ... }}然后厂商在训练时就教会了模型当它觉得需要某个工具时下行里会用一个专用字段比如tool_use把这个意图表达出来。Anthropic 官方文档描述的流程就是这么一圈应用把工具定义发给模型模型生成 tool_use 请求客户端程序解析请求并执行工具再把 tool_result 放回消息里交给模型继续处理。写成代码就是一个最小循环messages [user_message] # 用户输入问题# 最小循环while True: # 把用户问题 系统提示词 工具信息合并成上行提示词拿到下行 response call_llm(messages, tools) # 没有工具请求意图直接返回 if response.is_final: return response.output # 有工具请求意图由程序来执行工具 tool_result execute_tool(response.tool_call) # 把工具调用和结果合并进消息循环回去再发给模型 messages.append(response.tool_call) messages.append(tool_result)如果看不太懂代码换成打电话的场景就好懂了。假设我们给模型打电话问它北京天气怎么样我们对着手机说的是北京的天气怎么样手机在把话发给模型之前会先重组内容把一个查天气的工具塞进对话里。模型实际收到的是你在回答问题时可用的工具列表查询天气工具输入城市名称即可。 用户输入的问题北京的天气怎么样模型一看有工具可用就用 tool_use 返回一个调用意图调天气工具输入是北京。手机拦截到这个意图替它去执行查到「北京天气晴」。然后手机把结果再拼进消息重新发给模型这时我们还在电话这头等着你在回答问题时可用的工具列表查询天气工具输入城市名称即可。 查询天气工具调用结果输入北京输出北京天气晴 用户输入的问题北京的天气怎么样模型这回拿到了必要信息回复「北京是晴天」。这一次手机没有拦截我们就从电话里听到了答案。整个过程里有一个容易被误解的点不是模型调用了工具而是模型生成了调用工具的意图真正执行的仍然是我们的程序。这时手机就成了一个 Agent因为它能完成具体的查询任务而它依赖的知识是我们主动喂进去的。如果我们没给查询工具模型就只能说查不到如果我们又不限定它只用输入内容作答它就会自己编这就是幻觉。所以 Agent 开发的本质要求模型「忘掉」/「结合」自己储备的知识拼接上我们给的材料最终借用它的推理能力来完成任务。而这一切输入都靠上行里那个提示词字段来承载。这套手法有个名字上下文工程回头看打电话这个场景我们其实走了 2 次模型调用。第二次相比第一次提示词里多拼进了工具信息和调用结果。发给模型的内容在中途被程序改写、重组了。这个不断重组上下文喂给模型的手法就叫 Context Engineering上下文工程。承载它的载体就是 Agent。真实业务往往需要大量工具调用一轮不够所以必须写成循环。这就是 Agent Loop。现在主流智能体更完整的实现叫 Agent Runtime无非是这个 Loop 外面又包了调度、记忆、错误重试这些工程能力。不管一个智能体做得多复杂本质都是围着这个 Loop 演化出来的区别只是工程手法越堆越厚而这一切跟模型本身没有关系。一句话收尾LLM 只能生成一次结果Agent 能根据环境反馈连续行动。为了让这种连续行动更稳、少翻车才又演化出了 harness 这类约束层。所以你会发现从 LLM 到 Agent 再到今天各种花哨的框架模型一直没变变的全是我们在它外面搭的那套工程最终服务的目标就是最核心的那个循环。这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容