20个核心概念+1张图!彻底搞懂AI Agent的底层架构,告别学习混乱!

发布时间:2026/7/8 8:37:30
20个核心概念+1张图!彻底搞懂AI Agent的底层架构,告别学习混乱! 过去一年几乎所有 AI 产品都开始做 Agent。Claude Code、Codex、Cursor、OpenHands、Hermes、OpenClaw……名字越来越多概念也越来越多。Memory、MCP、Skills、Harness、Context Engineering、Prompt Cache、KV Cache、Guardrail、Human in the Loop……很多人学了一圈最后会有一种很微妙的感觉“每个词单独看好像都认识。但它们放在一起就不知道彼此之间到底是什么关系。我一开始学 Agent 的时候也卡在这里。后来发现问题不是这些概念有多难而是我们总是一个一个去学。今天看 MCP明天看 Memory后天看 Context最后脑子里全是碎片。但Agent 不是一堆概念的拼盘。它更像一套完整的工程系统。如果把 Agent 看成一家正在工作的 AI 公司那么Prompt 像老板Planning 像项目经理Tools 像外包工具Memory 像公司经验库Harness 像质检体系Guardrail 像法务和安全部门。这样一看关系就顺了。今天我们就从一次完整的 Agent 工作流程出发把20 个核心概念串起来。先别急着背概念。先看这张图。一张图看懂整个 Agentflowchart TD A[用户提出任务] -- B[Promptbr/任务说明与行为约束] B -- C[Contextbr/当前可见信息] C -- D[Agent Loopbr/感知、决策、执行、反馈] D -- E[Planningbr/拆解任务和制定步骤] E -- F{需要外部能力吗} F -- 需要 -- G[Tool / MCP / JSON Schemabr/调用工具和外部系统] G -- H[Observationbr/工具返回结果] H -- D F -- 不需要 -- I[Reflectionbr/自我检查与修正] I -- J[Harness / Evaluationbr/验证是否完成] J -- K{结果可靠吗} K -- 不可靠 -- D K -- 可靠 -- L[Trace / Observabilitybr/记录过程方便复盘] L -- M[Guardrail / Human in the Loopbr/安全边界与人工审批] M -- N[回复用户或提交结果] O[Memorybr/长期经验] -- C P[Skillsbr/可复用能力包] -- D Q[Prompt Cache / KV Cachebr/降低重复计算成本] -- C R[Hooksbr/在关键节点插入自动动作] -- D S[Benchmarkbr/衡量系统能力] -- J不要急着记每个名词。先记住这条流程“用户提出任务。 Agent 读 Prompt 和 Context开始思考。 它会先做规划判断要不要调用工具。 如果需要它会通过 Tool、MCP、JSON Schema 这些机制连接外部系统。 拿到结果后它会继续判断、修正、验证。 最后通过 Harness、Evaluation、Trace、Guardrail 这些工程机制确保结果不是“瞎跑出来的”。这中间的所有能力就是我们今天要讲的 20 个概念。第一站Agent 为什么会“思考”我们先从最像“智能”的部分开始。假设你对 Claude Code 说“帮我完成一个网站。它第一件事通常不是马上写代码。一个稍微成熟点的 Agent会先弄清楚几件事这个网站要做什么用什么框架当前项目里已经有什么文件哪些页面要改改完以后怎么验证这就是 Agent 和普通 Chatbot 的差别。Chatbot 更像“你问一句它答一句”。Agent 则会围绕目标自己拆任务、调用工具、检查结果。Agent LoopAgent 的主循环Agent Loop 是整个系统的心跳。它通常会反复做四件事感知读取用户任务、上下文、工具返回结果决策判断下一步该回复还是该调用工具执行调用工具、写文件、查资料、跑命令反馈把执行结果放回上下文继续下一轮判断。Claude Code、Codex、OpenHands 这类产品底层都离不开这个循环。区别只是有的 Agent 工具更多有的上下文管理更好有的安全边界更强。Planning先想清楚再动手Planning 就是任务规划。比如用户说“帮我做一个网站”Agent 不应该直接开始写 HTML。它更应该先拆成几个步骤读取项目结构确认技术栈设计页面和组件修改代码启动项目检查页面效果修复错误。这也是为什么很多 Agent 会先输出一个 plan。不是为了显得聪明而是为了减少乱做。没有 Planning 的 Agent很容易像一个刚入职但特别积极的实习生“很努力也很容易改错地方。Reflection为什么 Agent 会自己检查Reflection 可以理解成“做完以后回头看一眼”。比如代码写完了Agent 会问自己测试跑了吗页面真的能打开吗有没有报错用户要的是登录页我是不是只做了首页Reflection 不是玄学。它本质上是一种反馈机制让模型根据结果重新判断自己有没有完成任务。在写代码、做数据分析、生成报告这类任务里Reflection 很重要。没有 ReflectionAgent 很容易出现一种情况“嘴上说“已经完成”实际项目根本跑不起来。第二站为什么 AI 越来越像人很多人说现在的 AI 越来越像“有记忆的人”。其实它并不是真的像人一样记住了所有事。它只是越来越会管理上下文。Prompt老板给的任务说明Prompt 是 Agent 的任务说明和行为约束。它告诉 Agent你是谁你要做什么你不能做什么遇到不确定情况要怎么处理。一个 Agent 的 Prompt不只是用户输入的那一句话。它还包括 system prompt、开发者指令、工具说明、项目约束、用户偏好等一整套内容。所以 Prompt 更像老板给员工的任务书。任务书写得清楚员工就不容易跑偏。ContextAgent 当前“看得见”的东西Context 是模型当前能看到的全部信息。用户刚刚说的话、之前的对话、项目文件摘要、工具返回结果、系统规则都可能在 Context 里。很多人以为模型窗口越长越好。但真实情况没这么简单。Claude Code 明明支持很长上下文为什么有时任务越做越笨问题往往不是窗口不够大而是Context 太乱。无关内容太多关键内容就被淹没了。这就是 Context Engineering 要解决的问题。它不是简单地“塞更多内容”而是决定什么该放进来什么该按需读取什么应该写到文件里什么根本不该让模型看。Memory长期经验不是聊天记录仓库Memory 是 Agent 的长期经验。比如你经常要求代码风格要简洁文章口吻要像公众号生成视频脚本时要带分镜。这些偏好如果每次都重新说会很烦。Memory 就是用来保存这类长期信息的。但 Memory 不是把所有聊天记录都存进去。更合理的 Memory 应该保存稳定、可复用的信息用户偏好项目背景常用流程反复出现的问题已经验证过的经验。临时任务细节不应该随便写进长期 Memory。否则用久了以后Agent 会被自己的旧记忆带偏。Prompt Cache为什么稳定 Prompt 更省钱Prompt Cache 是为了减少重复计算。如果多轮请求的前半部分完全一样模型就可以复用之前计算过的内容不用每次从头算。这对 Agent 很重要。因为 Agent 的 system prompt、工具定义、项目规则往往很多轮都不变。如果这些稳定内容放在前面动态内容放在后面就更容易命中缓存。这也是为什么好的 Agent 不会每一轮都随便重排 Prompt。“结构稳定本身就是一种工程优化。KV Cache模型推理时的“临时笔记”KV Cache 更底层一点。Transformer 在生成文本时会为前面的 token 计算 Key 和 Value。后面继续生成时如果能复用这些计算结果速度就会快很多。你可以粗略理解成“模型在读长文本时会把前面读过的内容整理成一份临时笔记。Prompt Cache 更偏产品和计费层面的复用。KV Cache 更偏模型推理层面的复用。它们都在说明一件事“Agent 不只是“会想”还要“想得起、算得快、别重复浪费”。第三站Agent 为什么会“干活”如果一个 AI 只能聊天它还不算真正的 Agent。Agent 之所以能干活是因为它能调用外部能力。写文件、查网页、跑命令、连数据库、操作浏览器、发消息这些都不是模型本体完成的。模型负责判断该做什么。工具负责真的去做。ToolAgent 的工具箱Tool 是 Agent 可以调用的具体能力。比如read_filewrite_filerun_commandsearch_webopen_browserquery_database。一个普通模型只能输出文字。有了 Tool它就能开始操作外部世界。但 Tool 不是越多越好。工具太多Agent 反而容易选错。好的 Tool 应该面向任务目标而不是照搬底层 API。比如让 Agent 调用{ action: update_article, title: 文章标题, content: 文章正文}通常比让它分别调用 get_article、update_title、update_body 更稳定。MCP不是 Agent而是连接协议很多人会把 MCP 和 Agent 混在一起。其实MCP 不是 Agent。MCP 更像一个标准接口让 Agent 能连接外部工具和数据源。比如一个 Agent 想访问 GitHub、Notion、数据库、浏览器、文件系统就可以通过 MCP Server 暴露这些能力。Agent 负责思考。MCP 负责连接。这两个不是一回事。你可以把 MCP 理解成“AI 世界里的 USB-C。它不替你工作但它让更多设备能接进来。JSON Schema工具调用的说明书Agent 调用工具时不能只说“帮我查一下”。它必须给出结构化参数。JSON Schema 就是用来描述工具参数格式的。比如一个搜索工具可能要求{ query: AI Agent architecture, limit: 5}Schema 会告诉模型这个工具叫什么需要哪些字段字段是什么类型哪些是必填。如果 Schema 写得含糊Agent 就容易传错参数。很多 Tool Calling 的问题不是模型不会调用而是工具说明写得太差。Skill可复用的能力包Skill 和 Tool 不一样。Tool 是具体动作。Skill 更像一套做事方法。比如写代码 Review部署项目改写公众号文章制作 Remotion 视频。这些都可以做成 Skill。Skill 通常会告诉 Agent什么时候用不要什么时候用具体步骤是什么输出格式是什么。相比 ToolSkill 更偏知识和流程。一个好的 Skill不是把说明写得很长而是边界清楚。比如“Use when用户要改写中文文章去掉 AI 味。 Don’t use when用户只是要翻译或总结。这种描述比“本技能可以提高文本自然度和表现力”有用得多。第四站Agent 为什么没有翻车Agent 能干活之后新的问题来了。它会不会乱删文件会不会误发消息会不会改数据库会不会一本正经地完成一个错误任务所以企业里真正难的不是让 Agent 动起来而是让它别乱动。Harness把 Agent 圈在可控范围里Harness 可以理解成围绕 Agent 的工程支架。它包括测试约束验证兜底执行边界。Anthropic 和 OpenAI 都很强调 Harness因为真实系统里模型能力只是其中一部分。一个 Agent 能不能稳定完成任务往往取决于 Harness。比如写代码时Agent 不能只说“我改好了”。它要能跑测试、看日志、检查页面、确认结果。没有 HarnessAgent 就像一个没人验收的外包团队。“干没干完全靠它自己说。Evaluation怎么知道 Agent 真的做对了Evaluation 是评估系统。普通聊天机器人评估起来还算简单看回答好不好就行。Agent 不一样。它可能调用了十几个工具改了文件跑了命令最后还修改了环境状态。所以评估 Agent不能只看它最后说了什么。还要看过程有没有走错工具有没有选对文件有没有真的改测试有没有通过结果是否符合目标。这就是为什么 Agent Evaluation 比普通 LLM Evaluation 难很多。Trace失败以后能不能复盘Trace 是 Agent 的执行记录。一个完整 Trace 应该记录每轮 Prompt每次模型输出每次 Tool Call工具参数工具返回错误信息最终结果。为什么重要因为 Agent 失败时问题可能不是最后一步。它可能在三轮之前就选错了工具。也可能一开始就理解错了任务。没有 Trace你只能看最后的失败结果。有 Trace才能知道它到底在哪一步跑偏。Guardrail安全护栏Guardrail 是安全边界。比如不能删除指定目录外的文件不能直接执行危险命令不能自动发外部消息不能在没有确认时写数据库不能泄露敏感信息。这些规则不能只写在 Prompt 里。真正可靠的 Guardrail应该落到权限系统、工具限制、路径检查、审批流程里。你不能只对 Agent 说“不要删库”。你要让它根本没有权限删库。Human in the Loop什么时候必须让人确认Human in the Loop 指的是人工介入。不是所有事情都应该全自动。比如删除数据发送邮件发生产环境命令修改账单合并 PR对外发布内容。这些操作最好有人确认。企业 Agent 一定绕不开 Human in the Loop。不是因为 AI 不够强而是因为责任需要落在人类流程里。第五站为什么大家都在做 Agent现在看 Agent不要只看 Demo。真正的竞争已经开始转向工程体系。谁能稳定完成任务谁能接入更多工具谁能评估质量谁能复盘失败谁就更接近可用。Benchmark大家为什么都在刷 SWE-benchBenchmark 是基准测试。比如 SWE-bench就是用真实 GitHub issue 测试 Agent 修代码的能力。为什么 OpenAI、Anthropic、各种 Coding Agent 都喜欢看这类榜单因为它比普通问答更接近真实任务。修 bug 不是回答一道题。它需要读代码、理解项目、定位问题、修改文件、跑测试。这就是 Agent 的典型场景。但 Benchmark 也不能迷信。榜单成绩好不等于在你的项目里一定好用。它更像体测成绩。“能说明一部分能力但不能代替真实工作表现。Observability企业为什么要监控 AgentObservability 是可观测性。普通软件要监控接口耗时、错误率、CPU、内存。Agent 也一样只不过监控对象更多。你要知道它调用了哪些工具哪些任务最容易失败哪些步骤 token 消耗最高哪些用户反馈最差哪些工具经常被误用哪些 Prompt 改动导致退化。没有 ObservabilityAgent 就是黑盒。它好像在工作但你不知道它为什么成功也不知道它为什么失败。Hooks在关键节点自动插入动作Hooks 是钩子。它可以在 Agent 执行流程的关键节点插入自动动作。比如调用工具前做权限检查写文件后自动格式化跑命令前检查路径任务结束后自动生成摘要出错时自动记录 Trace提交前自动跑测试。Hooks 很像 Agent 系统里的自动化规则。它不负责思考但它能让系统更稳。Codex、Claude Code 这类工具里Hooks 的价值会越来越明显。因为很多确定性的事情根本不该交给模型判断。“能用规则做就用规则做。最后把 20 个概念串起来如果把整个 Agent 比作一家 AI 公司大概可以这样理解概念在 AI 公司里的角色作用Prompt老板的任务说明决定 Agent 要做什么、不能做什么Context当前办公桌放 Agent 此刻能看到的信息Agent Loop员工的工作节奏感知、决策、执行、反馈Planning项目经理拆任务、排步骤Reflection自检环节做完后回头检查Memory公司经验库保存长期偏好和经验Prompt Cache复用任务说明减少重复计算和成本KV Cache临时阅读笔记加速模型推理Tool具体工具读文件、跑命令、查数据库MCP外部接口标准把更多工具接进 AgentJSON Schema工具说明书告诉模型怎么传参数Skill标准作业流程保存可复用方法Harness质检体系约束、测试、验证 AgentEvaluation考核标准判断任务是否真的完成Trace工作记录出错后能复盘Guardrail安全部门限制危险操作Human in the Loop人工审批高风险动作交给人确认Benchmark统一考试衡量 Agent 能力Observability监控系统看见 Agent 怎么运行Hooks自动化规则在关键节点插入检查和动作看到这里Agent 就没那么神秘了。它不是某一个模型突然变聪明。真正复杂的是围绕模型建立起来的一整套工程体系。Prompt 决定任务。Context 决定输入。Memory 决定经验。Skills 决定方法。Tools 决定动作。MCP 决定连接。Harness 决定稳定。Evaluation 决定质量。Guardrail 决定安全。这些能力组合在一起才是一个完整的 Agent 系统。所以当我们再去看 Claude Code、Codex、Cursor、OpenHands、Hermes、OpenClaw 时会发现它们讨论的其实都是同一件事“如何让 AI 从“会回答问题”真正变成“会完成任务”。这也是 Agent 最值得关注的地方。不是它能不能聊得像人。而是它能不能在真实世界里把事情做完。假如你从2026年开始学大模型按这个步骤走准能稳步进阶。接下来告诉你一条最快的邪修路线3个月即可成为模型大师薪资直接起飞。阶段1:大模型基础阶段2:RAG应用开发工程阶段3:大模型Agent应用架构阶段4:大模型微调与私有化部署配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】