这篇文章前后折腾了不少时间一开始小白阶段想搭一套自己的 AI Agent网上资料七零八落要么只讲概念不给步骤要么一上来就丢一堆源码看完还是不知道怎么落地。后来把整条链路走通之后回过头整理一份完整的 Agent 部署安装教程从环境准备、本地大模型接入、可视化平台搭建再到用 Python 自己封装一个 Agent 服务把新手最容易卡住的几个环节都拆开讲清楚。如果你之前只是听过 Agent但完全不知道从哪里开始这篇文章应该能帮你少走很多弯路。1. Agent 是什么自己搭建有什么意义1.1 先搞懂 AI Agent 的核心概念用大白话说Agent 就是一个能“自己干活”的 AI。传统的聊天机器人用户问一句它答一句本质上是单轮问答。而 Agent 不一样它能根据你给定的目标自己拆解任务、选择工具、按步骤执行甚至把多个操作串联起来最终返回一个完整结果。在专业领域里AI Agent 通常指基于大语言模型LLM构建的智能体系统。它的核心组成可以拆成四部分大模型LLM负责理解用户意图、生成内容、推理判断规划能力Planning把复杂任务拆解成多个子任务并决定执行顺序记忆Memory短期记忆用于保存当前对话上下文长期记忆则可以对接向量数据库或知识库工具调用Tool Use通过调用外部 API、数据库、搜索服务、代码解释器等让 Agent 不只是“纸上谈兵”。举个例子你让 Agent“查一下本周天气并把结果整理成表格发到邮箱”。传统聊天机器人只能告诉你今天天气如何而 Agent 会在内部自动完成“调用天气查询工具 → 获取多日数据 → 调用表格工具生成表格 → 调用邮件工具发送”这一整套流程。这里还要区分一个容易混淆的概念Agent 和 Harness。Harness 这个词在 AI 工程领域常指运行环境、测试夹具或任务执行框架比如 DeepSeek-Harness 这类用于模型评测或任务执行的脚手架工具。而 Agent 更偏业务形态是真正面向用户解决问题的智能体。简单理解Agent 是业务概念Harness 是支撑 Agent 运行和调试的技术底座两者不是同一个层级的东西。1.2 为什么要自己部署一套 Agent可能有人会问现在各种 AI 平台、AI 助手不是很多吗为什么还要自己部署 Agent这里面的原因其实很实际。第一个原因是数据安全。企业内部文档、客户信息、业务数据不能直接传到外部服务商那里自己部署一套 Agent把大模型和数据处理链路放在内网数据不用出网关。第二个原因是成本可控。本地部署开源模型后不再按 token 数量付费即使调用频繁成本也主要来自硬件资源消耗。对于长期使用的场景本地部署比按量付费的 API 更划算。第三个原因是可定制性。你可以自由修改系统提示词、接入自己的工具、上传自己的知识库甚至对模型做微调。这样得出的 Agent 才是真正贴合业务的而不是受限于平台的通用能力。第四个原因是学习价值。自己从零部署一次 Agent能直观理解大模型应用落地的全流程模型怎么加载、接口怎么调用、工具怎么编排、知识库怎么接入。搞懂这一套后续做任何 AI 应用都会有底气。1.3 零基础用户可以选哪几条路既然要上手先看看有什么方案可选。不同技术基础、不同场景选择路径也不同。这里我整理了一个对比表格方案难度适合场景核心工具直接使用可视化 Agent 平台★快速试水、验证业务想法Dify、Coze 等本地大模型 Agent 平台★★数据敏感、需要长期使用Ollama DifyPython 代码封装 Agent 服务★★★深度定制、嵌入现有系统Python FastAPI基于 LangChain 等框架开发★★★复杂 Agent 编排、研究学习LangChain、LangGraph对小白来说最推荐的路线是“Ollama Dify”先用 Ollama 在本地跑起一个开源大模型再通过 Dify 的可视化界面把模型接进来配置工具和知识库整个过程不需要写一行代码。等你对这个流程有感觉了再尝试用 Python 自己封装一个 Agent理解背后的调用原理。2. 部署前的准备工作2.1 硬件和系统环境要求部署 Agent 对硬件的需求取决于你选择哪种模型和方案。如果只使用可视化平台并通过在线 API 调用模型那么一台普通电脑就够了。如果你要本地部署大模型硬件要求就会高一些。我的建议是内存本地跑 7B 级别的量化模型至少建议 16GB 内存如果能到 32GB体验会从容很多磁盘模型文件体积很大比如 7B 量化模型约 4GB 到 6GB建议预留 20GB 以上可用空间显卡有 NVIDIA 显卡并且显存大于 6GB可以使用 GPU 加速没有独显也能跑只是速度会慢一些操作系统Windows 10/11、macOS、主流 Linux 发行版均可。如果你不打算本地部署模型而是直接调用云端 API那对硬件要求几乎为零普通办公电脑就能跑起来。2.2 Python 环境配置后面我们会用到 Python 来写自己的 Agent 服务所以 Python 环境也要提前准备好。建议安装 Python 3.10 或更高版本。Windows 用户需要注意安装时一定要勾选“Add Python to PATH”选项否则安装完成后在命令行里输入 python 会提示找不到命令。macOS 用户可以在终端里打开 Python 官网下载安装包Linux 用户则用系统自带的包管理器安装比如sudo apt update sudo apt install python3 python3-pip -y安装完成后在终端输入下面命令验证python --version pip --version如果能正常输出版本号说明环境没问题。2.3 需要用到的工具清单在正式动手之前把整篇文章会用到的主要工具列出来方便对照准备工具作用安装场景Ollama本地运行开源大模型需要本地模型时Docker / Docker Compose部署 Dify 等平台服务需要可视化平台时Dify可视化 Agent 编排平台需要零代码搭建 Agent 时Python 3.10编写自定义 Agent 服务代码开发时FastAPI提供 HTTP 接口代码开发时Git拉取开源项目代码安装 Dify 时其中 Git 是经常会用到的版本管理工具。Windows 用户访问 Git 官网下载安装包安装时保持默认配置即可。安装完成后在终端执行 git --version 验证。3. 第一步用 Ollama 把大模型跑在本地3.1 Ollama 是什么Ollama 是一个非常轻量的大模型本地运行工具。它把模型下载、模型管理、API 服务封装成了简单的命令行操作不需要理解复杂的底层推理逻辑对小白非常友好。Ollama 支持大量开源模型比如 Qwen通义千问、DeepSeek、Llama、Mistral 等。你只需要通过命令把模型拉到本地然后就能直接用命令行对话或者通过它内置的 HTTP API 把模型能力提供给其他系统使用。使用 Ollama 部署本地大模型最大的好处是数据从始至终不离开你的电脑。所有推理过程都在本地完成不需要上传到外部服务器。3.2 安装 OllamaOllama 的安装方式很简单分系统说明。Windows 用户直接访问 Ollama 官网下载 Windows 版本的安装包.exe 文件双击运行一路按默认配置安装即可。安装完成后在开始菜单找到 “Ollama” 并打开或者直接在终端输入 ollama --version 查看是否安装成功。macOS 用户下载 .dmg 安装文件双击后把 Ollama 图标拖入 Applications 文件夹。首次打开时系统可能会提示“无法验证开发者”在“系统设置 → 隐私与安全性”中点击“仍然打开”即可。Linux 用户可以使用官方安装脚本curl -fsSL https://ollama.com/install.sh | sh脚本会自动识别系统架构并安装。安装完成后执行以下命令确认ollama --version3.3 下载并运行一个开源模型Ollama 安装好之后接下来要下载模型。对于国内用户我优先推荐 Qwen2.5 系列这是阿里开源的中文大模型中文理解和生成能力都不错而且模型权重国内访问速度比较友好。打开终端执行ollama pull qwen2.5:7b这条命令会从模型仓库拉取 qwen2.5 的 7B70 亿参数版本。首次下载需要一些时间具体取决于网络速度耐心等待即可。下载完成后执行ollama run qwen2.5:7b正常情况下终端会进入一个交互式对话界面。你输入问题模型会直接回答。试着问它“你好请介绍一下自己”看它如何回复。退出对话界面输入 /bye 回车即可。如果你对代码类任务更感兴趣也可以拉取 DeepSeek 的代码模型ollama pull deepseek-r1:7bOllama 默认会将模型文件存放在用户目录下的 .ollama 文件夹中。Windows 路径一般是 C:\Users\你的用户名.ollama\modelsLinux 是 ~/.ollama/models。后续如果空间不够可以考虑清理不用的模型。3.4 验证 Ollama 的 API 服务Ollama 不只是命令行工具它启动后会默认在本机监听一个 HTTP 端口提供 OpenAI 兼容的 API 接口。本地模型默认地址是http://localhost:11434在终端执行curl http://localhost:11434/v1/models如果返回一段包含模型名称的 JSON 数据说明 API 服务已经正常启动可以看到类似这样的片段{ object: list, data: [ { id: qwen2.5:7b, object: model, ... } ] }如果还没有启动服务可以先执行 ollama serve 命令手动启动。记住这个端口地址接下来 Dify 接入本地模型时会用到。4. 第二步通过 Dify 零代码搭建可视化 Agent4.1 Dify 是什么为什么推荐它Dify 是一个开源的大模型应用开发平台提供可视化的工作流编排、Agent 构建、知识库管理和模型管理能力。简单来说它就是给你一个网页界面让你像搭积木一样搭建 AI 应用不需要懂编程。Dify 的核心优势有三个内置 Agent 编排能力无需写代码通过界面选择模型、添加工具、设置 Prompt 就能创建 Agent自带知识库功能支持上传文档后台自动处理文本分割、向量化实现基于文档的问答模型供应商管理可以同时配置多个模型服务商包括在线 API 和本地 Ollama。对于零基础用户来说Dify 是一个理想的起点。你能通过它直观看到 Agent 的各个组成要素是怎么配合的。4.2 安装 Docker 和 Docker ComposeDify 官方推荐通过 Docker Compose 部署所以需要先安装 Docker。Windows 和 macOS 用户直接安装 Docker Desktop。下载安装包后按照提示完成安装。Windows 用户需要确保系统开启了虚拟化功能在 BIOS 中开启 Intel VT-x 或 AMD-VmacOS 用户一般不需要额外设置。安装完成后打开终端验证docker --version docker compose version如果你看到 Docker 和 Compose 的版本号说明安装成功。如果 docker compose version 提示没有这个命令说明 Docker Compose 插件没有安装。Windows/macOS 版本的 Docker Desktop 已经内置 Compose通常不会遇到这个问题。Linux 用户则需要单独安装 docker-compose-plugin 插件。4.3 部署 Dify 服务Dify 的部署依赖 GitHub 仓库中的 docker compose 配置。打开终端依次执行git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d第一次执行 docker compose up -d 时Docker 需要拉取多个镜像整个过程可能要持续几分钟到十几分钟取决于网络条件。执行完成后执行 docker compose ps 查看服务状态。正常情况下web、api、worker、db、redis、sandbox 等服务都会处于 running 状态。然后打开浏览器访问http://localhost/install首次访问会进入 Dify 的初始化页面需要设置管理员邮箱和密码。设置完成后使用管理员账号登录就能看到 Dify 的主界面了。这里要提醒一下Dify 默认会占用宿主机的 80 端口。如果你本机已经启动了 Nginx、Apache 或者其他占用 80 端口的服务需要先去修改那些服务的端口或者修改 Dify 的 docker-compose.yaml 配置避免端口冲突。4.4 在 Dify 中接入本地 Ollama 模型Dify 部署好之后第一步就是把刚才用 Ollama 部署的本地模型接进来。进入 Dify 后台点击右上角头像进入“设置”然后找到“模型供应商”。在模型供应商列表中找到“Ollama”点击安装或添加。需要填写的关键信息如下模型名称填写你在 Ollama 中拉取的模型名比如 qwen2.5:7bBase URL填写 Ollama API 地址模型类型选择“对话型 LLM”。这里有一个最容易踩坑的地方Base URL 怎么填如果你直接在浏览器所在的这台机器上访问 Dify而 Ollama 也在这台机器上表面上看应该填 http://localhost:11434。但 Dify 实际是运行在 Docker 容器里的容器里的 localhost 指向的是容器自身并不是你的宿主机所以填 localhost 会导致连接失败。在 Windows 和 macOS 上Docker Desktop 提供了 host.docker.internal 这个特殊域名用于容器内访问宿主机。因此 Base URL 应该填http://host.docker.internal:11434如果你使用的是 LinuxDocker 默认没有 host.docker.internal这时需要填宿主机的局域网 IP比如http://192.168.1.100:11434填写完成并选择模型后可以点击“测试”按钮。如果显示连接成功说明模型已经接入 Dify。4.5 创建第一个 Agent 应用模型接入成功后我们可以在 Dify 中创建自己的第一个 Agent。点击主页的“创建空白应用”选择“Agent”类型给应用取一个名字比如“我的智能助手”。创建完成后会进入 Agent 编排页面在这里你可以设置系统提示词System Prompt告诉 Agent 它的角色、回答风格、行为边界选择模型选择刚才接入的 qwen2.5:7b添加工具比如计算器、网页搜索、天气查询等上传知识库点击“知识库”菜单先创建知识库并上传文档然后在 Agent 设置中关联知识库。设置完成后点击右上角“发布”。然后在左侧对话窗口中输入问题测试比如“帮我查一下 12 乘以 35 等于多少”如果配置了计算器工具Agent 会自动调用工具完成计算并返回结果。通过这个流程你已经做出了一个完整的 Agent 应用有模型、有工具、有记忆还有可视化交互界面。整个过程中没有写一行代码全是通过界面配置完成的。5. 第三步用 Python 写一个自己的 Agent 服务Dify 适合快速搭建和验证但如果你想把 Agent 能力嵌入到自己的业务系统里或者希望更深入理解 Agent 的工作原理那就需要用代码自己写一个。这一节我会带大家写一个基于 FastAPI 的简单 Agent 服务它负责接收前端请求调用本地 Ollama 模型返回回复结果。5.1 创建项目结构先创建一个项目目录agent-demo/ ├── main.py # FastAPI 入口服务 ├── agent.py # Agent 核心逻辑 ├── requirements.txt # Python 依赖 └── README.md # 说明文件5.2 安装依赖在项目目录下创建 requirements.txtfastapi0.110 uvicorn0.29 requests2.31 python-dotenv1.0然后在终端执行pip install -r requirements.txt如果安装速度慢可以考虑使用国内 PyPI 镜像源比如清华源或阿里源。例如pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple5.3 编写 Agent 核心逻辑创建 agent.py写入以下代码# agent.py import requests class LocalAgent: 一个最简单的 Agent封装本地 Ollama 的 OpenAI 兼容接口。 用途接收消息列表返回模型回复文本。 def __init__(self, base_urlhttp://localhost:11434/v1, modelqwen2.5:7b, api_keyollama): self.base_url base_url self.model model self.api_key api_key def chat(self, messages, toolsNone): 向模型发送对话请求。 messages 格式与 OpenAI 一致例如 [ {role: system, content: 你是一个乐于助人的助手}, {role: user, content: 你好} ] url f{self.base_url}/chat/completions headers { Authorization: fBearer {self.api_key}, Content-Type: application/json } payload { model: self.model, messages: messages, stream: False, } if tools: payload[tools] tools response requests.post(url, headersheaders, jsonpayload, timeout120) response.raise_for_status() data response.json() return data[choices][0][message][content]这里有两个地方需要解释一下。第一为什么是 /v1 路径因为 Ollama 提供了 OpenAI 兼容接口它能模拟 OpenAI 的请求格式这样我们以后如果想切换到其他兼容 API只需要改 base_url 和 api_key代码其他地方不用动。第二为什么用 requests 而不是 OpenAI Python SDK这里是刻意减少依赖让你直接看到 HTTP 请求的完整结构。实际项目中用 OpenAI SDK 会更方便但理解底层请求格式对学习更有帮助。5.4 封装一个带工具的 Agent上面的 LocalAgent 只能做纯文本对话还没有真正体现 Agent 的“工具调用”能力。下面给它加一个计算器工具让 Agent 能够自动识别数字计算需求并完成计算。我们创建一个新文件 advisor.py或者在 agent.py 中增加一个带工具调用的方法# agent.py 中的增强版内容 import json import requests class ToolAgent: def __init__(self, base_urlhttp://localhost:11434/v1, modelqwen2.5:7b): self.base_url base_url self.model model def calculate(self, expression): 简单计算器只允许数字和四则运算符号 safe_chars set(0123456789-*/(). ) if not all(c in safe_chars for c in expression): return 包含不支持的字符无法计算 try: result eval(expression, {__builtins__: {}}, {}) return str(result) except Exception as e: return f计算失败: {e} def chat(self, messages): tools [ { type: function, function: { name: calculate, description: 计算数学表达式的值, parameters: { type: object, properties: { expression: { type: string, description: 数学表达式例如 (12)*3 } }, required: [expression] } } } ] # 第一步把用户消息和工具描述发给模型 url f{self.base_url}/chat/completions headers {Content-Type: application/json} payload { model: self.model, messages: messages, tools: tools, stream: False, } response requests.post(url, headersheaders, jsonpayload, timeout120) data response.json() # 第二步判断模型是否要求调用工具 message data[choices][0][message] if message.get(tool_calls): tool_call message[tool_calls][0] args json.loads(tool_call[function][arguments]) result self.calculate(args[expression]) # 第三步把工具执行结果回传给模型 messages.append({ role: assistant, content: message.get(content), tool_calls: message[tool_calls] }) messages.append({ role: tool, tool_call_id: tool_call[id], content: result }) final_payload { model: self.model, messages: messages, stream: False, } final_response requests.post(url, headersheaders, jsonfinal_payload, timeout120) final_data final_response.json() return final_data[choices][0][message][content] # 没有工具调用直接返回内容 return message.get(content)这个流程分为三步将用户消息和工具定义一起发给模型模型判断需要调用计算器时返回 tool_calls 信息程序执行本地计算函数把结果拼接回消息列表再让模型生成最终回答。这就是 Agent 工具调用的核心原理。虽然看起来步骤多但本质上就是一个“模型决策 → 程序执行 → 结果回传”的循环。实际生产中这个循环还可能执行多次直到模型不再请求工具为止。5.5 用 FastAPI 封装 HTTP 服务接下来创建 main.py将上面的 Agent 封装成 HTTP 接口# main.py from fastapi import FastAPI from pydantic import BaseModel from agent import ToolAgent app FastAPI(titleAgent Demo API) agent ToolAgent() class ChatRequest(BaseModel): message: str system_prompt: str 你是一个乐于助人的 AI 助手。 app.post(/chat) def chat(req: ChatRequest): messages [ {role: system, content: req.system_prompt}, {role: user, content: req.message} ] reply agent.chat(messages) return {reply: reply} app.get(/health) def health(): return {status: ok}这里定义了一个 POST 接口 /chat接收 JSON 请求体内容包含 message 字段。FastAPI 会根据类型注解自动解析请求体并把请求转发给 ToolAgent。5.6 运行并测试接口确保 Ollama 中的 qwen2.5:7b 模型已经下载完毕并且在本地服务已经启动。然后执行uvicorn main:app --host 0.0.0.0 --port 8000看到 “Application startup complete” 的日志后打开另一个终端用 curl 测试curl -X POST http://localhost:8000/chat \ -H Content-Type: application/json \ -d {message: 请计算 (1234)*5 的结果}如果配置正确返回结果大致是{ reply: (1234)*5 的计算结果是 230。 }这个简单的 Agent 服务已经具备了最基本的工具调用能力。后续你可以继续扩展增加更多工具比如查数据库、调接口、发邮件把知识库检索集成进来使用 Redis 保存对话历史实现多轮记忆部署到服务器前面加 Nginx 反向代理。6. 常见问题与排查思路在实际部署过程中新手几乎都会遇到几个问题。我整理了一份高频问题排查对照表遇到报错时可以直接参考。问题现象常见原因解决思路Ollama 模型下载缓慢或失败网络不稳定服务器连接慢更换网络环境或使用较稳定的网络镜像源稍后重试ollama 命令提示不是内部命令安装后未重启终端或 PATH 未配置关闭终端重新打开Windows 检查环境变量确认 Ollama 安装路径已加入 PATHDify 容器启动失败80 端口被占用执行 docker compose ps 查看状态然后 docker compose down 释放端口排查占用进程Docker Desktop 无法启动系统虚拟化没有开启重启并进入 BIOS 开启 Intel VT-x 或 AMD-V同时确认 WSL2 已启用Dify 无法连接到 OllamaBase URL 填成了 localhost改为 host.docker.internal:11434Windows/macOSLinux 填宿主机局域网 IP模型返回内容全是英文模型默认语言偏向英文在系统提示词中明确要求“用中文回答”或换用 qwen2.5 等中文优化模型Agent 回答不准确模型参数量太小或提示词不清晰换更大参数模型优化系统提示词减少一次提问中的多种任务请求报 401 UnauthorizedAPI Key 不匹配或未设置Ollama 默认不需要 Key可随意填 “ollama”使用 OpenAI 接口时必须填写正确 Keyagent terminated due to error上下文超长、工具调用超时或模型输出中断清空当前会话减少工具数量缩短对话长度然后重新提问Python 运行报 ModuleNotFoundError依赖没有安装到当前环境中先 source venv/bin/activate 激活虚拟环境再执行 pip install -r requirements.txt下面挑几个关注度较高的展开说明。关于“agent terminated due to error”这个报错很多 Agent 框架里都会出现。它本质上是 Agent 在推理过程中中断了可能因为上下文超长导致计算异常也可能是因为工具返回了无法解析的结果。碰到这种问题先不要慌按顺序排查先清空会话重试再检查工具描述是否规范最后检查模型是否支持函数调用。关于 Docker 和 Ollama 的连通问题我可以再补充一个技巧。在 Linux 服务器上部署 Dify如果找不到宿主机 IP可以在终端输入 ip addr 或者 hostname -I 查看当前局域网 IP。如果是云服务器则填写私网 IP 或使用 docker network 配置 host 模式。7. 部署 Agent 的最佳实践与工程建议7.1 模型选型建议本地部署模型不是越大越好要结合硬件条件和实际场景。体验试玩选择 7B 级别的量化模型即可例如 qwen2.5:7b、deepseek-r1:7b中文知识问答、客服助手建议 14B 到 32B 级别回答质量明显提升但内存需求也更高代码生成优先选择专门的代码模型或者在提示词中明确代码风格追求稳定效果但硬件有限可以使用云端 API 服务比如国内大模型厂商提供的 OpenAPI 接口按量付费不需要本地显卡。7.2 提示词工程Agent 的表现很大程度上取决于系统提示词的质量。建议在编写提示词时明确以下内容角色Agent 是谁例如“你是一名资深运维工程师”目标Agent 要完成什么任务例如“根据日志定位 CPU 过高的问题”约束回答的边界例如“不要编造日志中不存在的信息”输出格式要求返回 Markdown、JSON还是普通文本。一条好的系统提示词能减少大量无效对话明显提升 Agent 回答的可用性。7.3 安全和权限管理自制 Agent 时安全是很容易被忽略但极为重要的问题。这里给出几条硬性建议工具权限最小化Agent 能调用的命令和 API只给予完成任务所需的最小权限禁止无授权写操作涉及删除文件、修改数据库、发送邮件等敏感操作必须经过人工审批接口认证FastAPI 服务如果暴露到公网必须增加 API Key 或 Token 认证不能裸奔日志脱敏日志中不要记录手机号、身份证号等敏感信息定期备份涉及知识库、数据库配置的要定期备份变更前先在测试环境验证。安全这条线宁可做得过度也不能留有缺口。尤其是生产环境任何 Agent 触发的操作都要能被追溯。7.4 日志与监控Agent 服务上线后日志和监控必不可少。至少要记录以下信息每次请求的输入和输出摘要模型名称、调用耗时、Token 消耗量工具调用是否成功失败原因是什么系统异常堆栈信息。如果你部署在服务器上可以考虑接入 Prometheus 监控系统把服务状态、请求延迟、内存占用等指标采集起来配合 Grafana 展示。这样 Agent 服务出问题时能第一时间发现。7.5 生产环境部署的优化方向如果你打算把 Agent 部署成真正的生产服务除了上面的基础能力还需要关注这几个方向对话记忆从单轮对话升级到多轮记忆需要引入 Redis 或数据库保存会话历史流式输出把接口改成 SSEServer-Sent Events让前端像普通聊天软件一样逐字显示回复知识库检索把 Dify 或其他知识库的数据接入 Agent让回复基于真实文档而不是完全靠模型记忆高可用多实例部署时Nginx 做负载均衡模型实例做到无状态化成本控制为每个会话设置最大 token 数防止异常对话消耗过多资源。这些都是从“能跑”到“能上线”之间必须要跨过的坎。先跑通最小闭环再逐步优化是最稳妥的路线。8. 总结从零开始部署 Agent其实没有想象中那么复杂。核心思路就三步先有模型再接框架最后加工具。如果跟着这篇文章操作你应该已经完成了至少一条链路用 Ollama 在本地跑起了大模型或者通过 Dify 零代码搭建了一个可视化 Agent又或者用 Python 实现了一个能调用工具的最简 Agent 服务。这三条路分别对应了体验、业务验证和代码开发三个层次完全可以作为你学习 Agent 的起跑线。下一步可以继续深入的方向是工具调用的底层协议、记忆机制、Agent 工作流、知识库与向量检索。等技术积累到一定程度再回来审视 LangChain、MetaGPT 这类高级框架就会发现许多概念是相通的。如果这篇教程帮你跑通了 Agent 部署环境可以收藏备用。后续我也会继续整理 Agent 开发相关的进阶内容从工具编排、多 Agent 协作到生产级部署把更多的实战细节逐步补充进来。