从零部署 Hermes Agent:打造本地AI助手,实现代码编写与自动化

发布时间:2026/7/9 19:09:48
从零部署 Hermes Agent:打造本地AI助手,实现代码编写与自动化 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度如果你正在寻找一个能帮你写代码、查文件、执行终端命令、接入各种聊天平台还能通过语音交互的 AI 助手并且希望它能完全在你的掌控下运行那么 Hermes Agent 值得你花十分钟了解一下。它不是一个简单的聊天机器人而是一个功能强大的 AI Agent 框架由 Nous Research 开源。核心卖点在于它把复杂的 AI 工具调用、多平台集成和技能扩展封装成了一个开箱即用的命令行工具。这篇文章不会讲太多抽象概念直接带你从零开始完成 Hermes Agent 的本地部署、基础对话、技能安装并深入理解它的会话工作原理、记忆机制最后开启语音模式。整个过程你会看到它如何通过简单的命令将大语言模型的能力无缝接入你的日常工作流。无论你是想搭建一个私人编程助手还是为团队配置一个智能客服机器人这篇文章都能提供一条清晰的路径。1. 核心能力速览在动手之前先快速了解 Hermes Agent 能做什么以及它的技术门槛。能力项说明项目类型开源 AI Agent 框架 / 命令行工具核心功能终端交互、文件操作、网页搜索、多平台机器人Telegram, Discord等、自定义技能Skills、语音对话、编辑器集成模型支持支持众多云端模型Claude, GPT, DeepSeek, Qwen等和本地模型通过 Ollama, vLLM 等硬件门槛无特定 GPU 要求。核心是 CLI 工具模型推理依赖你选择的 Provider。使用云端 API 则无本地算力要求使用本地模型则需相应硬件。启动方式命令行一键安装脚本启动提供经典 CLI 和现代 TUI 两种交互界面。是否支持 API主要作为交互式 Agent 运行但其 Gateway 功能可对外提供消息接口技能系统也支持扩展。是否支持批量任务支持通过 Cron 定时任务和技能Skills实现自动化工作流。会话与记忆内置完整的会话管理支持保存、恢复和多轮对话上下文。适合场景个人效率助手、自动化脚本编写、多平台聊天机器人后端、结合本地知识的智能问答、语音交互实验。从表格可以看出Hermes Agent 的核心优势在于集成与扩展。它不是一个模型而是一个“大脑”和“手脚”的协调中枢。你为它配置一个“大脑”大模型它就能调用你赋予的“手脚”工具和技能去完成任务。2. 适用场景与使用边界适合谁用开发者希望有一个能理解代码上下文、执行终端命令、自动完成重复性开发任务的助手。运维/DevOps需要通过自然语言管理服务器、查询日志、部署服务。技术爱好者想体验最新 AI Agent 能力搭建属于自己的 Telegram 或 Discord 机器人。团队需要为内部工具如 Slack, Teams配置一个智能客服或信息查询机器人。能解决什么问题交互式编程辅助在终端里直接让 Agent 分析当前项目结构、编写函数、运行测试。自动化工作流通过 Skills 系统安装或编写技能实现定时拉取数据、生成报告、监控报警等。多平台统一助手用同一个 Agent 后端同时服务 Telegram、Discord、Slack 等多个聊天平台。语音交互入口在本地开启语音模式实现类似“Hey Siri”的语音指令操作电脑。不适合什么场景单纯的文本对话如果你只需要一个类似 ChatGPT 的纯聊天界面WebUI 工具可能更直接。超低延迟要求由于涉及网络请求调用云端 API和工具执行响应速度取决于任务复杂度。完全离线的封闭环境虽然支持本地模型但部分高级功能如某些 Skills可能需要网络。安全与合规边界工具执行权限Hermes Agent 可以执行终端命令、读写文件。务必在可信环境中使用并仔细配置hermes tools来限制其权限避免误操作。模型内容责任生成内容的质量和合规性取决于你所选用的大模型 Provider。需遵守对应服务商的使用条款。隐私数据避免让 Agent 处理未脱敏的敏感个人信息或公司机密数据。使用沙箱终端Docker backend是隔离风险的好方法。3. 环境准备与前置条件部署 Hermes Agent 本身对环境要求极低关键在于你选择的 AI 模型 Provider。基础系统要求操作系统Linux, macOS, Windows (需 WSL2), Android (Termux)。推荐 Linux/macOS 或 Windows WSL2以获得最佳体验。终端环境一个能正常使用的 Shell如 bash, zsh。网络连接用于下载安装脚本和后续调用云端 API如果使用云端模型。AI 模型 Provider 准备三选一云端 API推荐起步准备任意一个可用的 API Key。选项A最简Nous Portal。这是 Hermes 官方推荐的集成订阅涵盖 300 模型及工具网关通过hermes setup --portal一键配置。选项BOpenAI, Anthropic (Claude), DeepSeek, Kimi, 智谱AI 等。你需要拥有对应平台的账户和 API Key。本地模型需要硬件需要在本地部署一个兼容 OpenAI API 的模型服务。常用方案使用 Ollama 或 vLLM 在本地启动一个模型服务并提供一个http://localhost:xxx/v1这样的端点。模型要求上下文窗口至少 64K tokens。这是 Hermes Agent 运行多步骤工具工作流的硬性要求。混合/路由使用 OpenRouter 等服务它聚合了多个供应商的模型。对于首次尝试强烈建议使用Nous Portal或DeepSeek等免费额度较高的云端 API可以绕过本地部署模型的复杂性和硬件要求快速验证核心功能。4. 安装部署与启动方式Hermes Agent 提供了极其简单的安装方式核心就是一行命令。步骤一一键安装打开你的终端执行以下命令。这会在你的用户目录下创建一个隔离的 Python 环境。# Linux / macOS / WSL2 / Android (Termux) curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash对于Windows 用户请先安装并配置好 WSL2例如 Ubuntu然后在 WSL2 的终端中运行上述命令。安装脚本会做以下几件事在~/.hermes/hermes-agent目录下创建一个独立的虚拟环境。安装 Hermes Agent 及其核心依赖。将hermes命令添加到你的系统 PATH。安装完成后重新加载你的 shell 配置以使命令生效source ~/.bashrc # 如果你用的是 bash # 或 source ~/.zshrc # 如果你用的是 zsh步骤二配置 AI 模型 Provider安装完成后最重要的就是告诉 Hermes 使用哪个“大脑”。使用交互式命令进行配置hermes model这个命令会启动一个交互式向导。如果你是全新用户向导会引导你进行 OAuth 登录对于 Nous Portal 等或让你输入 API Key。如果你想最快速度开始推荐使用 Nous Portalhermes setup --portal这个命令会一次性完成登录、设置 Nous 为默认 provider 并开启工具网关Tool Gateway。步骤三运行第一次对话配置完成后就可以启动 Hermes 进行对话了。它提供两种界面hermes # 启动经典命令行界面 (CLI) hermes --tui # 启动现代终端用户界面 (TUI)推荐体验更好启动后你会看到一个欢迎横幅显示你选择的模型和可用的工具。现在你可以像和 ChatGPT 一样与它对话了。问一个具体的问题来测试例如总结当前目录下 README.md 文件的主要内容。或者让它执行一个简单的终端命令查看一下我的磁盘使用情况列出最大的5个目录。如果 Agent 能正确理解你的指令调用工具读取文件或执行du命令并给出回答那么基础安装就成功了。5. 功能测试与效果验证安装成功只是第一步我们来系统性地测试它的核心能力。5.1 测试基础对话与工具调用启动 Hermes TUI 后尝试以下指令序列验证其多轮对话和工具使用能力文件操作帮我找出当前目录下所有扩展名为.py的文件。终端命令检查本机的内存使用情况。组合任务我想知道当前项目的依赖情况请先查看requirements.txt或pyproject.toml文件然后告诉我主要依赖有哪些。成功标志Agent 不仅能回答问题还能在需要时自动调用ls,find,cat,pip list等命令并将结果整合到回复中。你不需要手动输入命令。5.2 测试会话管理与记忆Hermes 的核心价值之一是维持有状态的会话。我们来验证一下在第一次对话中告诉它你的名字请记住我的名字是 [你的名字]。然后问一个后续问题我刚刚让你记住的名字是什么退出 Hermes按 CtrlD 或输入/exit。重新进入上一次会话hermes --continue # 或简写 hermes -c再次询问我的名字还记得吗成功标志Agent 能在新会话中准确回忆起之前对话中设定的信息。这说明它的会话保存和恢复机制工作正常。你可以通过hermes sessions list查看所有保存的会话。5.3 测试斜杠命令 (Slash Commands)在聊天输入框中按下/键会弹出命令列表。尝试几个/tools列出当前所有可用的工具如 terminal, files, web_search 等。/model交互式切换不同的 AI 模型 Provider无需重启。/personality pirate切换到一个有趣的“海盗”人格看看回复风格的变化。/save手动保存当前会话。这些命令是高效操作 Hermes 的关键。6. 深入理解会话工作原理与记忆机制很多 AI 工具对话是“失忆”的但 Hermes 的设计考虑了持续性。理解这一点对有效使用它至关重要。会话Session是什么在 Hermes 中一次hermes或hermes --tui的启动就开启了一个会话。这个会话包含完整的对话历史你与 Agent 的所有问答。工具调用记录Agent 每次执行了哪些命令结果是什么。会话元数据如使用的模型、启用的工具集等。记忆如何存储会话数据默认保存在~/.hermes/sessions/目录下。每个会话是一个独立的文件。当你使用hermes --continue时它会自动加载最近活跃的会话文件。记忆的边界与消耗上下文长度记忆受限于你所选用大模型的上下文窗口Hermes 要求至少 64K。太长的历史会被模型自动截断通常是从中间截断。工具调用开销每次工具调用如执行命令的输出都会作为文本添加到上下文中这会快速消耗 Token。对于输出很长的命令如cat一个大文件需要考虑其必要性。主动管理你可以使用/save手动保存关键节点。对于不再需要的旧会话可以直接删除~/.hermes/sessions/下的对应文件。为什么这很重要这意味着你可以开展一个复杂的、多步骤的项目咨询。例如你可以让 Hermes 帮你分析一个代码库它会在会话中记住之前的文件结构、发现的 bug并在你提出新需求时基于已有记忆进行下一步操作而不是每次都从头开始。7. 扩展能力自定义 Skill 开发与安装Skills 是 Hermes 的超级武器它允许你为 Agent 扩展任何自定义能力本质上是一组预定义的提示词和工作流。7.1 查找与安装现有 SkillHermes 有一个 Skills Hub。你可以在聊天中直接搜索安装在 Hermes TUI 中输入/skills。或者在终端中使用命令# 搜索与 Kubernetes 相关的技能 hermes skills search kubernetes # 安装一个具体的技能例如 OpenAI 提供的 k8s 技能 hermes skills install openai/skills/k8s安装后该技能提供的功能就会集成到你的 Agent 中。例如一个git技能可能会增加“帮我创建分支”、“总结上次提交”等高级指令。7.2 创建自定义 Skill高级如果你想打造专属助手需要编写自己的 Skill。一个 Skill 主要包含一个skill.yaml文件。示例创建一个“天气查询”Skill创建技能目录结构mkdir -p ~/.hermes/skills/my-weather-skill cd ~/.hermes/skills/my-weather-skill创建skill.yaml文件name: my-weather-skill version: 0.1.0 description: A skill to get weather information. prompts: - id: get_weather description: Get the current weather for a city. template: | You are a weather assistant. When the user asks about the weather in a city, you should call the get_weather tool with the city name. Example: User: Whats the weather like in Beijing? You: Ill check the weather in Beijing for you. call toolget_weather cityBeijing tools: - type: function name: get_weather description: Get current weather by city name. parameters: type: object properties: city: type: string description: The name of the city. required: - city # 这里需要你实际实现这个函数或者调用一个外部API # 例如在 ~/.hermes/config.yaml 中配置一个 MCP 服务器来提供此工具在 Hermes 的配置文件中声明这个技能。编辑~/.hermes/config.yaml添加skills: - name: my-weather-skill path: ~/.hermes/skills/my-weather-skill重启 Hermes你的技能就加载了。现在你可以问“北京天气怎么样”理论上 Agent 会尝试调用get_weather工具。关键点Skill 中的tools定义需要与实际的工具实现对接。通常更实用的方法是通过MCP (Model Context Protocol) 服务器来提供强大的工具。例如你可以配置一个 MCP 服务器来连接 GitHub、数据库或内部系统然后在 Skill 中调用这些 MCP 工具。8. 开启语音模式实现语音对话这是 Hermes 一个非常酷的功能让你可以通过语音与 Agent 交互。步骤一安装语音依赖语音模式是一个可选扩展。首先进入 Hermes 的安装目录安装语音相关包# 进入 Hermes Agent 的安装目录安装脚本创建的 cd ~/.hermes/hermes-agent # 安装语音扩展 uv pip install -e .[voice]这个命令会安装faster-whisper等包用于本地的语音转文字STT无需额外 API 密钥。步骤二在会话中启用语音启动 Hermes TUIhermes --tui在聊天输入框中输入命令/voice on根据提示按CtrlB开始录音。你会看到录音指示。对着麦克风说话说完后再次按CtrlB结束录音。Hermes 会将你的语音转为文字并作为输入发送给 Agent。Agent 的回复目前仍是文字形式。工作原理/voice on启用了客户端的语音监听。当你按下CtrlB系统录制音频调用本地的faster-whisper模型进行语音识别识别出的文本被送入对话流程。这整个过程在本地完成隐私性好。注意事项首次使用可能需要下载 Whisper 模型请保持网络通畅。识别准确度取决于你的发音、麦克风质量和背景噪音。目前主要实现的是语音输入文本输出。要实现完整的语音对话TTS输出需要额外配置 TTS 服务或工具。9. 部署为机器人服务 (Gateway)如果你想让 Hermes 运行在后台并接入 Telegram、Discord 等平台就需要用到 Gateway 功能。步骤一设置 Gatewayhermes gateway setup这个交互式命令会引导你配置选择要接入的平台如 telegram。输入该平台 Bot 的 Token需要在对应平台申请创建 Bot。配置访问白名单等。步骤二启动 Gateway 服务配置完成后启动网关服务hermes gateway服务会在后台运行监听来自已配置平台的消息。当你在 Telegram 里 你的 Bot 时消息会转发给 Hermes Agent 处理并将回复传回 Telegram。步骤三管理 Gateway查看状态hermes gateway status停止服务在运行hermes gateway的终端中按CtrlC。Gateway 的配置和会话与 CLI 是独立的但共享同样的模型和技能配置。10. 常见问题与排查方法遇到问题不要慌Hermes 提供了很好的诊断工具。问题现象可能原因排查方式解决方案hermes命令未找到Shell 未重新加载或安装路径未加入 PATH执行which hermes运行source ~/.bashrc或重启终端。检查~/.local/bin是否在 PATH 中。启动后 Agent 不回复或报错1. Provider 未配置或配置错误2. API Key 无效或过期3. 网络问题1. 运行hermes doctor检查配置。2. 运行hermes model重新配置。3. 检查网络连接和 API 余额。1. 根据hermes doctor提示修复。2. 重新获取有效的 API Key。3. 尝试切换 Provider。使用本地模型端点时乱码或失败1. 本地模型服务未启动2. 端点 URL 或模型名错误3. 模型上下文窗口 64K1. 用curl测试端点是否返回 JSON。2. 检查hermes config get model和配置的 base_url。3. 查看模型启动参数。1. 确保本地服务如 Ollama运行正常。2. 用hermes model重新选择 “Custom Endpoint” 并填写正确信息。3. 确保本地模型启动时设置了足够大的上下文如 Ollama 用-c 65536。hermes --continue找不到上次会话1. 会话未保存2. 切换了不同的配置 profile运行hermes sessions list1. 确保正常退出如用/exit以触发保存。2. 检查是否在相同的环境和 profile 下操作。工具调用被拒绝或无响应1. 工具未启用2. 沙箱配置问题如 Docker backend1. 输入/tools查看可用工具列表。2. 检查hermes config get terminal.backend。1. 使用hermes tools命令启用所需工具。2. 如果使用 Docker backend确保 Docker 服务正在运行。语音模式/voice on无效语音依赖未安装检查~/.hermes/hermes-agent目录下是否有语音包进入~/.hermes/hermes-agent目录执行uv pip install -e .[voice]。万能恢复流程当感觉配置混乱或功能异常时按顺序执行以下命令通常能回到正常状态hermes doctor # 诊断 hermes model # 重新检查模型配置 hermes setup # 运行完整配置向导 hermes sessions list # 检查会话 hermes --continue # 尝试恢复 hermes gateway status # 检查网关如果用了11. 最佳实践与使用建议从简开始先用一个云端 API Provider如 DeepSeek跑通基础对话和工具调用再尝试本地模型、Skills 和 Gateway。善用配置分离Hermes 将密钥~/.hermes/.env和普通配置~/.hermes/config.yaml分开。使用hermes config set命令管理避免手动编辑出错。控制工具权限使用hermes tools命令为不同的运行环境CLI, Gateway设置不同的工具访问权限。例如给 Gateway 连接的 Discord 机器人更严格的权限。会话管理定期清理~/.hermes/sessions/下的旧会话文件尤其是那些包含大量工具输出消耗大量 token的会话。Skills 探索在投入时间自研 Skill 前先去 Skills Hub (/skills) 看看有没有现成的。很多常用场景如 Docker 管理、K8s 操作已有社区贡献。沙箱安全对于不信任的代码或操作在配置中设置terminal.backend: docker让所有终端命令在隔离的 Docker 容器中执行。版本更新定期运行hermes update来获取最新功能和安全修复。Hermes Agent 将一个功能强大的 AI Agent 框架的复杂度封装在了简单的命令行之后。它的核心价值在于提供了一个可扩展的、支持多模态交互的“AI 执行层”。通过本文的步骤你应该已经完成了从安装、配置到核心功能测试的全过程并理解了其会话、记忆和技能扩展的工作原理。接下来你可以尝试将其接入一个实际的聊天平台如 Telegram打造一个私人助手或者深入研究 MCP 服务器将 Hermes 与你公司的内部系统连接起来解锁自动化办公的更多可能性。记住先从一个小而具体的任务开始验证流程再逐步扩大其职责范围。 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度