Roo Code 本地模型指南三步接入 Ollama断网也能跑 AI 编码助手【免费下载链接】Roo-CodeRoo Code gives you a whole dev team of AI agents in your code editor.项目地址: https://gitcode.com/GitHub_Trending/ro/Roo-Code公司代码不允许上传云端、出差途中网络中断——这两个场景里依赖在线接口的 AI 编码助手都会直接停摆。Roo Code 的本地模型功能解决的就是这个问题把开源大模型跑在你自己的机器上通过 Ollama 或 LM Studio提示词和代码全程留在本机离线状态下对话、改文件、执行命令照常进行。本篇先走最短路径跑通 Ollama 接入再讲适用场景、内部原理和调优排障。快速上手三步跑通 Roo Code 本地模型整条路径不需要写一行代码前提是已安装 Roo Code 插件VS Code 均可使用。装 Ollama 并拉取本地模型从 Ollama 官网下载对应系统的安装包按向导完成安装。桌面版安装后后台服务会自动启动纯命令行版需先执行ollama serve。服务默认监听http://localhost:11434终端执行ollama list不报错即代表可用。拉取一个带工具调用能力的代码模型ollama pull qwen2.5-coder:7b显存紧张选 7B 档有独立显卡可选 14B 或 32B 档。在 Roo Code 设置里接入 ollama 提供商打开 Roo Code 侧边栏点齿轮进入设置。API Provider 选Ollama模型名填上一步的标签如qwen2.5-coder:7b。Base URL 默认就是http://localhost:11434本地部署不用动Ollama 装在别的机器上才需要改。服务开了鉴权时补一个 API Key。保存后发一句给这个函数写个单测本地模型开始流式输出即接入成功底部 token 统计同样生效。更习惯图形界面的话LM Studio 是另一条路线装好后启动它的本地服务器Roo Code 里改选 LM Studio 提供商即可两者用法相近官方文档在 apps/docs/docs/advanced-usage/local-models.md。本地模型能干什么四个真实场景✅敏感代码不出机器内部项目、客户代码、涉密仓库所有提示词与文件内容都留在本地推理合规审查场景直接可用。✅断网环境照常开发模型一旦拉取完成后续推理完全不依赖网络。飞机上、高铁上代码审查、小功能开发、跑测试流程不断档。✅高频使用省 token 费用本地推理没有按量计费。配合配置档案云端与本地两套设置一键切换日常重活用云端批量小任务切本地。✅本地模型同样跑 Agent 工作流读文件、搜索代码、改文件、执行命令这些工具调用本地模型全部支持自动批准面板行为与云端一致。它是怎么工作的从消息到本地推理接入后 Roo Code 会先向http://localhost:11434拉取模型清单不支持工具调用的模型会被直接过滤掉不会出现在下拉框里同时读取每个模型的上下文长度作为窗口上限有 vision 能力的还能处理图片。发消息时原生处理器把 Roo 内部的消息格式含工具结果、图片块翻译成 Ollama 原生格式把工具定义转成 Ollama 的 tool_calls 结构流式回收文本与工具调用think标签内容会被识别为推理过程单独展示。流结束时的 token 用量汇总后回传状态栏。上下文窗口以模型 Modelfile 里的num_ctx为准如果额外配置了ollamaNumCtx请求会携带这个覆盖值。核心逻辑分别在 src/api/providers/native-ollama.ts消息转换与流式处理和 src/api/providers/fetchers/ollama.ts模型清单解析与过滤。进阶调优与常见坑先调上下文再查服务性能调优上下文、温度、模型大小num_ctx 决定内存占用按需固定。推荐档约 8GB 显存用 1638416GB 用 3276824GB 以上可用 65536。用 Modelfile 固化FROM qwen2.5-coder:7b PARAMETER num_ctx 16384温度默认是 0本地代码模型低温输出更稳定一般不用动deepseek-r1 这类推理模型走单独的默认温度。显存不够就降档换 q4 量化或更小参数量比硬上大模型更实际。现象 → 原因 → 解法排障速查表现象原因解法报 Ollama service is not running at http://localhost:11434服务没起或 Base URL 填错启动ollama serve核对地址与端口 11434报 Model xxx not found in Ollama模型没拉取或名称对不上ollama pull后再试名称与ollama list完全一致第一条请求 OOM之后正常冷启动时上下文窗口分配偏大先ollama run 模型预热固定num_ctx换小量化下拉框里找不到某个模型该模型没有工具调用能力被过滤换带 tools 能力的标签或换模型响应明显偏慢本地推理吞吐限制换更小模型关闭抢占显存的程序下一步与未来方向开源模型的工具调用支持还在快速补齐Roo Code 已同时接入 Ollama 与 LM Studio 两条本地路线后续可期待更多本地推理选项与更细的推理参数。现在就可以拉一个 7B 模型把 Provider 切到 Ollama 跑通第一句对话——断网也能写代码的工作流从今天起成立。【免费下载链接】Roo-CodeRoo Code gives you a whole dev team of AI agents in your code editor.项目地址: https://gitcode.com/GitHub_Trending/ro/Roo-Code创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
