
三步把 Void 编辑器接上 LM Studio 本地模型补全延迟压进 200ms【免费下载链接】void开源AI代码编辑器Cursor的替代方案。项目地址: https://gitcode.com/GitHub_Trending/void2/voidAI 编程慢往往慢在网络上。云端模型每一次补全都要把请求发到远端服务器再等结果传回来网络不稳时等待就更明显。把模型放到本机这段往返直接省掉。Void 编辑器基于 VSCode 架构做了深度定制核心优势正是本地化 AI 处理它直接调用本机的 LM Studio 本地模型补全和改代码不再依赖公网。为什么本地推理值得试延迟的大头在哪用云端服务时网络往返占了响应时间的大半。本地推理把模型加载和运行都留在机器上请求路径只剩本机内部通信。这是低延迟补全最直接的来源。本地化之后得到什么除了快还有两件事断网也能继续写代码以及代码上下文不出本机。Void 的 AI 消息处理管道位于 src/vs/workbench/contrib/void/主进程、渲染进程、扩展各层分工在这里能看得很清楚。三步完成 LM Studio 本地模型配置准备工作先装好 LM Studio 并下载一个本地模型打开服务端口。再部署 Voidgit clone https://gitcode.com/GitHub_Trending/void2/void cd void npm install接入本地模型打开 Void 的设置把 Provider 从云端切换成 LM Studio填入 LM Studio 里实际加载的模型名称。保存后发一条测试请求能看到候选补全说明链路已经通了。四个关键参数Provider 与模型名之外还有两项要留意。请求超时建议放宽到 30 秒长上下文的首次响应可能较慢。并发批处理大小按硬件调整内存有限就调小机器富余再拉大避免多路请求互相挤占。把响应时间做快的两件事内存与进程开销给 LM Studio 预留至少 8GB 内存模型放不下就会反复换页延迟立刻翻倍。Void 本身预留 2GB 左右即可。LLM 消息统一交给 Electron 主进程处理不放在渲染进程里绕开浏览器环境的各种限制请求经主进程通道转发再回到编辑界面。让重复请求不重算相同或高度相似的补全请求Void 会走智能缓存直接返回历史结果不再触发一次完整推理。高频场景下这一步能明显摊薄平均响应时间。用好两个提效功能快速应用快速应用Fast Apply不整段重写文件。它先生成搜索/替换块定位改动点配合 DiffZone 实时标出变更区域流式输出边生成边应用。千行级别的文件里改动落点秒级可见不用等完整响应跑完。终端补全写命令时补全覆盖 git、npm、docker 等 50 多种常用命令。相关实现在 extensions/terminal-suggest/输入命令前缀即可带出候选。怎么验证低延迟生效了200ms 这条线跑一两个真实场景看补全从按下到候选出现的间隔。稳定在 200ms 以内说明本地模型配置这条链路是健康的。偏慢时先查模型大小和内存预留再看并发批处理。项目变大、换了模型版本之后参数要跟着重新校准这是常态而不是故障。本地化加流式应用之后这套链路的好处在于可控延迟数字自己看得见调优也自己动手。【免费下载链接】void开源AI代码编辑器Cursor的替代方案。项目地址: https://gitcode.com/GitHub_Trending/void2/void创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考