awesome-free-models API路由指南:LiteLLM与9Router统一接入多家免费大模型

发布时间:2026/10/5 0:23:05
awesome-free-models API路由指南:LiteLLM与9Router统一接入多家免费大模型 awesome-free-models API路由指南LiteLLM与9Router统一接入多家免费大模型【免费下载链接】awesome-free-modelsA curated list of free AI models, APIs, and tools you can use without paying a cent.项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-models用 AI 大模型还要花钱不存在的。awesome-free-models是一份持续核验的免费 AI 资源清单收录了53 个开源模型、245 个免费工具、21 个分类。这篇 API 路由指南带你用LiteLLM和9Router两个开源网关把多家免费大模型 API 统一接入——一个密钥、自动故障转移、零成本。为什么需要API路由解决免费大模型的密钥地狱想免费用大模型得在十几个平台分别注册、领密钥Google AI Studio 给 Gemini 免费额度、Groq 给超快的 Llama 推理、Mistral 和 Cohere 各给 12~15 个免费模型、OpenRouter 聚合了 21 免费模型。麻烦随之而来各家接口格式不一、限速规则不一、免费额度时有时无一家平台限流服务就中断。API 路由一次性解决这些问题用统一的 OpenAI 兼容接口接入所有厂商某家挂了自动切换下一家一套配置管理全部密钥和额度。 清单专门设有 Free API Routers 板块精选了 4 款开源路由工具原文见 README.md#L174-L184。4款免费API路由器速览LiteLLM与9Router对比路由工具接入厂商数免费模型支持核心亮点LiteLLM100 LLM支持所有 OpenAI 兼容免费接口花费追踪、虚拟密钥、生产级MIT9Router40免费额度自动路由RTK 令牌压缩省 2~4 倍、三级回退MITOmniRoute25090 免费90 免费模型Web/桌面/Android 多端运行Portkey Gateway多厂商生产级护栏企业级路由 护栏LiteLLM多厂商大模型代理最快配置步骤LiteLLM 是一款 Python 编写的开源代理MIT 许可把 100 大语言模型统一在单一 API 背后项目原始介绍见 README.md#L182。新手按三步走领免费密钥从清单里挑 2~3 家额度最慷慨的免费提供商——Google AI Studio约 15 个免费模型、NVIDIA NIM100 免费模型、Groq12 个免费模型——完整免费额度列表在 README.md#L93-L155。写模型清单在config.yaml里把每家模型登记成统一条目每条只需三样东西——model_name你自定义的名字、上游真实模型名、api_base平台地址。启动代理解测用 LiteLLM 命令行启动代理服务后把应用的base_url指向本地代理、model填自定义名即可。同一份代码随时切换到任意厂商业务逻辑一行都不用改。这种方式的最大好处某家免费额度用完或接口变更时改一行配置就行应用代码零改动。9Router免费额度自动回退的省钱利器9Router 是开源 AI 网关MIT 许可接入 40 提供商、一个 API 密钥通吃所有服务对免费用户尤其友好的有三大特性RTK 令牌压缩输入令牌减少 2~4 倍上下文越长省下的免费额度越多智能三级回退按 Subscription → Cheap → Free 顺序自动降级先用订阅权益、再用低价、最后落到免费层免费层路由自动把请求路由到 Kiro AI约 50 credits/月含 Claude 4.5 GLM-5 MiniMax、OpenCode Free无需鉴权、Vertex AI$300 额度等免费额度池详见 README.md#L180。如果你不想折腾配置、只想开箱即用9Router 是首选。免费大模型额度实用清单以下是清单中常用度最高的免费额度数据截至 2026 年 10 月 1 日核验源自 README.md#L99-L109提供商免费额度代表免费模型需信用卡Google AI Studio约 15 个免费模型Gemini 3.x Flash否NVIDIA NIM100 免费模型Llama / Mistral / Gemma否ModelScope55 个免费模型Qwen / DeepSeek / GLM否Cloudflare Workers AI50 免费模型边缘运行的开源模型否OpenRouter约 21 个免费模型各类开源权重阵容常换否余额需为正Groq12 个免费模型Llama / GPT-OSS / Whisper否Mistral La Plateforme12 个免费模型Mistral Large / Codestral否需手机验证SiliconFlow15 免费模型Qwen-Image / BGE-M3否⚠️ 清单里部分平台被标注了免费层已调整或取消如 Chutes.ai、Cerebras 等使用前请对照原文的最新 ⚠️ 标注避免白忙一场。进阶技巧故障转移、本地模型与配额管理配置自动回退在 LiteLLM 中为同一个model_name配一组模型列表免费 API 在前、本地模型在后额度耗尽或平台限流时请求自动切到下一家服务不断档。本地模型兜底用 Ollama 在本地跑一个开源权重模型本地推理工具清单见 README.md#L187-L219把http://localhost:11434也写进路由配置——云免费额度用尽后自动落回本地真正做到永不宕机。配额与花费管理LiteLLM 的花费追踪会为每个虚拟密钥记录用量。免费层虽然 0 成本但速率限制是稀缺资源如 Cohere 20 req/min、Mistral 1 req/s按应用维度分配各家请求频率才能把额度用到极致。使用免费大模型API的注意事项免费层变动快OpenRouter 的免费阵容频繁轮换2026 年还有多家平台直接收紧了免费政策。清单每月重新核验全部 343 个链接最新核验说明见 README.md#L12限速差异大从每分钟 20 次请求到每秒 1 次不等配置路由时把限速匹配到你的使用场景收录标准严格清单只收录真免费资源不绑卡、无试用陷阱收录规范见 CONTRIBUTING.md本地查阅想把清单拉到本地浏览执行git clone https://gitcode.com/gh_mirrors/aw/awesome-free-models即可内容采用 CC0 协议见 LICENSE官方网页版文档在 docs/index.md主题配置见 docs/_config.yml总结零成本用上免费大模型awesome-free-models是库存表提供经过核验的免费模型与免费 API 额度避免你逐个平台踩坑LiteLLM是最灵活的多厂商统一接入代理适合把免费大模型集成的开发者9Router自带免费额度路由与令牌压缩开箱即零成本三者组合路由 回退 本地兜底一套配置就能搭起永不宕机、永不烧钱的 AI 能力层【免费下载链接】awesome-free-modelsA curated list of free AI models, APIs, and tools you can use without paying a cent.项目地址: https://gitcode.com/gh_mirrors/aw/awesome-free-models创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考