Geometric pattern carved into white paper

谁还在为 API 账单肉疼?开源免费 AI 网关 OmniRoute 值得一看

介绍开源免费 AI 网关 OmniRoute:将 290+ 提供商与 90+ 免费方案聚合到一个端点,适配 Claude Code、Cursor、Codex 等工具,支持自动降级与 Token 压缩,帮助降低 API 成本。说明自托管特点与使用注意事项。

API 账单越来越贵,尤其是同时用 Claude Code、Cursor、Codex、Cline 这些工具的时候,限额和费用很容易失控。

最近有个开源项目 OmniRoute 被不少人提到:它把 290 多个提供商、90 多个免费方案聚合成一个端点,宣称每月可聚合约 15.3 亿免费 tokens,并支持自动降级和 Token 压缩。

OmniRoute 是什么?

一个自托管的免费 AI 网关(MIT 协议)。
你在自己机器上跑起来后,所有兼容 OpenAI 接口的工具都指向这一个本地端点,由它负责路由、容灾和配额管理。

核心卖点大致有三点:

  1. 开箱适配主流编码工具
    Claude Code、Cursor、Codex、Copilot、Cline 等都能直接用。配额不够或某个提供商挂了,会自动切换,尽量减少「突然撞限额」的情况。
  2. Token 压缩
    内置压缩机制,官方称可再节省 15%–95% 的 tokens(具体效果取决于请求类型和内容)。
  3. 0 成本起步
    聚合了大量免费层,付费变成可选项而不是必选项。适合想先把工作流跑通、再决定要不要为高质量模型买单的人。

适合什么场景?

  • 同时用多个 AI 编码/Agent 工具,经常碰到不同平台的限额
  • 想把免费额度用到极致,降低日常开发成本
  • 希望自己掌控路由和数据,而不是完全依赖单一 SaaS
  • 需要一个统一入口,方便切换模型或做故障转移

使用前需要知道的

  • 它是自托管工具,需要自己部署(npm 或 Docker),并维护运行环境。
  • 免费额度来自各提供商自己的免费层,有速率限制、质量差异和随时调整的可能,不是「无限免费用旗舰模型」。
  • 压缩和自动降级能省钱、减少中断,但最终输出质量仍取决于实际调用到的模型。
  • 安全上注意本地密钥管理和网络暴露,不要把管理端口直接暴露到公网。

项目地址可在 GitHub 搜索 OmniRoute(diegosouzapw/OmniRoute)。官方文档里有 Claude Code、Cursor 等工具的配置示例,按说明把 Base URL 指到本地端点即可。

能省的钱确实没必要白给。如果你已经在为多工具、多模型的 API 费用头疼,可以先本地跑起来看看实际能聚合到多少可用免费额度,再决定后续策略。

工具会持续更新,具体数字和兼容列表以仓库最新 README 为准。

No comments yet