项目详情 · 重制版

OmniRoute

免费 AI 网关:一个端点聚合 352 家供应商,让编码 Agent 永不缺额度

GitHub 地址 MIT TypeScript 全栈 v3.8.50 19 路由策略 · 12 压缩引擎

更新于 2026-08-27 · 上次分析 2026-07-23(v3.8.49 / 25.7k★ 时代,本次全量重制)

← 返回汇总
项目速览

一句话定位

把免费层堆成一池,让 Claude Code 永不空转

自托管 AI 网关。Claude Code / Codex / Cursor / Cline / Copilot / Antigravity 全部指向一个本地端点,背后是 352 家供应商(154 家带免费标记)、1,312 个原始模型 ID。配额耗尽自动切换,12 引擎压缩省 15–95% token(平均 ~89%)。装上即用——内置 keyless 免费商,零配置第一发请求就有响应。

56.3k
Stars(6.5 个月)
352
注册供应商
1.51B
月免费 token 池
600+
Contributors
增长态势

一个月,翻一倍多

指标v3.8.49(7 月末)v3.8.50(8-26 发布)变化
Stars25.7k56.3k+119%
Providers290352+62
Chat 模型 ID1,1851,312+127
Commits—7,649(131 分支 / 315 标签)日更级
为什么存在

免费层堆叠的三重痛

几十个 SDK

每家免费层一套接入方式,手写堆叠意味着几十个 SDK、几十份配置文件,维护成本指数级。

几十个限速

每家配额窗口不同(按分钟/按天/按月重置),手工跟踪哪家还有余量、哪家几点刷新,根本算不过来。

不知道还剩多少

用了多少、还剩多少、值不值得切——没有统一账本,白嫖变成体力活。

OmniRoute 的答案:把免费层做成编目(catalog)——455 条免费行、40 个循环池、56 家 keyless 永久免费商——配额感知调度 + 实时余量遥测,账本替你算。

核心机制

Combo:不死的路由链

编码工具→ OmniRoute 端点→ 首选模型→ 配额尽?自动切→ 备选 1 → 备选 2 → …
核心机制

19 种路由策略,逐步混搭

类别策略一句话
负载均衡round-robin · weighted · p2c · least-used · random经典分布;p2c = 二选一随机(比纯随机更均衡)
顺序消费priority · fill-first排序榨干 / 填满再走
配额感知headroom · reset-window · reset-aware按剩余余量 / 重置时间排序,配额时钟进决策
成本cost-optimized按目录实时价格最小化 $/请求
上下文context-relay · context-optimized长会话跨目标交接上下文 / 按上下文大小选最合适
其他strict-random · cache-optimized · lkgp · fusion · pipeline · autofusion = 并行多 panel + judge 合成答案

每个 combo 步骤可单独选策略;配额时钟类策略(reset-window/reset-aware)是免费层白嫖的核心——知道哪家几点「回血」就等于多一池额度。

核心机制

12 引擎 token 压缩管线

  • 无损层:Session-Dedup(跨轮去重)、CCR(大块归档按需取回)、Lite(空白/图片 URL 裁剪)、Headroom(GCF 编码压 JSON 数组 ~30%)
  • 工具感知:RTK(命令感知的工具结果过滤/截断)、Responses Tool Output(shell/patch/search/build 输出有界压缩)
  • 语义层:Relevance(按最近提问抽取句)、Aggressive(摘要 + 旧轮老化)、LLMLingua-2(MobileBERT ONNX 语义剪枝)、Ultra(启发式 + 小模型)
  • 激进层:Caveman(规则散文压缩 ~65–75%)、OmniGlyph(实验性:上下文转图像编码)
安全边界

代码块、URL、结构化数据永远 byte-perfect 保留——压缩只动散文和冗余,不动事实。每引擎独立开关,可按 combo 单独配置。整体节省 15–95%,平均 ~89%。


OmniGlyph 现状

context-as-image 只在 Anthropic 直连线上对 Claude 实测有效;GPT 系 transformers fail-closed 等待供应商回执——激进功能有明确开关边界,不默认开启。

数据可信度

「~1.51B 免费 token/月」的诚实算法

在满是营销数字的免费层赛道,这套「分母口径全公开 + 定期重审计 + 坏消息也发」的算法本身就是差异化。

版本亮点

v3.8.50 四件新东西

新能力
Modality Bridge
vision + audio + video 跨模态桥接——文本网关升级为多模态网关,语音/图像/视频生成请求也能走同一个端点和 combo 链。
新能力
Quota-Share 调度
配额感知调度 + live quota telemetry:余量实时可见,路由决策直接吃配额时钟数据。
生态
Radar 免费编目(opt-in)
滚动导出免费层雷达编目(radar-export-latest 滚动发布),社区共建免费层情报。
治理
默认只宣传验证过的连接
v3.8.51 批次合并策略:合并前跑 typecheck / complexity / cognitive-complexity / changelog-integrity / ~370 专注测试——发布即验过。
协议面

不只是代理:MCP + A2A + 真正的 CLI

架构

技术栈:TS 全家桶,深而重

层技术
运行时Node.js 22.x / 24.x LTS(>=22.22.2 <23 || >=24 <27)
语言TypeScript 6.0,核心零 any(v2.0 起)
框架Next.js 16 + React 19 + Tailwind CSS 4
存储better-sqlite3(WAL)+ LowDB;120 域模块 / 159 个 migration
SchemaZod 4(MCP 工具 I/O + API 契约)
流SSE + WebSocket 桥(/v1/ws)
压缩12 引擎管线(RTK / Caveman / LLMLingua-2 ONNX / GCF / OmniGlyph)
分发npm · Docker · Electron · pnpm · Arch · Termux · PWA

对比 Go 单二进制的同类:这套栈换来 Dashboard、桌面端、i18n、模块化,代价是资源占用和依赖复杂度。VS Code 原生 Copilot Chat 也能直连(新支持)。

快速上手

三步接入 Claude Code

# 1. 安装(npm 一行)
npx omniroute@latest

# 或 Docker / Electron / Termux / pnpm

# 2. 编码工具指向本地端点
export ANTHROPIC_BASE_URL=\
  http://localhost:3000/api/v1

# 3. 模型名直接写 auto,零配置起跑
claude --model auto
  • 零 key 冷启动:内置 keyless 免费商,不配任何 API key 第一发请求就响应
  • auto 即战略:懒得建 combo 就用 auto/coding;想省钱 auto/cheap;深夜挂机 auto/offline
  • 兼容清单:Claude Code · Codex CLI · Cursor · Cline · Copilot · Antigravity · VS Code 原生 Copilot Chat
  • 云端 Agent 也能接:Codex · Cursor · Devin · Jules 云端集成
正面对决

OmniRoute vs CLIProxyAPI:两种生存哲学

OmniRoute —「薅外面的」

聚合外部免费层/廉价供应商池:352 家编目、154 家免费标记。你的额度来自供应商的慷慨(免费 tier + keyless 白嫖商)。核心技能是配额感知调度 + token 压缩,让小额免费池跑出订阅体感。

免费层情报12 引擎压缩TS 全栈
CLIProxyAPI —「榨自己的」

把你已付费的 CLI 订阅(Claude Max / ChatGPT Plus / Gemini / Grok OAuth)逆向成标准 API。多账户轮询 + 粘性会话,存量订阅一个 token 都不浪费。Go 单二进制、零依赖、下载即跑。

订阅复用OAuth 账号池Go 单二进制

一句话分野:没有付费订阅、想白嫖外部免费池 → OmniRoute;已经付了订阅、想榨干每一滴 → CLIProxyAPI。两者解决的是同一个痛点(额度焦虑)的两端。

正面对决

维度对照

维度OmniRouteCLIProxyAPI
Stars / 建仓56.3k · 2026-02(6.5 个月)48.4k · 2025-07(13.7 个月)
语言 / 形态TypeScript · Next.js + Electron 全栈Go · 单二进制零依赖
额度来源352 外部供应商(154 免费 / 56 keyless)自有 CLI 订阅 OAuth 池(Codex/Claude/Gemini/Grok)
路由能力19 策略 + auto 六变体 + Tier 1/2/3多账户轮询 + 粘性会话
token 压缩12 引擎(15–95%,均 ~89%)无
协议扩展MCP 107 工具 · A2A · 45 SKILL.md · 记忆纯代理,OpenAI Responses 兼容输出
资源占用Node + SQLite + 可选 Electron,较重单文件,极轻
合规灰色度免费层 ToS 风险(编目已标 15 家 avoid)逆向官方 CLI 订阅,风险更集中
LicenseMITMIT

CLIProxyAPI 数据参考本站 CLIProxyAPI vs sub2api 横评(2026-08-22)。OmniRoute 官方对比文档另有 vs LiteLLM / OpenRouter / Portkey 详表。

使用推荐

怎么选:四类人四个答案

零预算个人 / 学生
直接上 OmniRoute
keyless 免费商零配置起跑 + auto/cheap 模式 + 12 引擎压缩,一分钱不花跑 Claude Code 类工具。用 auto/offline 挂夜任务。
已付费订阅党
CLIProxyAPI 更对口
Claude Max / ChatGPT Plus 用户把订阅逆向成 API 多工具复用,Go 单二进制常驻无负担。OmniRoute 作为免费池补充备胎。
团队 / 生产
LiteLLM 或 sub2api
要 k8s/Helm 成熟配方选 LiteLLM;要计费支付多租户拼车分发选 sub2api。OmniRoute 面向个人桌面,不是团队网关。
Agent 极客
OmniRoute 当工具箱
MCP 107 工具 + A2A + 45 个 SKILL.md + 持久记忆——网关本身可被 Agent 操控,值得当 Agent 基础设施研究。

组合拳也成立:CLIProxyAPI 榨订阅、OmniRoute 薅免费层,都指向各自的编码工具——但两套都碰灰色地带,商用前读条款。

风险提示

需要清醒认识

潜力评估

未来空间

一个月翻倍的曲线 + 600+ contributors + 日更节奏,正在成为「免费层聚合」品类的定义者。v3.9.0 LTS 若落地,将从白嫖工具升格为个人 AI 基础设施(网关 + 记忆 + MCP 工具箱 + 多模态桥)。最大变数不在代码,在供应商免费层的持续供给。

评分 8.5 / 10 较上月 +0.5 tracking

上一个
LikeC4
下一个
Kronos
1 / 17