Files
moyi-model-intelligence-hub/docs/29-cpr-gap-analysis-and-optimization-plan.md
xppandClaude Opus 5.5 2e53b1d9c8 fix:"规范音视频任务结果并按真实能力标识音频执行"
- 新增 AsyncTaskResponseNormalizer:解析 content/result/嵌套 data 回执与 {url} 对象,仅白名单媒体字段,裸字符串只接受 URL
- 视频/音频上游完成但无结果文件时标记 deliveryStatus=pending,结算一次、不重发不退款
- 目录与执行共用 AsyncMediaSupport.supportsSpeech;非 TTS 音频、专用渠道任务类型错配、非法语音参数在发送前拒绝
- 任务响应返回 taskType/completedAt,前端以持久任务类型优先,补音频 MIME、签名 URL 与未交付提示
- 新增 29 号 CPR 差距分析与优化方案文档,更新 24 号任务表 MED-01/02/03

验证:mvn -B -o clean verify 399 项通过(独立 PostgreSQL/Redis);前端构建与 27 项测试通过

Co-Authored-By: Claude Opus 5.5 (1M context) <noreply@anthropic.com>
2026-10-22 11:48:47 +08:00

16 KiB
Raw Permalink Blame History

CPR 及开源网关差距分析与深度优化方案

整理日期:2026-10-22(Asia/Shanghai)。本文合并两轮只读比对结论,作为后续优化的方案基线;实施进度以 24-security-and-cpr-task-tracker.md 为准。

任务来源

用户需求:对比当前版本与 CPR(Codex Proxy RS)最新版的差距,确认 MOYI 是否基于 New API、Sub2API 或其他项目改造,与最新仓库比对,先分析差距,再对产品做深度优化。

第一轮比对时尚未确认 “cpr” 的具体指代,曾临时核查 CPA(CLIProxyAPI)和 CRS(Claude Relay Service);第二轮由用户确认为 Codex Proxy RS 后重新做了源码、架构与发布记录比对。两轮均为只读分析,没有修改代码、部署 CPR 或发起付费调用,也没有做同环境性能测试。

一、核心结论

  • MOYI 不是 New API、Sub2API 或 CPR 的直接 fork,是自研 Java/Vue 控制面;早期计划接入 Otari,后来逐步自研网关数据面。
  • MOYI 在多模型产品管理、人民币钱包账本、价格快照、异步媒体任务方面已有自己的基础。
  • 与 CPR 相比,明显不足的是 Codex 专用协议、上游账号调度、长请求处理、重试与故障恢复边界。
  • 与 New API/Sub2API/Otari 相比,差距集中在协议转换完整性、企业组织权限、路由策略、复杂计费和生产治理。
  • 建议:保留 MOYI 产品控制面和账本,重整网关执行层;CPR 作为 Codex 专用能力的参考或可选内网上游,不整体替换。

二、比对基线(当次锁定,非实时最新版)

对象 锁定版本 日期 说明
MOYI 7785cda 2026-10-13 本地与自有远端一致;之后的安全增量见 24 号文档
CPR 正式发布 v3.29.6(af35cde3) 2026-10-20 比对主要依据
CPR 主分支 78bc57c5(标记 v3.29.7) 2026-10-21 多 9 个提交,未发布正式 Release;插件 RPC v4→v5,已有插件需重编译
New API v1.0.0-rc.45 10-17 主分支 206e0fa5,多 16 个提交
Sub2API v0.2.17 10-16 主分支 8f2cbb53,多 7 个提交
Otari v0.30.1 10-20 主分支 ac172ab7,多 19 个提交
CPA v8.0.36 10-21 主分支与发布一致
CRS v1.1.315 09-10 主分支与发布一致

这些项目与 MOYI 没有共同版本线,不能用“落后多少提交”衡量,只比较能力、边界和验证程度。

三、项目来源判断

  • 工程决策(04 号文档):New API 仅参考产品功能和兼容性,不复制代码;Sub2API 参考共享额度、账号池和运营流程;Otari 原计划作为独立网关;用户、权限、钱包、模型目录、异步任务和双端控制台自研。
  • Git 历史:产品定义与 Vue 原型 → Otari 开发基座 → TypeScript 认证服务 → 迁移至 Java。未见继承 New API/Sub2API 提交历史的证据,也未发现基于 CPR 改造的证据。此判断不等同于逐文件代码相似度或许可证法律审计。
  • 运行架构已偏离早期设计:开发基座仍固定 Otari v0.4.0(infra/otari/docker-compose.yml),云端 Compose 不部署 Otari;Java 转发器直连供应商,自行处理协议、密钥选择、重试和流式响应(provider/OpenAiCompatibleProvider.java)。

因此不存在“升级 Otari 镜像”或“合并 New API/Sub2API 更新”的简单升级路径。

四、已具备的能力(10-13 版本)

Messages、Responses、Gemini 原生入口与 Embeddings;用户级共享 RPM/并发/预算;Key 到期、IP 白名单、周期预算;渠道账号健康、冷却、安全重试、会话亲和与有限故障切换;版本化售价、采购成本、缓存写入、上下文阶梯与人工成本对账;TOTP 与恢复码;运营告警;真实异步媒体执行、钱包冻结结算与部分图片 Token 计费。范围见 19 号文档。优化应完善已有体系,而非重建。

五、与 CPR 的差距

先明确边界:CPR 是“面向 Codex 的自托管多账号网关”,明确不支持 /v1/chat/completions,内置 Provider 仅 OpenAI 与 xAI,不是通用多协议平台。

能力 CPR 当前实现 MOYI 现状与差距 优先级
Codex 协议兼容 专用模型目录、业务扩展头、推理历史、工具及原生请求兼容 通用模型列表与有限 Responses 入口 P0
WebSocket 与续接 Responses WebSocket、连接复用、previous_response_id 归属、续接失效恢复、中断控制 无 WebSocket 入口,直接拒绝 previous_response_id P0
长推理与大上下文 不设统一总时限,分别管理连接、空闲、取消和租约 同步上游最多 90 秒;原生请求最多 256 KiB;输出 Token 上限 32,768 P0
重试安全边界 区分未发送/已发送/结果不明,以及是否已交付业务输出 有安全重试和有限切换,缺同等完整的发送/交付状态模型 P0
账号池生命周期 OAuth/API Key 账号、凭据刷新、额度窗口、模型权限、账号级并发 渠道 + Key 池轮换,缺独立上游账号实体 P1
调度策略 智能、额度重置优先、轮询、粘性;综合负载、额度、健康、首输出延迟 轮换、固定冷却、会话哈希亲和;延迟未进入选路 P1
公平排队 有界等待、同级 FIFO、优先级、取消回收、共享等待预算 同步请求约每 100 ms 重新争抢 Redis 槽位,无公平性保证 P1
诊断与统计 逐 attempt、上下游关联、传输类型、调度原因、恢复耗时、费用来源 仅最终调用记录与账号健康 P1
配置与工程边界 冻结请求配置快照;协议、执行、Provider、存储分层;架构依赖测试与安全流水线 价格有快照,网关职责集中,缺统一执行合同和同等门禁 P1

参考:CPR 架构文档、数据面接口文档。

直接影响客户体验的三点:

  1. Responses 只是有限支持。 gateway/NativeProtocolMeter.java 明确拒绝云端续接、图片、文件、多种托管工具和服务档位,并固定限制请求体与输出 Token。简单文本可成功,长对话、图像、复杂工具和客户端恢复未必通过,不能宣传“完整支持 Codex”。
  2. 会话亲和不等于有状态续接。 provider/UpstreamHealth.java 用 X-Moyi-Session 选择账号,冷却后会重新选择。支持增量续接时必须记录响应所属账号、凭据版本和连接,不能把 A 账号的响应 ID 交给 B 账号。
  3. 排队与诊断不足以支撑企业 SLA。 resources/redis/acquire-pair.lua 获取槽位时不检查排队先后,持续竞争下新请求可能先于旧请求;只有最终错误和总耗时,无法区分慢在排队、建连、冷却还是生成。

六、与 New API/Sub2API/Otari 等的差距

“部分具备”指已有实现但覆盖或管理闭环不足。

维度 MOYI 现状 主要差距 优先级
协议转换 原生透传 + 统一用量扣费 New API RelayKit、Sub2API 有更完整的跨协议转换 P0
编程客户端兼容 基础文本与函数工具,子路径少 缺 Responses WebSocket、compact 等入口;CPA 持续修复工具调用、推理和协议差异 P0
多模态与托管工具 聊天入口拒绝图片、文件、音频、托管搜索 缺视觉聊天、文档理解、托管工具的协议与计费闭环 P0/P1
身份与会话安全 密码、验证码、TOTP 10-13 版本缺登录限速、统一密码策略、改密撤销会话(后续已补,见第九节) P0
组织与权限 用户、三个全局角色、个人项目 缺组织、成员、项目角色、共享资源、企业 SSO 与离职回收;Otari 有组织/工作区治理 P1
路由策略 有限备用路由、优先级、冷却 缺按成本、延迟、权重、容量、预算组合的策略及解释 P1
上游账号池 环境变量 Key 池、轮换、健康指纹 缺账号生命周期、额度窗口、账号级容量、可视化轮换 P1
定价与计量 Token、缓存、部分阶梯、固定任务费、图片 Token 缺视频时长/分辨率、音频、托管工具、服务档位;New API 有表达式计费 P1
成本核对 快照、采购成本、人工核对 缺账单导入、自动匹配、差异归因、毛利预警 P1
异步结果交付 数据库任务、轮询、部分媒体执行 OSS 主要是配置预留;缺产物托管、授权下载、生命周期、批量与回调 P1
可观测性 用量、容量快照、账号健康、错误率告警 缺链路追踪、逐 attempt、SLO、企业/项目聚合、日志留存治理 P1
商业运营 管理员入账、对公合同付款 自助支付、订阅、退款不如 New API/Sub2API;与 B/G 定位不同,非首要 P2
工程交付 单元测试、隔离数据库脚本、发布工具 缺自动化兼容矩阵与持续安全门禁;README 与实现不同步 P1

上游近期更新中值得转成 MOYI 回归用例的风险场景(不表示 MOYI 一定存在相同缺陷):

  • New API:Claude 显式零用量、全缓存请求计费、Vidu 按实际模型/时长/分辨率计费;任务重试前重新定价和预留、查询重定向凭据的主机限制、Redis 脚本被清空后的恢复。重点验证“字段缺失”与“明确为零”不混同。
  • Sub2API:Gemini 流中途断开计费、缓存计数导致负输入 Token、异步图片转存策略。
  • CPA:并行工具调用、推理 Token、结束原因、Gemini thought signature、首 Token 延迟统计,这类问题容易被“HTTP 200 测试”漏掉。
  • Otari:权重/条件/预算路由、组织工作区、策略解释与追踪。

七、不能照搬 CPR 的地方

  • 额度不是严格预付费钱包。 CPR 准入只检查已结算金额、不预占;并发请求可使最终金额超限;无法取得费用的尝试按零累计且不建待核账记录;结算暂存重试依赖进程内状态(budget.rs)。MOYI 的钱包锁、预占、价格快照和待对账状态(wallet/ChatBillingService.java)应保留并强化。
  • 凭据保护不能降级。 CPR Provider 凭据以明文 JSON 保存;MOYI 使用 AES-GCM。
  • 不能直接横向扩容。 CPR 官方限定单进程单副本,含进程内队列、连接池和状态。
  • 不能替代产品控制面。 CPR 只有管理员与 Key 持有者身份,没有用户、角色、人民币钱包、项目和媒体任务体系。
  • 业务备份不等于审计备份。 CPR v3.29.6 业务归档排除请求明细、诊断与审计日志,B/G 端须独立制定审计留存与备份策略。
  • 不能因 Rust 断言更快。 未做同环境性能测试。
  • 许可证。 参考或复用代码时须分别处理 New API(AGPL)、Sub2API(LGPL)及 Otari/CPA/CRS/CPR 的实际许可证。

八、深度优化方案

原则:保留 Java/Vue、现有账户和钱包账本,先明确数据面边界,不整体重写为某个开源项目。直接换底座会同时带来账户迁移、历史金额、Key、审计和许可证风险。MOYI 钱包始终是唯一用户财务事实来源,不让两套系统各自扣费。

第一阶段:安全与统一执行底座

  • 安全:登录分布式限速、统一密码策略、改密撤销会话、用户停用、任务 scope/项目隔离、Provider 出站限制、管理接口授权审查。

  • 统一请求生命周期,重试、断线、取消、服务重启都进入同一流程,不由各 Controller 分别处理:

    准入 → 冻结权限与价格 → 排队 → 上游尝试 → 交付 → 结算/待核账

  • 不能只把 90 秒超时改长。同步请求租约 3 分钟、钱包预留默认 5 分钟到期;放开长任务必须同时设计租约续期、预留恢复和结算逻辑,否则引入资金与并发问题。

  • 协议解析、流事件、工具调用、用量归一化从业务 Controller 中分离;错误格式分别符合 Anthropic、OpenAI、Gemini 约定。

第二阶段:Codex 兼容通道与兼容矩阵

  • 优先完成 Responses WebSocket、模型能力目录、会话与续接归属、工具/图片输入、长流和取消。
  • 建立“客户端 × 协议 × 上游 × 能力”验收矩阵,指定客户端版本、模型、工具和计费联合验收。
  • 可选小范围验证:仅 Codex 路由接内网 CPR,Chat、Messages、Gemini、3D/媒体仍走原适配器。不能只改 Base URL:MOYI 当前会在转发前拒绝大量原生请求,还需对接请求关联、用量、重试和费用合同。
  • 用同一测试集比较“继续自研”与“接入独立网关”的成本后再定底座。

第三阶段:账号调度与组织权限

  • 将“渠道下多个字符串 Key”升级为受控、加密、可审计的独立账号资源:凭据版本、模型范围、容量、额度、健康。
  • 先做可解释的加权策略,再引入延迟、失败率、额度重置信号;补公平排队(FIFO、取消回收、共享等待预算)。
  • OAuth 订阅账号池为可选能力,不作为 B/G 客户 SLA 默认基础,须先核实上游授权和服务条款。
  • 组织、成员、项目角色、项目钱包/预算、资源归属、企业 SSO;保留个人账号作为兼容入口,授权在后端统一执行。

第四阶段:财务、媒体与生产治理

  • 定价使用版本化规则、试算和审核发布;补视频时长/分辨率、音频、托管工具计费;账单自动匹配与差异告警独立于用户扣费。
  • 媒体:OSS 产物、短期下载授权、留存删除、任务回调与恢复。
  • 治理:逐 attempt 诊断、链路追踪、SLO、企业/项目用量、数据留存、备份恢复演练、依赖扫描、协议回归、发布门禁。
  • 模型状态拆分为:目录已登记 → 凭据已配置 → 协议已验证 → 计费已验证 → 生产可用,并记录验证日期与证据。10-13 部署记录为 315 个公开分组、226 个配置就绪、39 个暂缓、50 个待核实,“配置就绪”不等于真实调用验收。

九、实施映射与当前进度

各项已拆为 24 号文档中的任务 ID,进度只在该表更新:

方案内容 任务 ID
第一阶段安全 SEC-01~SEC-07
长请求与续租、Codex 协议、WebSocket 续接 COD-01~COD-03
账号生命周期、公平排队 SCH-01~SCH-02
诊断、配置版本、门禁;CPR 可选部署 OPS-01~OPS-02
音视频回执、协议、展示、计费、鉴权下载 MED-01~MED-05

截至 2026-10-22,SEC-01/02/03 已实现并验证(25、27、28 号文档),SEC-06 完成本地代码边界(26 号文档),其余 COD/SCH/OPS/MED 项未完成。未部署、未真实供应商验证的项保持未完成标记,不宣称“完整支持 Codex”或“全仓库安全”。