9Router：评估 AI 网关，不把路由误认为无限权限
测量 9Router 压缩与回退，不预设节省比例
固定获准请求，检查工具信息保留、失败尝试和供应商总用量，避免将营销数字当成实测。
测量 9Router 压缩与回退，不预设节省比例知识学习CN编辑简报更新 2026-09-18
你将学会
- 压缩需要检查可用性
- 回退是另一项试验
- 报告完整账单
开始前需要
- 基本命令行与配置阅读能力
- 能够在独立且获准的环境中试验
分别记录请求模型、实际尝试和客户端验收，在不保留秘密的前提下解释一次请求的完整路径。
先看结论
- 字节减少不等于已验证的 token 节省。
- 回退可能增加成本并改变行为。
- 供应商限制仍是试验条件。
压缩需要检查可用性
README 报告压缩 tool_result 能减少令牌，应先视为上游声明。更小载荷可能恰好丢掉代理排查错误所需的一行，不能只看请求变短就认定效果更好。
用包含标注事实的虚构工具输出，在相同模型和请求下比较开关压缩。同步测量事实保留、最终任务正确性及供应商用量，字节数不能直接当作通用 token 数。
回退是另一项试验
用获准供应商和有界故障单独测试回退，记录每次目的地、延迟及结果。最终成功响应之前可能已发生失败或计费尝试，不能把这些从账本中删除。
更换模型可能改变上下文、工具行为和答案质量，每个候选路由都要有必要能力清单。低价目的地若不能执行客户端要求的动作，就不是合格替代。
报告完整账单
计入重试、超时等待及人工检查，记录精确模型标识和账号条件。优惠额度不应被当成永久定价，更不构成绕过供应商限制的许可。
本次没有执行压缩或回退基准，示例节省值保持未知。只有固定工作负载、供应商实测用量和正确性变化齐备后，才能发布带范围的结果。
如何选择
| 比较维度 | 方案 A | 方案 B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
实施步骤
- 1
用标注工具输出比较压缩。
- 2
单独进行受控回退试验。
- 3
统计全部尝试和被接受结果。
可复制示例
json
{
"experimentProposal": true,
"compressionEnabled": null,
"providerUsage": null,
"retainedFacts": null,
"fallbackAttempts": [],
"elapsedMs": null,
"savings": null,
"executed": false
}常见问题
可以套用 README 的节省比例吗？
需要用自己的负载复现并核对信息保留。
回退成功保证零停机吗？
不保证，应测量失败和延迟。
资料来源
- 9Router / README.md来源核查 2026-09-18
- 9Router / custom-server.js来源核查 2026-09-18