Colibri 入门：在磁盘、内存与显存之间加载 MoE 专家
动手做 Colibri 基准台账：让负结果也能追溯
先建立可复现记录，再尝试新的推理优化。
动手做 Colibri 基准台账：让负结果也能追溯知识学习CN编辑简报更新 2026-09-23
你将学会
- 从记录而非模型执行开始
- 检查缺失和误导字段
- 最后接入真实测量
开始前需要
- 基本 Python 与命令行知识
- 明确的硬件与存储清单
先建立可复现记录，再尝试新的推理优化。
先看结论
- 台账是建议的扩展练习。
- 失败和撤回应保留。
- 未知测量必须保持未知。
从记录而非模型执行开始
用合成 CSV 制作本地报告，包含模型版本、缓存、I/O 与延迟。清楚标记虚构值，避免演示截图被误认为真实推理测量。
这是围绕上游协议提出的练习，不声称 Colibri 已有完全相同的笔记本，也不声称本系列已经运行过相应模型或优化实验。
检查缺失和误导字段
缺少模型格式或缓存状态的吞吐记录不能进入正式比较。失败运行与排除原因应单独可见，图表不能悄悄删掉不利于优化结论的数据。
增加关联旧假设的撤回记录。上游对齐解释的修正提供了设计例子：保留解释变化，后来的读者才能追查为什么结论发生改变。
最后接入真实测量
模式和展示测试通过后，才导入经过授权的实际运行，附准确命令和脱敏原始日志。在固定模型和质量测试下交替比较基线与候选方案。
验收重点是每个图点都能回到输入记录、方法和质量结果。缺少测量必须保持未知，报告不能从不完整字段制造费用节省结论。
如何选择
| 比较维度 | 方案 A | 方案 B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
实施步骤
- 1
创建明确标记的虚构记录。
- 2
测试缺失字段并保留失败。
- 3
让图点连接方法与原始证据。
可复制示例
json
{"trial":"fixture-only","cache_state":"unknown","throughput":null,"publishable_benchmark":false}常见问题
第一版需要下载权重吗？
不需要，合成记录足以测试报告约定。
主要验收标准是什么？
每个展示值都能追溯方法、源记录与质量证据。
资料来源
- Colibri / docs/benchmarking.md来源核查 2026-09-23
- Colibri / README.md来源核查 2026-09-23