Bonsai Demo 是什么：依赖专用运行时的本地推理演示
Bonsai 源码导读：从 setup.sh 到启动脚本
阅读发行链路，不把演示脚本当成模型训练源码。
Bonsai 源码导读：从 setup.sh 到启动脚本知识学习CN编辑简报更新 2026-09-29
你将学会
- 检查安装判断
- 追踪一次本地调用
- 标明源码阅读终点
开始前需要
- 已确认内存和磁盘容量的设备
- 检查下载模型与二进制文件的权限
记录准确制品和一次正确性失败，再讨论是否可用。
先看结论
- 安装脚本会选择外部制品。
- CLI 与服务路径需要比较参数。
- 演示仓库不是全部推理实现。
检查安装判断
固定版本的 setup.sh 负责平台探测、二进制、模型下载及可选界面组件。执行前找出它读取的环境变量和写入路径。
记录哪些步骤连接外部主机、哪些文件进入缓存。重跑时若制品变化，应比较哈希和版本，不要认为相同命令总会得到同一运行时。
追踪一次本地调用
scripts/run_llama.sh 包装终端提示词调用，README 的 start_llama_server.sh 则打开服务。比较两者选择的二进制、模型和参数，再讨论 CLI 与 HTTP 输出差异。
Agent 示例脚本增加更多工具与权限。允许它执行命令或访问网络前，先查看启动边界与工具配置。
标明源码阅读终点
推理内核在独立分叉仓库，权重在另一个模型仓库。演示脚本可说明选择和编排，不能展示模型内部每一次计算。
本文没有运行脚本。实际追踪应保存命令、去除秘密后的环境、模型哈希、进程日志和观察到的回答。
如何选择
| 比较维度 | 方案 A | 方案 B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
实施步骤
- 1
打开 setup.sh 列出下载目标。
- 2
比较 run_llama.sh 与服务启动脚本。
- 3
标记独立的运行时和模型仓库。
可复制示例
text
setup.sh -> 选平台 -> 取分叉二进制和模型
run_llama.sh -> 本地提问
start_llama_server.sh -> 回环接口
实际试验时记录哈希和日志常见问题
setup.sh 包含完整训练代码吗？
不包含，它编排演示，模型文件和运行时都在别处。
本文跟踪了脚本运行吗？
没有，只阅读固定提交中的脚本。
资料来源
- Bonsai Demo / setup.sh来源核查 2026-09-29
- Bonsai Demo / scripts/run_llama.sh来源核查 2026-09-29
- Bonsai Demo / scripts/agent/run_agent_demo.sh来源核查 2026-09-29
- Bonsai Demo / README.md来源核查 2026-09-29