i-have-adhd:易读回答、适配器与证据
做一个允许结果反驳预期的回答可读性评测
设计任务、干净对照和盲审流程,优先处理阻断项,并明确区分提案与已经交付的工具。
你将学会
- 从真正能够完成的案例开始
- 先保存证据,再进行判断
- 让下一项实验回答一个小问题
开始前需要
- 基础 Git 与命令行知识
- 能够区分观测行为与未经测试的主张
解释已检查的机制,设计可撤销试验,并在不把风格当正确性的前提下理解证据。
先看结论
- 案例必须在 runner 的权限内可完成。
- 先保存原始回答,再赋予分数。
- 实验提案不等于已建立的结论。
从真正能够完成的案例开始
有价值的学习项目是可追溯的回答评测笔记,而不是缺乏依据的分数徽章。任务可包含直接回答、多步操作、概念解释、原因不明的故障和明确要求完整的列表。每个案例都要写出必要事实、允许工具及 runner 实际能够满足的成功标准。
上游禁用工具却要求编辑仓库的案例说明了这一点:不能一边不给编辑工具,一边要求评审确认已完成修改。应提供隔离工作区和已授权工具,或者只评估 runner 能产出的解释。收集答案之前就确定约定,并对两组保持一致。
先保存证据,再进行判断
评分前先保存任务编号、源码版本、模型、宿主版本、组别、轮次和原始回答。给评审展示盲化标签,把映射留在提示之外。检查必要事实是否保留、未知原因是否仍有不确定性,以及命令是否匹配声明环境。模型评审也是评审者,并非标准答案。
可以从上游正确性、自主完成、可执行性、安全性和简洁性维度出发,再为真实阅读意图添加人工检查,并保留分歧。编辑自评不能包装成用户研究;参与者若提供真实工作样例,分享或发送给模型前应取得同意并移除秘密信息。
让下一项实验回答一个小问题
一个可行扩展是比较两种故障报告规则:一种要求立刻给出原因和修复,另一种先区分观察与假设。保持任务和模型不变,检查无依据因果断言及后续任务完成情况。这是待执行的实验提案,不是本系列已经证明有效的改进。
未来交互页面可以并排展示同一任务的两份回答,并高亮遗漏。它未必需要三维场景;可访问的左右对照可能更适合阅读。当前交付范围是文章、SVG 和十四个离线适配器案例,并未交付交互评测器、付费生成运行或临床效果实验。
如何选择
| 比较维度 | 方案 A | 方案 B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
实施步骤
- 1
为案例定义必要事实和允许工具。
- 2
采集干净基线与候选回答。
- 3
盲化组别,审查遗漏和阻断项。
- 4
公布平均结果时一并说明限制。
可复制示例
{
"caseId": "完整列表",
"allowedTools": [],
"requiredFacts": [
"保留所有要求的项目",
"标明未知数值"
],
"conditions": [
"baseline",
"candidate"
],
"trialsPlanned": 3,
"executed": false
}常见问题
页面已有 Three.js 评测器吗?
没有;交互对照仍是提案,当前页面使用静态、可访问 SVG。
模拟读者评分能证明收益吗?
不能;它是编辑检查,不是独立观测结果。
资料来源
- i-have-adhd / evals/README.md来源核查 2026-09-12
- i-have-adhd / evals/RESULTS.md来源核查 2026-09-12
- i-have-adhd / evals/rubric.md来源核查 2026-09-12