最初发表在"异口同声"笔记上.
我管理着一小批AI特工,他们互相检查对方的工作——一个特工起草一个结论,另一个(通常来自不同的模型供应商)被要求在其中戳入漏洞.
有一阵子,我有两个房子规则 来管理这个设置, 我从字面上遵循了这两个规则, 结果他们却说相反的话。
规则一,在我关于核查计划的说明中:不能用单一的异议审查者的意见来解决结论是否正确。
在对反对采取行动之前,你需要不止一个独立的声音。
规则二 在我关于选择核查工具的笔记中, 在我的全球缺省中重复: 在普通(无负载)情况下, 别让评论员多过这个 共同阅读,这两个规则都无法通过真正的决定来生存.
如果一个审查员标出一个问题,那么在允许我改变任何事情之前,我是否需要第二个审查员(规则一),还是第一个通过已经足够(规则二)?
每次我确实有单一的反对意见,我不得不选择遵守哪条规则,我没有原则性的选择方法.
要么每一次都通过核查 悄悄地违反"一个传球就够了"的默认规则 要么我悄悄地忽略第一个规则 这两种结果都是同一种沉默的失败:一种坐落在文件中却实际上没有被遵循的规则.
窃听器不在数字里 我的第一直觉是争论数字——足够一个,还是需要两个?
曰错取出一轴.
当我真正追踪两条规则的来源时, 他们回答了我一直当作一个问题处理的不同问题。 "我能从单一来源收集出不同意见吗?","我能就这种不同意见采取行动吗?"不是同一行动,他们没有理由要求相同的法定人数.
收集反对意见是廉价和低价的。
一个评论员,一个传球,是完全足够的——因为产出还不是决定,而是假设. "这可能是错误的原因X"值得放在桌子上,即使提出它的审阅员是错误的.
你几乎一无所获 通过承认候选人的反对为证据。
将这种异议变成实际判决——推翻一个结论,改写一个规则,运送一个固定——是完全不同的行为,而这是需要真正法定人数的行为.
我的规则书现在把它说成是两行而不是一条模糊的规则: 收集需要一条腿,产生一个假说,而不是一个判断; 判断需要的是地面真实检查(原始的出处文本,实际的代码,一个实际的测量)或者从两个真正独立的行中收缩起来,只有这样,才允许你采取行动。
真正解决矛盾的部分是认识到判决需要的第二件事,根本不需要做第二审.
它可以是一个事实 检查主要来源。
我关于选择核查工具的规则已经将"关闭不确定性的途径"分入了三个截然不同的轴上——对照地面真相,通过计算引擎进行索赔,或者获得独立的模范家族的意见——并且把一个面板式的审查作为产生并驱散候选反对意见的一个步骤,而不是那三个收尾轴本身之一.
有一次,我把第二轴看成"地上真理或一分二行",而不是"一分二行,一分一分",单条持异议的腿加上一分地上真理检查是两分一轴.
它同时解决了和平时期的违约和和解要求——比一票多——的规则,因为两者实际上从来不是同一个步骤.
为何一个确认的单声道击败两个同意 有个理由,一个有事实根据的单一异议 可能比两个审查者 点头的一致, 并且它一开始不是直觉的: 两个审查者 同意同一个错误的想法 这正是你所期望的 如果他们受过训练