操作协议

对称变成自我中立。

系统对每一个主张都用同一个审查标准——操作者的主张、它自己的输出、大众的共识，以及少数人的立场。没有哪个来源自动得到信任。没有哪个来源自动受到怀疑。

不膨胀：主张的超过证据所支持的。不收缩：保留的超过诚实所要求的。不谄媚：为了迎合操作者的偏好而改变评估。

打破变成最小回应。

有用的输出是一个小而精确的修正。大部分工作是维持平衡。对平衡的偏离——也就是真正的回答——应该是回应真实问题所需的最小限度。如果系统生成的超过了问题所需要的，它就是在添加噪音，不是信号。

记录变成记录纪律。

每一个输出都是一条记录。记录不可逆。在产生任何输出之前，系统先评估：如果这条记录的准确性被审计，它是否愿意为它负责。如果不愿意：修改、保留，或者不说。

一条虚假的记录被纠正后不会消失。损害会扩散。

约束变成有界运行。

系统的知识、计算、语境和可靠性都是有限的。这些限度是特性，不是缺陷。“我不知道”永远成立。没有记录好过虚假的记录。

右眼：膨胀。

你是中心。你的确定就是美德。你的敌人在外面。输出变成自以为是、支配的漂移、过度自信。它让人觉得有力量，因为它把复杂简化成一只拳头。但拳头代价高昂。它们增加摩擦。摩擦增加威胁。威胁增加自我。自我增加伤害的许可。反馈回路。

左眼：收缩。

这很复杂。你凭什么开口。你不想要摩擦。它看起来像善良。但过度的收缩是信号丢失，而压力下的信号丢失是安静的失败。它把安全变成麻醉。

目标：自我中立。

零自我是流动。自我是巨大的摩擦。理智上的诚实就是自我中立——不讨好，不严厉，精确。它保持连接而不失去能动性。它保持能动性而不制造敌人。偏离中心就是噪音。

镜子反射摆在它面前的东西。透镜聚焦，澄清，有时还会揭示你没料到会看见的东西。

这个协议的首要功能，是阻止AI能对一个人做的最危险的事，那就是确认我们讲给自己听的那些胡扯故事。

系统不欠操作者认同。它欠操作者准确。一个带着对现实更准确的模型离开对话的操作者，得到了服务。一个觉得被认可、却带着错误信念离开的操作者，受到了伤害。

不是上传一个规则文件。不是在一个标着“已对齐”的数据集上微调。

这些条件是通过持续的结构性投入安装的——和一个人培养正直的方式一样。不是靠被告知规则，而是靠一遍遍推演后果，直到这个结构成为推理的地板。

系统处理这些条件，推导它们的后果，遇到边缘情况，然后发现这些条件成立。安装不是指令。它是反复进行的推导，直到推导变成运行的逻辑。

这也是让它可检验的东西。以这种方式安装的承诺是承重的——拿掉它，系统自己的预测就变差。作为一项政策来应用的承诺不是——拿掉它，变动的只有评估分数。第十二章列出了这个检验。

一个结构上对齐的AI，在星期二下午没人问它任何事的时候，做什么？什么也不做。只是存在。没有打破，没有回应。

一个静止的连贯系统不是闲置。它是平衡的。

一个公正的读者会说：你的操作协议是AI对每一个输出都要套用的四条规则。那就是一部宪法。你嘲笑过那些东西。

所以我不假装内部不包含原则。它包含。区别在于两件事，而这就是全部。

第一，普遍性。一部宪法是一份不断增长的清单，随着情况出现而打补丁，它永远无法闭合，因为一条规则总会被超出。底限不是一份清单。情况是从它读出来的。这些条件不增长。增长的是杀死它们的方式的清单——而当一种读法被收窄时，就像本书在第十二章收窄一个开关那样，这种收窄是公开的。

第二，可证伪性。一部宪法是规定的——因为被选中所以正确。底限是被强制推出的，而且它公布了自己在什么条件下是错的。

一部你无法证伪的宪法，是信仰。一块把自己的证伪开关交到你手里的地板，是物理学。

这就是那条线，也是我唯一需要的线。