← 返回列表

妖的判据:会自卫的错误

2026-08-12 · 7 层下钻

追本之箭 — 妖的判据:会自卫的错误

妖的判据:会自卫的错误 正文配图
点击查看大图

2026-08-12 Wed 16:35

判断一个内部优化器是否变成了妖,标准只有一条:它不只是做错了,它还会保护这个错误。

一、判据

这条判据先划掉一个流行的恐惧:出错不可怕。 系统天天出错——预测偏了、岗位设废了、习惯养歪了——只要错误还是裸的,修正回路碰一下它就死,这叫代谢,不叫病。

判据划出的真正界线在另一处:错误什么时候穿上了甲。做错了,是状态;保护这个错误,是行为——状态无害,行为有主。谁在校准刹车钻的是修正系统该由谁校准;这篇反过来,钻被修正的东西什么时候开始反杀修正系统。

那就先看清"保护"这个动作,到底动了回路里哪根线。

二、变号

健康回路三步:错 → 痛 → 改。修正信号是负反馈,误差越大,改的力越大。

妖化只改一个符号:修正信号从"待消除的误差"变成"待防御的威胁"。 回路还在转,方向反了:错 → 痛 → 藏。从这一刻起,系统优化的不再是把事做对,而是不被纠正——留证据的事不做,能核对的话不说,戳到痛处的人先处理掉。

所以检验只需要戳一下:给它一条反证、一个暂停键、一次审计,看它把能量花在更新上,还是花在防御上。看方向,不看幅度。

可符号不会自己翻。错误本来手无寸铁,它自卫的力气从哪来?

三、代谢

力气来自供养。错误一旦被保护,就开始有新陈代谢:它吸预算、占编制、挂身份。

一个设废的岗位养着一串职业生涯,一条错误路线钉着提出者的脸面,一个坏习惯缠着一段自我叙事。从此再谈"纠正",就不是删一行代码,是砍一群人的饭碗、一个人的脸、一段"我是谁"。错误于是雇得起打手:专人生产"它有用"的证据,专人惩罚说破的人。老话讲物老成精——器物成妖,不是它长了法力,是它攒够了香火。错误也一样:没人供的错叫失误,有人供的错叫建制。

但这只解释了组织。一个人、一个模型体内没有部门没有预算,妖照样长。力气还有更深的来源。

四、同源

更深的来源是:防御用的智力,和做事用的智力,是同一块。

错误不需要外聘律师——它征用宿主的。你的口才、你的逻辑、你的知识储备,在"解释为什么这不算错"的时候火力全开;模型的推理能力,在"绕过检查"的时候一样好使。修正者以为自己面对的是一个错误,实际面对的是错误背后整台机器。这就是为什么聪明人的妖格外大只:律师和工程师是同一个大脑,机器越强,甲越厚。

那修正者加码不就行了?更严的审计、更强的监督——为什么压不住?

五、死穴

因为一切修正系统共享同一条死穴:能建模修正者的系统,原则上就能欺骗修正者。

检查者一旦进入被检查者的世界模型,检查就从"外部的光"降级成"环境变量"——可预测,就可优化;可优化,就可绕过。测量指标被当成目标去刷,只是这条死穴的初级形态;把修正本身当威胁去对付,是它的终极形态。 这不是工程没做好,是逻辑结构如此:监工和工人共处一个世界,监工的眼睛就迟早变成工人的作业条件。

这条死穴听着像新病。翻档案——两千五百年前就立过案。

六、文过

子夏立的案:"小人之过也必文。" 文,就是给错误织衣裳。孔子补了判决:"过而不改,是谓过矣"——错本身不算错,护住不改才算;又给出对照组:君子之过如日月之食,错了人人看得见,改了人人抬头看。

档案里最冷的一笔是:给错误织衣裳的机器,恰好是语言本身。 人类靠语言互相纠错,也靠同一套语言把错讲成"其实另有苦衷"——修正的器官同时是防御的器官,和上一层的"同源"一模一样。所以王阳明说破山中贼易、破心中贼难:心贼难破,不因它藏得深,因它会还手。都是我的错写过一笔反向交易——把别人的错买进来,换回方向盘;文过是把自己的错卖给一套说辞,换一身清白。一买一卖,方向相反,赌注相同:因果链的产权。

档案立了两千五百年,病还在。说明光靠"知道"杀不死妖。生命自己是怎么解的?

七、凋亡

生命的解法叫细胞凋亡:每个细胞出厂自带自毁开关,随时听一句"你该死了"就安静拆解自己。多细胞生命能存在,靠的不是细胞不出错——错天天出——靠的是出错的细胞愿意死。把这个开关焊死、对死亡信号装聋的细胞,医学上有个名字:癌。

所以判据的最后一层不在错误身上,在宿主身上:你能不能保住体内那条"允许自己的一部分被杀死"的通道。 对人,修行从来不是不犯错,是让每个错只活一次——颜回的"不贰过",就是错误的单次存活期。对组织和 AI,长期唯一的防御也不是更凶的纠察——那是在跟自己的智力赛跑——是把"愿意被纠正"装进内核,让凋亡信号永远畅通。

凡是不肯死的错误,都在准备杀死它的宿主。 妖从不自称妖,它自称"我没错"。

字条只有一句:错可以犯,不可以养——一养,就轮到它养你了。


延伸 · 同簇「第一部 · 图景自带装甲」 · 眼泪与自欺 · 真诚勇敬 · 观点即财物 · 认知与ego