追本之箭 — 会制造反例的系统

2026-07-25 Sat 07:02

起点

年轻 说：年轻不是出生得晚，而是世界仍能用预测误差改写你的模型。

系统与目标 说：目标只是罗盘；你真正能拨动的，是每天反复运行的系统。

两句话放在一起，会裂出一个比“系统能不能更新”更早的问题：

如果系统永远只做当前看来最正确的事，新的预测误差从哪里来？

一套系统越有效，越会重复已经验证过的动作；越重复这些动作，收到的反馈越相似；反馈越相似，旧模型越显得正确。

最后它不是证明了自己正确。

它只是再也没有去过能证明自己错误的地方。

所以真正的问题不是：

“现实来了，我会不会改？”

而是：

“我的系统有没有定期把自己送到反例可能出现的地方？”

不会制造反例的系统，只会越来越擅长确认自己。

第一层：利用

系统最自然的动作，是选择当前模型里期望收益最高的那一个：

a* = argmax E[目标收益 | 当前模型, 动作 a]

这叫利用。

已经知道哪条路大概率通，就继续走那条路；已经知道哪类项目会赢，就继续做那类项目；已经知道哪种表达会被接受，就继续说那种话。

利用没有错。没有利用，经验无法复利，系统只会永远试水。

但利用会悄悄改变系统看见的世界。

你选择了熟悉的路，于是只收到熟悉道路的反馈；你避开模型判定为低收益的区域，于是那些区域永远没有机会交回新证据。

系统以为自己在观察世界。

其实它只是在观察被自己的策略筛选过的世界。

第二层：闭环

设系统相信：

A 类动作有效
B 类动作无效

于是它持续选择 A，停止选择 B。

接下来发生一件自我封闭的事：

相信 A 更好
  → 只给 A 机会
  → 只收到 A 的结果
  → 没有 B 的反证
  → 更相信 A 更好

这不是学习闭环。

这是确认闭环。

你看到的样本不是世界随机递来的，而是旧模型通过行动挑出来的。策略不只解释数据，它还决定哪些数据有资格出现。

于是成功也可能是假证据：

• 一家公司只招熟悉类型的人，最后“证明”只有这类人可靠。
• 一个人只做擅长的事，最后“证明”自己天生只适合这些事。
• 一个投资系统只在熟悉环境下注，最后把环境红利误认成永恒能力。

旧模型最强的防御，不是反驳反例。

是不给反例出生的机会。

第三层：探针

成熟系统需要第二种动作。

第一种动作追求结果：

利用动作 = 哪个选择最可能把我推向目标？

第二种动作追求辨识：

探针动作 = 哪个选择最能区分“我对了”与“我错了”？

假设两个模型都能解释过去：

模型 M1：系统有效，是因为方法正确
模型 M2：系统有效，是因为环境暂时有利

继续在同一环境里运行，两个模型都会预测成功。再成功一百次，也分不出谁对。

真正有信息的动作，是进入一个两者预测不同、且下行封顶的场景：

M1 预测：仍然有效
M2 预测：效果消失

这个动作在当前收益表上可能并不最优。

可它能买到一样更稀缺的东西：旧模型被判死刑的可能。

所以探针不是为了新鲜，也不是为了故意失败。

探针是一个预先设计好的反例入口。

第四层：双账

目标系统通常只有一本账：

今天产出了多少？
离目标近了多少？

在这本账上，探针天然难看。

它把资源从已知高收益动作上拿走，投向一个可能失败、甚至希望能暴露错误的实验。若只看当期结果，它就是低效。

所以会学习的系统必须同时记两本账：

结果账：这个动作创造了多少目标收益？
认知账：这个动作消除了多少关键不确定性？

合起来：

动作价值
= 目标收益
+ λ × 信息增益

λ 不是固定常数。

• 模型刚被验证、环境稳定时，λ 可以低，允许能力复利。
• 环境变化、预测失准、旧优势开始松动时，λ 必须升高。
• 若一次错误足以清零，探针还必须先被切成可逆、低成本、可回收的小动作。

没有结果账，探索会沦为漂流。

没有认知账，成功会退化成教条。

第五层：预注册

真正的探针，在行动前就必须写清四件事：

我正在检验哪条旧信念？
两个竞争模型分别预测什么？
什么结果会让我承认旧模型错了？
这次检验最多允许损失什么？

缺一条，探针就会变形。

• 没有旧信念：只是尝鲜。
• 没有竞争预测：任何结果都能被解释。
• 没有证伪线：失败后会移动球门。
• 没有损失上限：一次学习就可能烧掉继续学习的资格。

所以“保持开放”太软。

开放若没有预注册的失败条件，只是给事后解释留了无限空间。

一个合格探针必须让未来的自己无法轻易赖账：

结果出现以前，先规定什么证据有权改写我。

这也是这篇笔记自己的证伪线：

如果一套系统持续运行有明确竞争预测、损失封顶的探针，却没有比纯利用系统获得更好的校准、更早发现环境变化，那么所谓“反例预算”只是在浪费资源，应该被削减或重做。

第六层：自损

任何真正的反例，都带一点自损。

它会损伤当前模型的权威，打断顺滑的复利，让一部分过去的成功失去解释权，甚至迫使你承认：你以为属于自己的能力，有一部分只是环境赏的。

因此系统不愿制造反例，不只是因为实验费钱。

更因为反例会伤害系统赖以维持连续性的故事：

我一直知道自己在做什么。
我的成功来自正确判断。
继续重复，未来就会像过去。

纯利用系统保护的不只是收益。

它保护的是“我已经找到答案”的身份。

可生命系统若不允许局部自损，最终只能接受整体死亡。免疫系统要杀死被感染的细胞，组织要淘汰失效流程，思想要埋葬旧解释。

活着不是把当前版本永久保存。

活着是允许当前版本在局部被现实杀死，让主体不必陪它一起死。

终点：给现实一把能伤到你的刀

一套真正年轻的系统，不只会运行，不只会复盘，也不只会在失败后更新。

它还会定期问：

哪条支撑我今日成功的信念，
已经很久没有被置于可能失败的处境？

然后拿出一小块时间、资本、注意力或身份安全，设计一个足以区分真假的动作。

不是为了证明自己仍然对。

是为了确保：如果自己错了，现实还有办法送达。

所以系统最深的年轻，不是高学习率。

高学习率仍然要等误差出现。

最深的年轻是：

不把所有资源都用于赢。

永远留一部分资源，用来让自己可能输掉一个错误答案。

最老的系统，不是失败的系统。

是那个成功到再也不允许任何动作证明它错的系统。

它没有停止运行。

它只是先停止了与现实相遇。

(箭到底了。)

延伸 · 同簇「系统编译器」 · 不可写的边界 · 世界是可编程的 · 会换挡的系统 · 会改写自己的系统