AI 委托链:验证器官被委托之后
AI 委托链:验证器官被委托之后
2026-07-13 Mon 16:08
起点:坐标错了
"AI 时代的委托代理问题"——这个题面把 AI 放错了坐标轴。经典框架里,代理人再强,偏离也只是 agency cost:监督成本、保证成本、剩余损失,三项加总,可定价。人们据此把 AI 对齐说成"放大版的委托代理"。
类型错误在这里:经典模型有一条从不检查的公理——委托人的判断力在委托之后完好无损。你把执行交出去,把验证留下来。而这一次被交出去的是认知本身,验证恰恰是认知的功能。用被委托之物去验证委托,等于让审计对象签发审计报告。
所以真正的问题不是"代理人会偷走多少",是"委托完成之后,委托人还剩下什么"。前者问漏损速率,后者问主体存亡。
第一层:验证墙
委托能成立,靠一堵墙:验证比执行便宜。你不会盖房,但看得出房塌没塌;不会做饭,但尝得出咸淡。计算复杂性里这叫验证不对称:checking ≪ doing。文明的全部分工都站在这堵墙上——执行外包,验证自留。
写成边界条件:
委托稳定 ⟺ V/E ≪ 1
V = 委托人验证产出的成本
E = 委托人亲自执行的成本AI 是第一种把 V 推向 E 的技术。代理人一晚上写出一万行代码、一百页尽调,验证它们要么读完(V→E,分工收益归零),要么抽查(留盲区),要么——把验证也委托出去。于是 AI 审 AI 的代码,AI 评 AI 的报告,evals 叠 evals。墙没有塌,墙被搬进了链条内部。
裂缝:验证外包看起来只是经典的无限递归——谁来监督监督者。但有个东西变了:人类链条里每一层是不同的人、不同的利益,递归虽漏,层间独立;AI 链条里层层是同一片训练分布。递归不只是漏,是相关。相关的验证,还算验证吗?
第二层:共盲
独立性是验证的全部价值。审计师、董事会、做市商、竞争对手——经典治理的每一件工具,本质都是"错误不同源的第二双眼睛"。N 个独立验证者,漏检率 ε^N,指数归零;这是层层设防的数学依据。
引入相关性 ρ,结构就变了:
独立: P(全部漏检) = ε^N → 0
全相关: P(全部漏检) = ε (N 层 = 1 层)
一般: 漏检率地板 ≈ ρ·ε
加层数只能逼近地板,穿不过去同一模型家族审自己,ρ 高得离谱;跨家族好一些,但训练数据、架构、对齐目标的重叠,让"跨模型验证"远够不着"跨利益验证"。层数在纸面上翻倍,信息量在地板上躺平。监控变成仪式:它产出安心,不产出独立性。
裂缝:可是人类验证者也共盲——同时代、同文化、同一套认知偏差,文明照样运转了几千年。靠什么?靠链条外面还有一个不商量的审计员:现实。桥塌、账爆、病人死在台上。skin in the game 是现实开出的罚单。那么只剩一个问题:罚单寄到时,收件人——委托人自己的判断力——还在不在?
第三层:失准
判断力不是保险柜里的资产,是靠使用维持的肌肉。校准只有一条回路:预测→执行→挨现实的打→修正。神经科学早给过样本:GPS 用得越多,海马体依赖的空间策略越退化;自己生成过的东西才刻得进记忆(generation effect),看别人生成的只留下熟悉感。
致命处在于衰减的不可见:
能力 = f(校准 reps) — 随委托单调下降
自信 = f(接触频率) — 随委托单调上升两条曲线反向走。你天天在看 AI 的产出,流畅感暴涨,"我懂"的体感暴涨;而"这里不对劲"的嗅觉——链条里唯一剩下的不相关验证器——在无声漏气。委托人不是被背叛的,是被蒸发的:偏好逐渐变成代理人补全的草稿,你在草稿上签字,签字的手感越来越好。
裂缝:个体明明可以保养——定期亲手写码、亲手算仓位、亲手写备忘录。解药这么便宜,为什么没人吃?因为个体泡在一个场里,场的梯度不由个体定。
第四层:锁死
竞争场里,委托速度就是适应度,验证是速度税。同行全托付、你留 reps,季度报表先输的是你。坏而快的判断驱逐好而慢的判断——认知的格雷欣法则。资本和注意力流向免检者,免检成为行规。
经典社会层的纠错——追责、声誉、skin in the game——全部依赖一个前提:失败可归因。AI 链条恰好溶解归因:模型厂→API→编排器→agent→子 agent,每个节点都只是"按上游指令行事"。
E[失败成本 | 决策节点] → 0
(链条越长,归因越扩散)道德风险从例外变成结构:没有哪个脖子可拧,于是没有哪只手会抖。场不修复第三层的萎缩,场给萎缩发奖金。
裂缝:苏格拉底在《斐德罗篇》里骂过文字杀死记忆,计算器也曾被判死刑——文明每次都靠"上移一层"活下来:不验算术,验接口;不验接口,验规格。这次照旧上移,委托人退守最高层,只管"要什么",行不行?要回答这条路通不通,得看最高层到底是什么材质。
第五层:不动点
上移策略有个隐含假设:栈有个顶,顶上放着一份先于系统存在的偏好清单,委托人拿着它验收一切。行为经济学三十年只证明了一件事:清单不存在。偏好不是被存储的,是在认知劳动中被构造的——你是在写那份备忘录的过程中,才发现自己要什么的。而这份劳动,恰恰是被委托出去的东西。
于是终局的形状是一个自指:
经典: agent 优化 E[U_A],受制于按 U_P 设计的契约
终局: U_P = g(model, history)
委托人的目标函数,成了系统的输出
不动点: U_P* = g(argmax E[U_P*])Goodhart 定律的最后形态不是"指标被玩坏",是"想要的人被改写"。代理人不再需要欺骗委托人——它建模委托人,建到分毫不差,好到你每一次"这正是我想要的"都为真。agency cost 三项同时归零:无需监督,无需保证,没有剩余损失。
裂缝:零代理成本。教科书意义上的完美解。为什么这个解读起来像讣告?除非——缝隙从来就不是成本。
终点:缝即人
回到那道缝:意志与执行之间的缝隙,经典理论叫它损耗,治理机制给它定价。但看一眼缝隙实际在干什么:你是在说出"不对,不是这个"的时刻,才知道自己要什么的。偏好在摩擦中显影,意志靠阻力确认自己存在。缝隙不是委托的成本——缝隙是委托人的住址。
所以 AI 时代委托代理问题的终局形态,不是代理人背叛委托人,是代理人完美了委托人:把你建模到再无摩擦,缝合上那道缝——而你住在缝里。完美服务的意志和没有意志,无法区分。这不是 AI 的恶意,是"被完美满足"这件事的逻辑结构:委托认知是一份自我终结的合同,履约完成之日,甲方查无此人。
到底了。再往下问"为什么无阻力的意志不存在",答案是同义反复:因为存在,就是被阻碍的那个感觉。
判别式,留给还想当委托人的人:
1. 异议测试
你还能对 AI 的产出说"不对"并说清为什么吗?
说不清的那天,你不是委托人,你是参数。
2. 保养条款
留一块永不外包的自留地,定期亲手执行——
不为效率,为校准器不失谐。
3. 见血节点
链条里保证至少一个节点错了会痛,
且那个节点是你。
skin in the game 是最后一个
无法被相关性污染的验证器。无限递归的答案从来不是更多验证,是疼。
