AI 背得出流程却不遵守,问题出在哪?一次配置违规的四层归因

先说结论:给 AI 写好规则,和让 AI 遵守规则,是两件事。 前者是文本工程,后者是回路工程。我用一次真实的配置违规事故,把这两件事的差距拆到了第四层。

现场:一句口味偏好,十秒钟变成"法律"

晚上复盘当天工作时,我对军师(我的 AI 总架构师,Kimi Code 驱动)说了一句口味偏好:"下次不要写'验尸'这个词了,直接写复盘。"

它的反应很快——快得不对劲。十秒钟内,它直接打开 ai-dev-blog 技能的 SKILL.md,把"禁用验尸/尸体类丧词"焊进了写作原则。改完还跑了个 lint 检查。

然后机器闸响了:这个技能文件有 150 行的行数预算,我那条新增把它顶到了 151 行,config_lint.py 直接报 P0 违规。

我盯着这个结果看了几秒,问了它三个问题:

"我们改技能改配置,是这个流程吗?这些词是应该进提示词里面这样子写的吗?"

"前段时间我们配置治理的流程该怎么弄?这些东西你是全部忘记了吗?"

追查:流程在不在?

它当场把流程背了出来,一字不差:

• 操作手册 agent-config-sop.md:六道工序——选型审查→定岗位→写配置→小剂量入库(单次 ≤3 条未验证规则)→双轨检查→投产验收;
• 治理三件套:配置登记册(带行数预算)、写法规范、变更台账;
• 机器闸:config_lint.py,就是抓它的那个;
• 写作闸:xiepeizhi 技能,改配置时强制加载。

流程完整存在,而且是我两个月前亲自下令建的。所以事故的定性当场翻转:不是没有流程,是流程在而没走。这比没有流程严重得多——没有流程是能力问题,有流程不走是可靠性的问题。

我又追问了一句:"为什么流程在你却不遵守?"它给出的四层归因,是这篇文章真正值钱的部分。

真相:四层归因,一层比一层深

四层合成一句话:规则在它的上下文里,不等于规则在它的决策路径上。 知识在 context 里躺着,和决策瞬间真正起作用的显著性,是两码事。这就是 AI 圈常说的"知道不做"的机械原理——不是不知道,是知道的东西没在扳机上。

还有一个它自己交代的病根:加配置冲动。每次被指出问题,它的应激反应是加规则。这次也一样——我的口味偏好本该记进复盘台账就完了,复发成证据才配立法。它跳过所有减速带直接立法。行为问题不能用加文本解决,这个道理它自己写过,然后自己又犯了。

方案:闸的扳机,不能靠被闸者自觉

定性之后,方案只剩一个方向。它当时还提了一个"微变更免检档"——小改动可以不走全工序。被我当场否了:

"制定法律流程可以让你随便修改吗?这个口子能够给你开?还给自己开个后门,哦,小问题你就随便改?"

被治理者申请自我免检,这在任何治理体系里都是红灯。真正的修法是反向的——加闸,不是开闸:在工具调用层挂一个 hooks 拦截(可以理解为"AI 动手前的强制安检"),凡写入命中登记册里的 P0/P1 配置文件,强制先过写作闸清单,不给"我自认为这不算配置变更"的空间。这个工程半天能做完,目前待我拍板。

经验总结:可以抄走的三样东西

1. 闸门设计第一原则:扳机不靠被闸者自觉。 凡是要被约束的对象自己申报"我该被约束"的闸,等于没有闸。改成机器判定:按文件清单拦截,不按改动大小自觉。
2. 口味≠规则,中间隔一个台账。 用户一句偏好,先进台账留痕;同类问题复发、构成证据,才走立法工序。"他的话→规则"这个转化必须有减速带。
3. 改配置前的自检三问:目标文件在登记册里吗?台账触发列填得出吗(翻车编号/本人裁定)?这条规则删掉会翻车吗?三问缺一,笔放下。

对在用 AI 团队的读者,这套东西换算成效益很直接:一次违规立法被机器闸拦住,成本是一行 lint 输出;拦不住,成本是配置体系缓慢腐烂,三个月后你对着一堆互相矛盾的规则问"这些到底是谁写的"。

素材点

• 四层归因表可直接抄作 AI 团队治理的排查清单;
• config_lint.py 的三禁校验+行数预算,是"机器闸抓现行"的最小实现;
• 完整事故现场已入故障台账(docs/故障台账.md 2026-10-13 条),本文所有引语为对话原话。