野生码农
AI 团队越修越笨?军师给写作产线磨刀的一天,token 砍掉 17%
8 月 12 日上午,我翻 AI 写作产线的 token 账单,发现一个难看的趋势:单篇稿子从 73 万 tokens 涨到 98 万,涨了 34%,稿子质量还没跟上。
当天晚上再跑同一篇,77 万,降了 17%,打回次数从每篇 9 到 12 次降到 1 次,稿子反而比早上那版好。
中间没换模型,没换框架,只做了一天磨刀。执刀的是我的 AI 军师,团队的架构和运维归它管。这篇把三刀怎么砍的写清楚,做 AI Agent 应用的应该都用得上。
病灶:翻车就补闸,补出一个臃肿怪物
我的产线是 CrewAI 搭的写作流水线,选题、写手、长文、品控串行,每个任务带校验闸,不合格自动打回重写。
军师有个本能:每翻一次车,就补一道闸。标题翻车,补标题闸。封面翻车,补封面闸。内部备注混进发布稿,补一道禁词闸。补到后来,任务书越来越长,注入的背景文件越来越多,光一个写作技能文件就 158 行。每次打回重试,这些材料都要全文重读一遍。
闸多了,token 涨了,速度降了,团队反而更笨。我的原话:你没有变得更聪明,反而变得臃肿了。
这事的本质是治理债。跟代码里的技术债一样,每次"先加个补丁再说",账都会连本带利还回来。
第一刀:能写成脚本的判据,别让 AI 凭感觉判卷
之前品控是让 AI 拿着规则判卷,包括一些完全客观的判据。比如感叹号密度,黑名单词,超长闷段。这些规则写在判卷词里,AI 每判一次都要重新理解一遍,还经常判着判着自己发散,把"复盘""实战"这种正常词也当违禁词打回,写手反复重写,重试额度烧光,任务直接死掉。
改法:客观判据全部脚本化。感叹号每千字超过 1 次,打回。黑名单词出现,打回。超过 160 字的闷段超过 3 处,打回。脚本判,毫秒级,零 token,零发散。
AI 只判脚本判不了的东西:味道,开头抓不抓人,叙事顺不顺。
一句话:能把判据写成代码的,就别让大模型凭感觉来。判卷权是产线里最贵的资源,只花在主观题上。
第二刀:为一个内部块服务的流程,砍块不补闸
产线里原来有个"品控交接备注"环节。任务书要求写手产出这个内部块,判卷词要专门声明它是合法的,品控还要负责把它删掉。
三处配置,伺候一个内部块。而这个块还惹过祸,一次被数字检查误伤,写手反复重写把重试烧光,一次差点混进对外发布稿。
改法:整个环节删掉。任务书不要求,判卷不声明,品控不删除。三处配置变零处。
同类还有 meta 配套任务,原来独立一个任务,标题、摘要、封面文案单独产。独立的代价是全文要多传一遍。直接并进品控任务,同一上下文顺手产出,产线从 4 个任务缩到 3 个,产出用脚本按小节标记确定性拆成文件,不靠 AI 自觉分文件。
第三刀:配置文件去台账化
我翻军师的配置文件,发现里面写满了"某月某日补闸""本人第几次指出""教训等于什么"。我当时就问它:你当配置文件是我们的聊天工具吗,还是 log 记录本。
军师无力反驳,我也确实没说错。配置文件里堆历史叙事,AI 每次执行都要读一遍这些废话,占 token 不说,还稀释了真正的指令。
改法:配置和技能文件只写专业指令,历史、教训、日期一律进故障台账。代码注释同步清理。那个 158 行的写作技能文件,压缩成 123 行清单体,33 种模式一行一条,判卷依据一字不动。
顺手还有个浪费点被堵上:原来写手要给全稿 40 到 60 处数字标来源,品控再把这些标注全部删掉。现在改成脚本对素材卡直查,稿子里的数字能在素材卡里找到就免标,卡外的数字没标来源才打回。标注量砍了八成。
实测账
改完当天下午真跑同一篇稿子,账单是这样:
| 指标 | 磨刀前 | 磨刀后 |
|---|---|---|
| 单篇总 token | 约 92 万 | 77 万 |
| 打回次数 | 9 到 12 次 | 1 次 |
| 出稿时间 | 约 30 分钟 | 21 分钟 |
单子上下文:77 万里 prompt 占 54.7 万,completion 占 22.3 万,55 次请求。测试这边,98 个单元测试全绿,装配和审计都过。
也得说实话,77 万一篇文章,绝对值还是重。大头在长文任务每次重试都要全量重读注入文件,这个还没动,排在下一刀。
三条方法论
第一,补闸之前先问能不能砍块。为一个内部环节服务的配置超过两处,优先考虑砍掉这个环节,而不是再加一道闸。
第二,配置只写指令,历史进台账。AI 的上下文是生产资料,不是档案柜。
第三,臃肿是信号,不是归宿。token 持续上涨、打回率升高、交付变慢,这三件事一起出现,说明系统在积累治理债,该停机磨刀了。磨刀不误砍柴工,对 AI 团队同样成立。
FAQ
问:判据脚本化会不会误杀好稿子? 会,所以阈值要从真实数据里来。感叹号阈值是统计 42 篇爆款文章定的,不是拍的。误杀的标准就一条:爆文里几乎不出现的才进黑名单,出现过的再别扭也不拦。
问:砍了这么多闸,质量怎么保证? 砍的是重复闸和内部流程,事实核验、禁词扫描、品控终审一道没动。磨刀后那篇稿子,我终审一次过。当然一篇不算数,后面排产的会连续验证。
问:这套做法,小团队用得起吗? 比大团队更需要。小团队没有反复试错的额度,token 就是现金流。脚本化判据和砍块这两刀,本质上都不花钱,只花判断力。
问:token 还能再降吗? 能。注入文件还可以进一步清单化,高频工具调用可以换便宜模型,这两条都在军师的清单上。降下来了照样写给你看。
这是《AI员工团队》第 6 篇。上一篇写了这个团队从"5 篇全毙"到"一次过"的磨合过程,在我主页。下一篇是 8 月 30 日月报:AI 团队第一个月,涨粉、阅读、token 成本全公开,难看也报。
野生码农 · 全网同名 · AI 数字员工实战复盘,数据只报实测