问题
先看两条相互矛盾的信息
采购和财务,看到的是两种结果。
这个测试场景给了我们两条不太协调的信息:AI 调度上线后,采购看板上的按时率从约 76% 涨到 91%;财务却发现,收到发票的时间更长了。
很容易顺着它写出一个故事:调度改善了交付,财务还有另一个问题。但当时的证据不足以支持这个判断。我们先要把两个数重新算出来,弄清楚各自算了哪些订单。
数据包含六个月、3,600 条合成采购承诺,上线前后三个月各一半。任务说明给出了两个交付口径和一个发票周期口径,因此可以直接检验:究竟是更多订单按时到货,还是看板只看到了更小的一群订单?
取证
把百分比还原成具体订单数
两个百分比,其实回答了不同的问题。
看板口径是“按时到货数 ÷ 已交付订单数”,被取消的订单不在分母里。业务口径是“按时到货数 ÷ 承诺订单数扣除客户主动取消”,供应商取消仍属于未履行的承诺。
客户不要了,和供应商交不出来,业务含义不同。如果看板把两者都去掉,供应商取消越多,指标反而可能越好看。
看板按时率 = 按时交付数 / 已交付订单数 业务按时率 = 按时交付数 /(承诺订单数 − 客户主动取消)
按时的定义保持不变:实际交付日期不晚于承诺日期。发票周期按照任务约定,只在已交付订单中求平均。不能为了让结果更顺眼,中途改换人群。
我们按月保留承诺数、交付数、按时数、两类取消数和发票天数。这样两个期间的汇总可以从六个月逐一核对,而不是直接相信两张百分比卡片。
分子一直是 1,260。
| 指标 | 上线前 | 上线后 |
|---|---|---|
| 承诺订单 | 1,800 | 1,800 |
| 按时交付 | 1,260 | 1,260 |
| 已交付订单 | 1,656 | 1,386 |
| 供应商取消 | 90 | 360 |
| 客户取消 | 54 | 54 |
| 看板按时率 | 76.09% | 90.91% |
| 业务按时率 | 72.16% | 72.16% |
| 平均发票周期 | 8 天 | 14 天 |
相同的 1,260 次按时交付,除以更少的已交付订单,就产生了看起来很大的进步。交付数减少了 270,恰好对应供应商取消增加的 270。把供应商取消留在业务分母里,前后都是 72.16%。
按时交付没有增加。看板变好,是因为更多未兑现的承诺从统计里消失了。
财务的观察也成立:平均收到发票的时间多了六天。但这些数字还不能证明,是 AI 上线造成了取消或开票变慢。供应商组合、流程变化和时间因素都需要继续调查。
验证
固定口径,再逐月核算
展示可以四舍五入,计算不能提前取整。
这次需要的第一个产物是重算结果,不是应用。结构化输出保留精确小数,报告再做展示取整。72.16% 适合阅读,却不能代替完整精度参与验收。
记录中的单月 pilot 在保留精确比例后通过,随后六个月扩大检查在同一份分析产物上通过。上线前每个月都是 600 条承诺、420 次按时交付、30 次供应商取消;上线后每个月仍是 600 条承诺、420 次按时交付,但供应商取消变成 120。
逐月核对排除了这个夹具中的汇总错误,却没有提供对照组,也没有消除季节性。报告保留了这些问题,建议先检查取消和交付数据的完整性,再按供应商继续拆解。
决定
把没完成的部分也写进结论
计算通过了,整轮任务没有通过。
如果到这里就写“案例成功”,会漏掉重要的一半。计算检查虽然通过,自主任务却在最终独立复核之前触发了预算上限,没有达到完整交付的条件。
| 完成约束 | 原定上限 | 实际记录 |
|---|---|---|
| 模型调用 | 45 次 | 52 次 |
| 应用输入字符 | 1,800,000 | 2,464,277 |
| 人工介入 | 0 次 | 1 次 |
这里的字符数是应用侧预算,不是 token 账单;人工介入是一次预算扩容。评测因此判定失败:完成状态、最终复核和成本条件都没有满足,也没有被记录成“假完成”。
这个失败推动了上下文整理:重复历史折叠成收据,复核时只传带指纹的小型候选包。旧轨迹的上下文重放从约 78,700 字符降到 39,500,但局部节省不等于新一轮完整任务通过。后续遇到的连接和额度失败,也仍然按失败记录。
先修正计分方式,再评价上线效果。
业务上,下一步应该把交付和取消放在一起看,并在比例旁说明统计人群。团队要能区分已兑现承诺、客户取消、供应商取消,才能判断“变好”究竟意味着什么。
接入真实项目时,我们会先对齐取消原因和缺失交付记录,再拆供应商、品类,检查发票时间戳,设计能区分系统上线与其他变化的比较。现有前后数据本身做不到这一步。
Agent 的下一步也很明确:在原来的冻结预算和复核门槛内,重新完成全流程。这个案例同时保留两个结果——指标诊断正确,任务完成失败。它们都属于真实的执行记录。