跳至正文
来两杯美式
返回

Agent 评测工程化(七):从评分报表到 PM 决策工作台

By 来两杯美式
发布于

前面几篇把评测引擎讲完了:Rubric 如何定义,分数如何约束,LLM-as-judge 如何稳定输出结构化结果,评测前如何还原上下文和拆解 Agent 输出。

但评测系统真正交付给团队的,不是数据库里那几张表,也不是一堆 JSON 结果,而是一份报告。

报告这一层很容易被低估。工程师天然会想:既然评分、红线、规则遵循率、问题簇和行动项都已经算出来了,把它们展示出来就行。但 PM 打开报告时,脑子里不是字段结构,而是三个问题:这个 Agent 现在是否健康?问题主要在哪里?下一步该怎么优化?

如果报告不能按这三个问题组织,它就只是一个查询页面。数据很全,但读者仍然要自己在图表和表格之间建立联系。

这一篇讲怎么把 Agent 评测报告设计成 PM 能用的决策工作台。

一、报告的读者不是只有工程师

评测系统至少有三类读者。

第一类是工程师。他们关心字段是否完整、规则是否命中、模型输出是否可靠、失败行为什么失败。

第二类是产品经理和运营。他们关心 Agent 是否健康、哪里影响体验、哪些问题值得排期。

第三类是业务负责人。他们不看明细,只想知道有没有红线、整体质量趋势如何、这次优化是否有价值。

这三类读者需要的不是同一种信息密度。

读者关心问题需要的信息形态
业务负责人是否可接受,有无风险健康结论、红线数量、核心指标
PM / 运营先改什么,为什么问题簇、优先级、行动项、证据
工程师怎么定位和复现原始对话、规则依据、验收案例、导出

报告的信息架构要让不同读者能停在自己的层级。首页给结论,详情给证据,导出给工程分析。

二、三问叙事:是否健康、问题在哪、怎么优化

评测报告最稳的阅读路径,是按三个问题组织。

Agent 是否健康?
→ 有什么问题?
→ 如何优化?

这三个问题有先后关系。读者先要知道整体状态,再看问题分布,最后才看行动建议。如果页面一上来同时摆平均分、红线表、意图图、行动项、数据质量、导出入口,读者会迷路。

首页可以拆成四块:

  1. 评测结果:健康结论、平均分、健康率、红线数、覆盖率。
  2. 优化建议:本期建议优先处理的行动项。
  3. 问题定位:问题分布、意图评分、规则遵循率。
  4. 报告附录:数据质量、版本信息、导出入口、观察区。

这不是简单的版面排序,而是在帮读者建立判断路径。

健康块回答「能不能放心」;优化建议回答「下一步动什么」;问题定位回答「为什么这么建议」;附录回答「这份报告的边界是什么」。

三、健康结论要显式,不要让读者自己算

如果报告顶部只有一排指标:平均分 4.2、健康率 82%、红线 3 条、覆盖率 96%,PM 仍然要自己判断这到底算不算健康。

更好的方式是给出显式结论,比如:

这个结论不要让 LLM 现场生成,而应该用确定性规则产生。比如:

存在红线实例 → 需干预
无红线,但问题占比超过阈值 → 需关注
其余情况 → 健康

规则可以随着业务调整,但必须显式。显式规则有三个好处:可解释、可复现、可校准。

覆盖率要放在健康结论旁边,但不要参与 Agent 质量打分。覆盖率低只说明报告可信度不足,不说明 Agent 表现差。报告文案要区分这两件事:

基于已完成诊断,本次 Agent 状态为需关注。当前覆盖率偏低,结论仅供参考。

这类措辞比单纯展示数字更安全,也更符合真实决策场景。

四、分数视图和规则视图要并存

Rubric 评测报告需要两套视图。

第一套是分数视图,用来快速判断整体质量:

第二套是规则视图,用来解释质量问题:

只有分数视图,报告会像黑盒裁判。PM 知道 3.8 分,但不知道为什么。只有规则视图,报告又太细,读者很难快速判断整体状态。

两套视图的关系应该是:分数视图负责概览,规则视图负责解释。读者先看分数,再沿着某个低分意图或高频规则下钻到证据。

五、红线报告要独立出来

红线不应该藏在评分分布里。

如果 1 分样本只有 3 条,而 2 分样本有 80 条,普通柱状图会让红线显得很小。但红线的意义不是频次,而是风险。

红线报告至少要展示:

红线的视觉层级也要高于普通问题。比如在优化建议列表里置顶,使用独立标签,在详情里展示触发的 critical 规则。

这不是为了制造紧张,而是为了避免低频高危被高频轻微问题淹没。

六、证据下钻决定报告可信度

评测报告最容易被质疑的地方是:这些结论是不是模型编的?

解决这个问题的方法不是写更长的解释,而是让每个结论都能下钻到证据。

点击平均分,能看到评分分布和样本;点击某个意图,能看到该意图下的低分对话;点击某条规则,能看到违反它的所有 rowId;点击某个行动项,能看到代表失败样本和成功对照。

一次下钻最好能展示这些字段:

这样读者可以从任何指标回到原始对话。报告的信任不是靠「相信模型」,而是靠「每个结论都能复核」。

七、行动项要从问题簇来,不要从单条样本来

报告里的优化建议应该对应问题簇,而不是单条 badcase。

单条 badcase 可以作为证据,但不能直接变成行动项。否则报告会产生大量碎片化建议,比如「这一条要说清楚一点」「那一条要多安抚」。这类建议难以排期,也难以验收。

问题簇行动项应该包含:

修改对象要尽量明确,比如:

行动项越具体,越容易进入真实需求池。

八、首页只给建议,详情页再做决策

报告里可以有人工决策状态,但不要把决策控件塞满首页。

首页的职责是帮助读者理解:健康吗,问题是什么,系统建议先处理什么。真正做「本期处理 / 继续观察 / 暂不处理」这类判断,需要看详情:根因假设、证据样本、影响范围、验收案例。

所以更好的交互是:

首页:展示行动项列表和优先级
详情:展示证据、建议、验收案例和决策控件

这个边界能避免 PM 在没有看证据前就被迫拍板。系统给建议,人做决策;报告承担理解,详情承担确认。

九、导出不是附属功能

评测报告里的导出能力很容易被当成附属功能,但它其实是闭环的一部分。

至少需要两类导出。

第一类是诊断明细导出。它包含每条样本的分数、意图、红线、未满足规则和解释,方便工程师离线分析或与业务专家复核。

第二类是验收案例导出。它来自行动项,每个问题簇生成典型失败、边界样本和成功对照,用于后续回归。

没有导出,评测结果只存在于一次报告阅读里。能导出,问题就能进入外部流程:需求评审、研发修复、人工验收、版本对比。

十、一个报告页面的推荐结构

把上面的内容拼起来,一份评测报告可以这样组织:

评测结果
  - 健康结论
  - 平均分 / 健康率 / 红线数 / 覆盖率
  - 评分分布

优化建议
  - 红线行动项
  - 主问题行动项
  - 建议修改对象汇总

问题定位
  - 意图评分
  - 违反最多的规则
  - 规则类别遵循率
  - 红线类型报告

评分与规则细节
  - Rubric 信息
  - 规则遵循明细
  - 推荐问题 / 卡片专项检查

报告附录
  - 数据质量
  - 覆盖率与失败行
  - 版本信息
  - 导出入口
  - 观察区问题

这个结构不是唯一答案,但它遵循一个原则:先让人理解状态,再让人看到建议,最后提供证据和细节。

十一、总结

Agent 评测 PM 决策工作台总结图:健康结论、问题簇、规则遵循率、红线报告、证据下钻和行动项组成可决策报告

Agent 评测报告不是把字段展示出来,而是把评测结果翻译成决策路径。

好的报告应该回答三件事:Agent 是否健康,问题主要在哪里,下一步怎么优化。平均分、规则遵循率、红线报告、问题簇、证据下钻和验收案例,都应该服务这条路径。

当报告能从管理结论一路下钻到原始对话,再从行动项导出验收案例,评测系统才真正从「分析工具」变成「决策工作台」。


分享这篇文章:
通过邮件分享这篇文章✓ 链接已复制
查看系列全部文章
  1. 01.把存量系统交给 Agent,先想清楚 API、Skill、MCP 各是什么
  2. 02.存量系统 Agent 化,物理上到底怎么「接」
  3. 03.单点跑通之后,怎么把 Agent 能力沉淀成全公司可复用
  4. 04.DeepSeek Harness:把 Agent 宿主变成可组合的基础设施,企业能拿它做什么
  5. 05.一个系统,两种访客:给浏览器和 Agent 设计同一套身份体系
  6. 06.定时是 Agent 平台的另一半:Trigger/Action Registry 与调度原语分层
  7. 07.Agent 刚才干了什么:审计、调用日志与敏感数据豁免
  8. 08.提示词安全攻防全解析:越狱、注入与信息泄露
  9. 09.给生产 Agent 做体检(一):只用对话文本的黑盒诊断工作流
  10. 10.给生产 Agent 做体检(二):诊断之前,先定义人口——数据质检与风险筛选
  11. 11.给生产 Agent 做体检(三):让 LLM 稳定输出结构化诊断——严格 JSON Schema 实践
  12. 12.给生产 Agent 做体检(四):LLM 输出不完美怎么办——归一化、一次修复与失败隔离
  13. 13.给生产 Agent 做体检(五):不要消息队列——基于数据库的任务编排与可靠性
  14. 14.给生产 Agent 做体检(六):从诊断明细到 PM 能用的报告——评估结果的产品化
  15. 15.AI Agent:从工具到同事,中间隔着一层「自主性」
  16. 16.Agent 评测工程化(一):为什么不能只看平均分
  17. 17.Agent 评测工程化(二):Rubric 不是 Prompt,而是可执行的质量协议
  18. 18.Agent 评测工程化(三):从低分样本到问题簇
  19. 19.Agent 评测工程化(四):红线、一票否决与 1-5 分
  20. 20.Agent 评测工程化(五):让 LLM-as-judge 稳定输出结构化结果
  21. 21.Agent 评测工程化(六):评测前,先把 Agent 输出拆开
  22. 22.Agent 评测工程化(七):从评分报表到 PM 决策工作台
  23. 23.Agent 评测工程化(八):不用消息队列,也能跑长任务
  24. 24.Agent 评测工程化(九):把一次性评测变成持续优化体系

上一篇
Agent Skills 最佳实践:从评测、结构拆分到安全审查
下一篇
AI Native 不是工具升级,而是组织重写