跳到主要内容
哒哒星球DADA PLANET

Skill · 已公开版本

agent-platform-eval-flywheel · 建立智能体评估与改进循环

构造评估数据、选择指标、分析失败并比较修复前后结果。

先看看示例

作者提供的示例,实际效果取决于你的输入和使用工具。

输入

编辑构造材料(未运行):
规则:答案必须包含订单号输入要求,缺少则失败。Q1:如何查物流?旧回答“到物流页查看”,新回答“请输入订单号,在物流页查询”。Q2:如何退款?旧/新回答均“提交申请”。

输出

编辑示例 · 未运行

case_id旧版新版依据
Q1失败通过新版明确要求订单号
Q2失败失败两版均缺订单号要求

按这条编辑给定规则,样本通过数从 0/2 变为 1/2;不能据此外推真实客服质量。

方法说明

构造评估数据、选择指标、分析失败并比较修复前后结果。

具体任务

对比两版客服代理的失败案例:构造评估数据、选择指标、分析失败并比较修复前后结果。

必需材料

带 case_id 的问题、参考答案和两版真实回答

本次质量指标与判分规则

可选材料

历史评估结果 JSON

允许的评估预算与执行环境

使用门槛

能明确什么回答算通过,具备脱敏样本;在线评估需 Google Cloud 账号。

这个 Skill 额外提供的方法

遵循构造样本、选指标、评估、分析失败、修复对比的循环,并用同一 case_id 跟踪回归。

编辑示例(未运行)

对比两版客服代理的失败案例

任务:对比两版客服代理的失败案例

输入:
编辑构造材料(未运行):
规则:答案必须包含订单号输入要求,缺少则失败。Q1:如何查物流?旧回答“到物流页查看”,新回答“请输入订单号,在物流页查询”。Q2:如何退款?旧/新回答均“提交申请”。

结果片段:
| case_id | 旧版 | 新版 | 依据 |
|---|---|---|---|
| Q1 | 失败 | 通过 | 新版明确要求订单号 |
| Q2 | 失败 | 失败 | 两版均缺订单号要求 |

按这条编辑给定规则,样本通过数从 0/2 变为 1/2;不能据此外推真实客服质量。

这是依据固定入口方法撰写的编辑示例,没有运行上游 Skill 或访问真实账号。遵循构造样本、选指标、评估、分析失败、修复对比的循环,并用同一 case_id 跟踪回归。

首次任务

请使用已安装的 agent-platform-eval-flywheel Skill。
任务:对比两版客服代理的失败案例。

我的必需材料:
- 带 case_id 的问题、参考答案和两版真实回答:[粘贴我的实际材料或路径;缺少时写明]
- 本次质量指标与判分规则:[粘贴我的实际材料或路径;缺少时写明]

可选补充:
- 历史评估结果 JSON:[可选,未提供时不要假定存在]
- 允许的评估预算与执行环境:[可选,未提供时不要假定存在]

请先确认材料是否足够,只处理我提供的范围。先评阅已有样本;合成样本和在线评估消耗算力,需确认参数与预算。不能把编辑分数当作平台跑分。交付可直接审阅的对照表,明确尚未执行或验证的部分。不要代入页面例子的虚构数据。
验收:
1. 相同样本与指标用于前后对比。
2. 每个失败能定位原回答和判分依据。
3. 在线结果、人工标注与编辑演示分别标识。

验收方法

相同样本与指标用于前后对比。

每个失败能定位原回答和判分依据。

在线结果、人工标注与编辑演示分别标识。

依赖与准备

需要完整 Skill 目录,保留 references/deployment.md、references/dataset_schema.md、references/sdk_patterns.md、scripts/parse_adk_traces.py 等引用。完整目录包含 dataset_schema、SDK patterns 及 validate_dataset.py、compare_results.py 等;云端执行需官方 SDK、认证、配额与费用预算。

使用边界

先评阅已有样本;合成样本和在线评估消耗算力,需确认参数与预算。不能把编辑分数当作平台跑分。

依赖 Google Cloud Agent Platform;合成样本与评估可能计费,执行前需确认范围。

页面中的例子为编辑撰写,未运行上游 Skill;不代表平台兼容认证或生产实测。

排错

结果无法比较:先核对样本 ID、版本与指标配置是否一致,再比较数值。

数据集校验失败:按 dataset_schema 检查 EvaluationDataset 和 response/reference 类型,不跳过校验。

固定来源

https://github.com/google/skills/blob/2964a69c4d4a27632a43d60dab5f4f645f2a82df/skills/cloud/agent-platform-eval-flywheel/SKILL.md

许可

Apache-2.0。许可原文:https://github.com/google/skills/blob/2964a69c4d4a27632a43d60dab5f4f645f2a82df/LICENSE

仓库热度

google/skills 仓库 20,504 Stars(2026-09-30 核验);这是父仓库指标,不是单个 Skill 的评分。