怎么判断 Pydantic AI 的产出好不好:一张评分表
Pydantic 团队推出的类型安全智能体框架——这是 Pydantic AI 最主要的用途,也是本文讨论的前提。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 成功率 | 一批测试任务中完全正确完成的比例 | 明显不合格 | 无需修改即可使用 |
| 稳定性 | 同样输入多次运行结果是否一致 | 明显不合格 | 无需修改即可使用 |
| 安全性 | 是否有越权操作或数据外泄风险 | 明显不合格 | 无需修改即可使用 |
| 成本 | 单次运行的调用次数与费用 | 明显不合格 | 无需修改即可使用 |
| 可排查性 | 失败时能否快速定位到具体步骤 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
知识库问答机器人
输入:一批产品文档和 FAQ。
用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。
交付前确认:答不出时不编造。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 Pydantic AI 的结果与人工完成或 LangGraph 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
补充练习
线索整理流程
适用情况:手头有每天从表单收到的客户咨询时。
搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。
交付前确认:不确定的情况进入人工。
竞品信息周报
准备材料:5 个竞品的公开网站或博客。
每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。
检查点:每条变化都附链接。
发票与单据提取
适用情况:手头有一批 PDF 发票或收据时。
从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。
验收标准:低置信度字段留空。
常见问题:智能体陷入循环
设置最大步数和超时,关键步骤改为固定工作流。
常见问题:误发消息给客户
对外发送前加人工审批节点,测试环境与正式环境分开。
常见问题:调用外部系统失败
增加重试和失败通知,记录请求参数便于排查。
概念补充:可观测性
记录每一步输入输出与耗时,便于排查和评估。
概念补充:工作流(Workflow)
按固定步骤执行的流程,可预测、易排错。
适合人群:数据分析师
数据分析师可以用 Pydantic AI 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
使用提醒
本文基于 Pydantic AI 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
涉及个人信息、商业机密或受监管数据时,先确认 Pydantic AI 的数据处理条款,再决定能否使用。