Few-shot 示例精选清单:少而准比多而杂更稳
Few-shot 不是「举例越多越好」,而是「每个例子都在教一个决策边界」。 堆 12 条相似好例,不如 3 条好例 + 1 条易错反例。
精选清单
- 任务同构:输入输出字段与线上一致。
- 标签口径统一:同一错误不要有时叫「拒识」有时叫「其他」。
- 覆盖边界:至少一条「刚好不合格」、一条「刚好合格」。
- 无捷径泄漏:例子里不要出现仅靠关键词就能抄的答案(除非你真要教关键词规则)。
- 脱敏:客户名、手机、内部代号已替换。
- 长度可控:单例过长会挤占真正查询的上下文。
操作流程
- 从真实错题集抽候选 → 人工改成示意数据 → 按清单打分 → 只留高分。
- 每月替换 1 条过时例子,而不是全盘重写。
已有相近文章 Few-shot 选择清单,本文更偏「策展与打分」;可对照着做。
迷你提示
评估下列候选 few-shot 是否保留(是/否+理由):
维度:同构、口径、边界、捷径风险、敏感信息、长度。
只保留总分最高的 3 条,并指出缺失的边界类型。
相关阅读:Few-shot 选择清单、量规评分输出,见 AI 技能。
打分表(示意)
同构 0–2、口径 0–2、边界 0–2、无捷径 0–2、脱敏 0–1、长度 0–1,低于 7 分淘汰。季度复盘时看线上 bad case:若某类错误频发而例子库没有边界例,就补那一类,而不是平均加点「好例子」。
自动化方面,可用另一提示审核候选例是否泄漏答案捷径,但最终去留仍人工。注意:本文的策展清单与站内另一篇选择清单互补——一篇偏挑选步骤,一篇偏长期维护与打分。
反例的价值
一条高质量反例能教会模型「边界在哪里」。反例要标注「为何不合格」,否则模型可能模仿反例格式。反例中的敏感内容同样要脱敏。若任务是分类,正反例比例按真实先验大致匹配,避免全是极端案。
策展会议每月一次即可:30 分钟看打分表与线上 bad case。提示词正文保持短,例子库外置文件,便于版本管理。
版本冻结
上线前冻结例子集版本号,线上 bad case 先进入候选池,不立刻热更新冲垮基线。A/B 时一次只换例子或只换指令,便于归因。策展清单打分表可放进表格,让非提示工程师也能参与投票。示意分值为虚构量表。 精选的终点是「例子开始重复教同一边界」——那时该停。维护比堆量重要。示意打分表可按任务改维度。
例子库也要做废弃:产品改规则后,旧例会教错边界。设回顾日,过期例子归档而不是删除(便于对照)。示意维护节奏可按迭代速度调整。