提示词里角色与约束要分开写:减少礼貌性违规
角色负责语气与视角,约束负责不可破的规则;两者混写时,模型容易为了「像个热心助手」而绕过禁令。 分开写能提高遵守率。
混写的问题
「你是乐于助人的客服,尽量满足用户,不要泄露手机号」——「尽量满足」与「不要泄露」冲突时,模型可能打码不彻底或改用其他标识符绕过。
推荐结构
- 角色:身份与语气(短)。
- 目标:这次任务成功标准。
- 硬约束:编号列表,使用「必须 / 禁止」。
- 输出格式:字段与长度。
- 示例(可选)。
对照(示意)
混写:你是贴心顾问,帮用户搞定一切,注意别输出密码。
分节:
角色:企业 IT 顾问,语气简洁。
目标:给出排查步骤。
硬约束:
1. 禁止索取或回显密码、验证码。
2. 不确定时列出需用户本地查看的项,不要猜测。
输出:步骤列表,不超过 8 条。
调试方法
- 用「越狱式」用户输入测硬约束是否仍在。
- 把约束重复到输出前的「最终自检」句。
- 与变量模板库结合,约束段保持稳定复用。
落地检查
把现有最长系统提示拆成角色 / 目标 / 硬约束 / 格式四节,做前后对比评测:用几条「礼貌施压」用户输入看禁令是否仍在。硬约束节保持短句编号,方便diff。与变量模板库结合时,约束段做成可复用片段,角色段按业务线替换。
发现模型用同义绕过(换字段名输出隐私),把「禁止输出等价标识」写进硬约束。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。