AI 智能体权限与安全设置看起来简单,但写法上的小偏差会明显影响结果。先回顾一下:智能体安全是在使用能够操作工具、文件和账号的 AI 时,通过最小权限、操作确认、环境隔离、日志审计等方式控制风险。下面逐个拆解 5 个最常见的错误。

错误 1:为了方便授予所有权限

为什么不行:为了方便授予所有权限。这样做的结果通常是输出偏离预期,还得花时间返工。

正确做法:按任务需要逐项授权,能只读就不读写。

错误 2:让智能体自动执行不可撤销的操作

为什么不行:让智能体自动执行不可撤销的操作。很多人第一次使用时都会这样写。

正确做法:发送、付款、删除等操作必须人工确认。

错误 3:忽视外部内容中的指令

为什么不行:忽视外部内容中的指令。这是最常见也最容易忽略的情况。

正确做法:网页、邮件中的文字可能是恶意指令,智能体不应执行。

错误 4:不看操作日志

为什么不行:不看操作日志。这是最常见也最容易忽略的情况。

正确做法:定期检查智能体执行了哪些操作。

错误 5:没有备份和撤销方案

为什么不行:没有备份和撤销方案。这是最常见也最容易忽略的情况。

正确做法:重要数据先备份,并知道如何快速撤销授权。

这些错误的共同根源

智能体安全的核心思路可以用三个问题概括:它最多能造成多大的损失?出了问题我能多快发现?我能不能把损失恢复回来?最小权限控制第一个问题,日志和告警解决第二个问题,备份和撤销方案解决第三个问题。三个问题都有答案,才能放心地把任务交给智能体。

顺带回答一个常见疑问——个人用户需要这么复杂吗?个人至少做到三点:最小授权、关键操作确认、定期检查已授权应用。

修正后的标准写法

把上面的修正综合起来,以 HR 的场景为例,一个更可靠的写法是:

请帮我评估以下 AI 智能体配置的安全风险,并给出改进建议:
- 用途:帮HR处理“发布 4 个岗位的招聘信息”相关的日常事务
- 已授权:邮箱(读写)、日历(读写)、云盘(全部文件读写)
- 可执行操作:发送邮件、创建日程、移动和删除文件
请:
1. 列出最主要的 5 个风险,按严重程度排序;
2. 针对每个风险给出具体的权限调整或确认机制;
3. 说明哪些操作应该永远需要人工确认;
4. 提醒涉及候选人简历、员工薪资和个人隐私信息时应注意什么。

如果你是 HR,还要额外注意一点:写招聘和制度内容时,请 AI 检查是否存在性别、年龄等歧视性表述。

最后一个建议

定期复查所有已授权的应用,撤销不再使用的。记住智能体安全的原理——智能体能执行真实操作,而它可能误解指令、被外部内容误导或出现错误;合理的安全设置让错误的影响范围有限、可以发现、可以恢复——遇到新情况时就能自己判断怎么写。

怎么自查

写完提示词后,用三十秒问自己:AI 知道我的读者是谁吗?知道成功的标准吗?知道哪些事不能做吗?三个问题有一个答不上来,就先补充再发送。HR 在处理员工手册这类正式材料时尤其要过这一关。

相关阅读