写给非安全专家的 AI 应用安全清单
当你把大模型接到业务系统，安全问题会换一副面孔：攻击者不一定破服务器，也可能通过自然语言骗过模型，让它泄露数据或调用不该调用的工具。 五类高发风险 提示注入（Prompt Injection）：用户或网页内容里藏指令，诱导模型忽略系统规则 敏感数据泄露：对话日志、检索文档、训练语料中的隐私被带出 过度代理：Agent …
当你把大模型接到业务系统，安全问题会换一副面孔：攻击者不一定破服务器，也可能通过自然语言骗过模型，让它泄露数据或调用不该调用的工具。 五类高发风险 提示注入（Prompt Injection）：用户或网页内容里藏指令，诱导模型忽略系统规则 敏感数据泄露：对话日志、检索文档、训练语料中的隐私被带出 过度代理：Agent …