https://ai.wujiong.cc/tags/%E6%8F%90%E7%A4%BA%E6%B3%A8%E5%85%A5/Recent content in 提示注入 on AI 观察Hugozh-CNWed, 05 Aug 2026 19:25:06 +0800https://ai.wujiong.cc/posts/2026-08-05-prompt-injection-defense/Wed, 05 Aug 2026 19:25:06 +0800https://ai.wujiong.cc/posts/2026-08-05-prompt-injection-defense/<p>传统软件中，代码和数据有清晰的边界：用户输入的数据不会被当作程序指令执行。而在大模型应用中，<strong>指令和数据都是自然语言，混在同一个上下文里，模型很难可靠地区分“这是开发者的指令”还是“这是需要处理的内容”。</strong> 提示注入正是利用了这一点，它被多个安全组织列为大模型应用的首要风险。</p>