https://ai.wujiong.cc/tags/%E6%B2%BB%E7%90%86/Recent content in 治理 on AI 观察Hugozh-CNWed, 21 Oct 2026 18:21:00 +0800https://ai.wujiong.cc/posts/2026-10-21-ai-security-prompt-injection-checklist/Wed, 21 Oct 2026 18:21:00 +0800https://ai.wujiong.cc/posts/2026-10-21-ai-security-prompt-injection-checklist/<p><strong>提示注入的本质是：不可信文本试图改写模型指令或诱使工具越权。</strong> 防护要靠产品架构，而不是靠一句「你是安全的助手」。本文只列防御检查项，不提供利用步骤。</p> <h2 id="检查清单节选">检查清单（节选）</h2> <ol> <li>系统提示与用户内容、检索文档在日志与拼装上可区分。</li> <li>工具调用有白名单、鉴权与幂等；高风险操作要二次确认。</li> <li>检索进上下文的文档视为不可信，需防间接注入。</li> <li>对外展示做编码/转义，避免把模型输出当可执行内容。</li> <li>有拒答与升级人工策略；有最小审计日志。</li> <li>上线前用自有红队题库回归（内部维护，不公开攻击细节）。</li> </ol> <h2 id="设计评审提示词">设计评审提示词</h2> <div class="highlight"><pre tabindex="0" style="color:#e6edf3;background-color:#0d1117;-moz-tab-size:4;-o-tab-size:4;tab-size:4;"><code class="language-text" data-lang="text"><span style="display:flex;"><span>请根据【架构说明】对照提示注入防护清单打分：已做到/部分/缺失。 </span></span><span style="display:flex;"><span>只给控制点与缺口，不提供攻击写法。优先指出工具层越权风险。 </span></span><span style="display:flex;"><span>【架构说明】&lt;&lt;&lt;&gt;&gt;&gt; </span></span></code></pre></div><h2 id="工程提醒">工程提醒</h2> <p>本地开发也别把生产密钥塞进提示。与编程安全实践一起看，形成「模型层 + 工具层 + 数据层」三道门。</p>