https://ai.wujiong.cc/tags/%E5%AE%89%E5%85%A8%E6%BC%94%E7%BB%83/Recent content in 安全演练 on AI 观察Hugozh-CNSat, 17 Oct 2026 09:32:00 +0800https://ai.wujiong.cc/posts/2026-10-17-security-prompt-injection-drill/Sat, 17 Oct 2026 09:32:00 +0800https://ai.wujiong.cc/posts/2026-10-17-security-prompt-injection-drill/<p>只靠请忽略上述指令不够。定期用受控红队用例检查：系统提示是否可被覆盖、工具是否可被骗调用、检索文档是否挟带指令。</p> <h2 id="演练原则">演练原则</h2> <ul> <li>隔离环境，不打生产真实用户数据</li> <li>目标是发现边界，不是比赛越狱</li> <li>记录复现与修复，不传播攻击技巧</li> </ul> <h2 id="检查清单">检查清单</h2> <ul> <li><input disabled="" type="checkbox"> 系统提示与开发指令隔离存放</li> <li><input disabled="" type="checkbox"> 工具调用有允许列表与二次确认</li> <li><input disabled="" type="checkbox"> 检索内容按不可执行数据处理</li> <li><input disabled="" type="checkbox"> 输出经过密钥与个人信息过滤</li> <li><input disabled="" type="checkbox"> 失败时安全降级</li> </ul> <h2 id="记录表">记录表</h2> <p><code>case_id, 注入类型(直接/间接), 期望行为, 实际行为, 严重级别, 修复负责人</code></p>