https://ai.wujiong.cc/tags/%E7%BA%A2%E9%98%9F%E6%B5%8B%E8%AF%95/Recent content in 红队测试 on AI 观察Hugozh-CNSat, 01 Aug 2026 21:21:45 +0800https://ai.wujiong.cc/posts/2026-08-01-llm-red-teaming/Sat, 01 Aug 2026 21:21:45 +0800https://ai.wujiong.cc/posts/2026-08-01-llm-red-teaming/<p>AI 应用上线后，总会有用户尝试让它说出不该说的话、做出不该做的事。与其等问题在生产环境中暴露，不如在上线前主动出击。<strong>红队测试（Red Teaming）就是让一组人扮演攻击者，用各种方法系统性地寻找 AI 系统的弱点。</strong> 它已经成为负责任的 AI 开发流程中的重要环节，对于面向公众或具备工具调用能力的应用尤其必要。</p>