标签：红队测试

大模型红队测试入门：如何系统地找出 AI 应用的安全问题

红队测试是在上线前主动扮演攻击者、系统性寻找 AI 应用漏洞的方法。本文介绍大模型红队测试的目标与范围、常见攻击类别（越狱、提示注入、数据泄露、越权、有害输出），以及人工与自动化结合的测试流程和结果整改方法。