标签：AI安全

共 4 篇关于「AI安全」的文章。

2026年9月20日 · 提示工程

System Prompt 设计指南：身份定位、行为边界、语气风格与安全规则

系统提示词（System Prompt）定义了 AI 应用的身份、能力边界、说话方式和安全底线，是每一次对话的“隐形说明书”。本文介绍系统提示词的组成结构、各部分的写法要点、处理冲突与优先级的方法，以及常见的设计误区和安全注意事项。

2026年8月5日 · AI安全与治理

提示注入是大模型应用面临的头号安全威胁，攻击者通过精心构造的文字劫持模型行为。本文区分直接注入与间接注入，解释为什么读取网页、邮件、文档的 AI Agent 风险最高，并给出权限隔离、内容标记、输出过滤和人工确认等多层防御策略。

2026年8月1日 · AI安全与治理

红队测试是在上线前主动扮演攻击者、系统性寻找 AI 应用漏洞的方法。本文介绍大模型红队测试的目标与范围、常见攻击类别（越狱、提示注入、数据泄露、越权、有害输出），以及人工与自动化结合的测试流程和结果整改方法。

2026年7月21日 · AI安全与治理

AI 换脸视频、声音克隆电话和伪造截图让诈骗与谣言更难分辨。本文介绍深度伪造的常见形式和典型诈骗手法，说明为什么单靠肉眼和检测工具都不可靠，并给出个人防骗习惯和企业在财务审批、身份验证、舆情应对上的防范措施。