几年前，制作一段以假乱真的换脸视频需要专业技术和大量素材；如今，只需要几张照片和一段短录音，普通人就能借助现成工具生成逼真的伪造视频和语音。深度伪造（Deepfake）的门槛已经大幅降低，它被用于诈骗、敲诈、制造谣言和损害名誉。 无论个人还是企业，都需要建立新的防范意识和流程。

深度伪造的常见形式

  • 换脸视频：把一个人的面部替换到另一个人的视频中，或生成某人说了从未说过的话的视频；
  • 声音克隆：用少量录音样本模仿特定人的声音，用于电话或语音消息，相关技术背景见语音 AI 入门；
  • 实时视频伪造：在视频通话中实时替换面部和声音；
  • 伪造图片与截图：生成虚假的现场照片、聊天记录、文件截图；
  • 合成身份：用 AI 生成不存在的人的照片和资料，用于开设账户或社交诈骗。

典型诈骗手法

冒充亲友求助

骗子用克隆的声音给家人打电话，声称遇到车祸、被拘留等紧急情况，要求立即转账，同时制造紧迫感，阻止受害者核实。

冒充领导指令

伪造公司高管的声音或视频，要求财务人员紧急转账或提供敏感信息。公开报道中已经出现过利用多人视频会议伪造实施大额诈骗的案例。

名人虚假代言

伪造知名人士的视频推荐投资产品、保健品或虚假活动。

敲诈勒索

用伪造的不雅图片或视频威胁受害者付款。

为什么识别越来越难

过去可以通过一些破绽识别伪造内容：不自然的眨眼、面部边缘模糊、口型与声音不同步、光线不一致。但随着技术进步，这些破绽越来越少。

自动检测工具也面临挑战：生成技术不断迭代，检测模型往往滞后；视频经过压缩、转发后，检测所依赖的痕迹可能被破坏；检测结果通常是概率判断，存在误报和漏报。

因此，不能把防范寄托在“一眼看出真假”上，而要依靠验证流程。

个人防范习惯

  1. 对紧急转账请求保持警惕：无论对方听起来多像熟人，涉及钱财时都要通过其他渠道核实，比如挂断后主动拨打对方的已知号码；
  2. 设立家庭暗号：与家人约定一个只有彼此知道的问题或暗号，在紧急情况下用于确认身份；
  3. 提出意外问题：询问只有真实的对方才知道的细节；
  4. 控制个人素材公开：减少在公开平台上发布大量清晰的个人照片、视频和语音；
  5. 不轻信视频“眼见为实”：对来源不明的惊人视频，先查证再转发。

企业防范措施

财务与审批流程

  • 任何转账、变更收款账户的请求，无论来自谁、通过什么渠道，都必须经过独立的核实流程；
  • 大额支付实行多人审批，并通过预先登记的联系方式回拨确认；
  • 明确规定“领导通过电话、视频或即时消息要求紧急转账”不能作为付款依据。

身份验证

  • 不再把声音或视频画面作为唯一的身份验证手段；
  • 远程开户、身份核验等场景使用具备活体检测能力的方案，并结合多种验证因素。

员工培训

定期开展防范深度伪造诈骗的培训，用真实案例提高警惕性，特别是财务、人事、客服等高风险岗位。

品牌与舆情

监测网络上是否出现冒用公司高管或品牌形象的伪造内容，建立快速澄清和平台投诉的响应流程。

内容溯源

对于企业自己发布的音视频内容，可以考虑使用数字水印或内容凭证技术，便于证明真伪。AI 生成内容的标识规范见 AI 生成内容标识。

小结

深度伪造技术的普及意味着“眼见、耳听”不再等于为实。最可靠的防线不是识别技术，而是流程：涉及钱财和敏感信息时，通过独立渠道核实身份。个人养成核实习惯，企业建立多重审批和验证机制，才能有效降低深度伪造带来的风险。企业整体安全治理可参考企业 AI 治理框架。