企业使用大模型的数据隐私指南：哪些数据不能直接发给 AI

大模型工具在企业中的普及速度，往往快于企业制定规则的速度。员工为了提高效率，把会议纪要、客户资料、合同条款甚至源代码直接粘贴到各种 AI 工具中。这些数据去了哪里、会被保存多久、会不会被用于训练模型、是否违反了客户协议和法律法规，很多时候没有人想清楚。数据隐私是企业 AI 落地必须先回答的问题。

风险从哪里来

服务商侧的数据处理

数据发送给外部 AI 服务后，可能被存储用于日志、滥用监控，部分消费级产品还可能把对话内容用于模型改进。不同产品、不同版本（个人版与企业版）的数据政策差别很大。

模型输出中的泄露

如果企业基于内部数据构建了知识库问答或微调了模型，权限控制不当可能导致员工通过提问获取本无权访问的信息，参见企业知识库问答落地。

第三方插件与工具

AI 工具接入的插件、扩展和第三方服务，同样可能接触到数据。

合规风险

个人信息保护、数据出境、行业监管（如金融、医疗）都对数据处理有明确要求。把客户个人信息发送到境外服务，可能涉及数据出境合规问题。

第一步：数据分级

建立简单易懂的分级标准，让员工能快速判断：

公开数据：已公开发布的产品介绍、新闻稿等，可以在任何 AI 工具中使用；
内部数据：一般性的内部文件、会议记录，只能在公司批准的企业级 AI 工具中使用；
敏感数据：客户个人信息、合同、财务数据、未公开的业务计划、源代码，需要在受控环境中使用，或脱敏后使用；
严格禁止：密码、密钥、身份证件信息、健康信息等特殊类别个人信息、受保密协议约束的第三方资料，不得输入任何外部 AI 工具。

第二步：审查服务商数据政策

选择 AI 服务时，重点核实以下条款：

是否用于训练：输入和输出数据是否会被用于训练或改进模型，能否关闭；
保存期限：数据保存多久，是否可以要求删除；
存储位置：数据存储和处理在哪个国家或地区；
访问控制：服务商员工在什么情况下可以访问数据；
安全认证：是否通过了相关的安全和隐私认证；
子处理者：是否会把数据交给其他第三方处理。

企业版服务通常提供更严格的数据承诺，这是与个人免费版的关键区别之一。

第三步：技术保护手段

脱敏处理

在数据发送给模型前，自动识别并替换姓名、电话、证件号、地址等个人信息，用占位符代替，模型返回结果后再还原。

私有化部署

对于高度敏感的场景，可以在自有服务器或专属云环境中部署开源模型，数据不出企业边界。成本评估可参考自建大模型推理还是调用 API。

访问网关

通过统一的 AI 访问网关管理员工对外部 AI 服务的调用，实现身份认证、内容检测、日志审计和用量控制。

最小化原则

只发送完成任务所必需的数据。总结一份合同不需要附上客户的完整联系方式。

第四步：制定员工使用规范

规范要简短、具体、可执行：

列出公司批准使用的 AI 工具清单；
用具体例子说明哪些数据可以用、哪些不能用；
说明 AI 生成内容需要人工核实后才能对外使用；
明确发现数据误输入后的报告流程；
定期培训并更新规范。

单纯禁止往往适得其反，员工会转向不受控的个人工具。提供好用的、合规的企业级工具，是减少“影子 AI”的最好办法。更系统的治理框架见企业 AI 治理框架。

小结

企业数据隐私保护的核心是：分清哪些数据能用、选对服务和部署方式、用技术手段兜底、用清晰规范引导员工。这不是阻碍 AI 落地，而是让 AI 能够被放心地、长期地使用。