跳到正文

防止员工把公司数据交给AI工具

AI工具让工作快了很多,也给公司数据多开了一个出口:员工把合同粘贴进对话框,把客户名单上传去整理,把源代码交给编程助手。

这类数据外传不经过邮件和网盘,传统的防护常常看不到。需要的是三件事:清楚的数据规定、批准的AI工具,以及一份能导入过滤系统的AI工具清单。

员工输入的内容去了哪里

1员工把资料粘贴或上传给AI工具
2工具的服务器接收并处理这些内容
3内容可能被保存在对话记录中
4部分工具默认用输入改进模型
5服务器在境外时,内容随之传到境外
管控AI数据外传,先要有一份AI工具清单

AI工具库

AI工具和AI服务的域名清单,带工具类型和用途分类,用于企业了解和管控员工使用的AI工具。

  • AI工具与AI服务的域名清单
  • 工具类型与用途分类,例如写作、绘画、视频、编程
  • CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
  • 下载文件每日刷新
999 美元/年约人民币6,700元,数据订阅;OEM授权每年10,000美元起(约人民币6.7万元)
查看价格与授权提交询价

下载1000行样例数据

常见方式

用AI导致数据泄露,通常是这六种方式

员工很少是有意外传数据。多数情况下,资料是在“让AI帮个忙”的过程中离开公司的。

粘贴文本

把合同条款、邮件往来、内部报告粘贴进对话框,请AI翻译、总结或改写。

上传文件

把表格、演示文稿和客户名单整份上传,请AI分析或整理格式。

提交代码

把源代码、配置文件甚至密钥交给编程助手查错或改写。

会议转写

把会议录音上传给转写和纪要工具,内部讨论被外部服务处理。

浏览器扩展

AI扩展可以读取正在浏览的页面,内部系统里的内容也可能被一并发送。

智能体连接系统

员工授权智能体访问邮箱、网盘或业务系统,数据在员工不知情时被读取。

数据分级

哪些数据可以交给AI工具,哪些不可以

防护的起点是数据分级:先规定哪类资料可以输入AI工具,再决定放行哪些工具。下表是常见的三级划分,可以按贵司的数据分类制度调整。

级别资料举例AI工具的使用规则
不能输入客户和员工的个人信息、密钥和密码、未公开的财务数据、源代码中的核心部分不能输入任何外部AI工具,只能使用公司内部部署的工具
只能输入批准工具合同、内部报告、产品资料、一般业务邮件只能输入公司批准、企业版数据不用于训练的工具
可以输入已公开的资料、公开网页内容、不含公司信息的通用问题可以使用批准和有条件使用的工具

分级规则、审批流程和政策模板,见企业AI使用政策:管控要点与模板。

四层防护

AI管控措施:规定、工具、网络和记录

单靠任何一层都不够。只有规定没有技术,规定很难执行;只有拦截没有替代,员工会转向个人设备。四层配合,效果才稳定。

规定

写清楚数据分级、批准的工具和不能输入的资料,并告知全体员工。

工具

提供批准的AI工具,优先选择企业版数据不用于训练的版本,用公司账号统一开通。

网络

按AI工具清单在防火墙、DNS和终端上放行批准的工具,提醒或拦截其他工具。

记录

记录AI工具的访问,定期查看新出现的工具和使用趋势,调整规定和清单。

按工具信息制定规则

用AI工具的数据使用信息,决定放行还是拦截

AI工具库根据每个工具自己的用户协议和隐私政策,整理了数据使用方面的信息。这些信息可以直接变成过滤规则。

工具信息取值常见规则
默认用用户输入训练模型是、否、未说明为“是”且不能退出的,不用于任何内部资料
可选择退出训练是、否、未说明为“是”的,可在要求员工关闭训练设置后有条件使用
企业版数据不用于训练是、否、无企业版、未说明为“是”的,是批准工具的主要候选
API数据不用于训练是、否、无API、未说明公司自建应用通过API调用时参考
境内/境外境内、境外、未知处理含个人信息的资料时,按公司的跨境数据规定单独审批
AI类型、主分类AI原生或AI增强;18个大类按用途开放,例如编程类只对研发部门开放

工具的协议会变化,这些信息随AI工具库的刷新更新。字段的完整说明见AI工具库。

选择批准工具

批准哪些AI工具:七项检查

员工需要AI工具,公司就要提供可以放心使用的选择。评估一个工具能否批准时,可以逐项检查下面七点。

  • 是否有企业版或团队版,企业版是否承诺不用客户数据训练模型
  • 能否用公司账号统一开通和回收,员工离职时能否收回
  • 对话记录保存多久,管理员和员工能否删除
  • 服务器所在地是境内还是境外,是否符合公司的跨境数据规定
  • 协议中是否说明了数据的用途、保存和共享方式
  • 是否支持管理员关闭训练设置、限制文件上传等功能
  • 它能否满足员工的主要用途,避免员工再去找其他工具
按部门

按部门设定AI工具规则的示例

不同部门处理的资料不同,AI工具的规则也应有所区别。下表是一种常见的设置,可以按贵司的数据分级调整。

部门放行提醒拦截
研发批准的编程类工具(企业版)其他写作和对话类工具未批准的编程类工具和代码上传类服务
人事批准的写作类工具一般对话类工具处理简历和员工资料的未批准工具
财务批准的表格和写作工具无其他所有AI工具
市场批准的写作、绘画和视频工具其他内容生成类工具与公司规定不符的工具
其他部门批准的写作和翻译工具其他对话类工具与公司规定不符的工具
跨境数据

服务器在境外的AI工具,要多注意什么

员工把含个人信息的资料提交给服务器在境外的AI工具,可能涉及向境外提供个人信息。个人信息保护法第三章对此有专门规定。

相关规定

个人信息保护法第三十八条列出了向境外提供个人信息应当具备的条件,第三十九条要求告知境外接收方的有关事项并取得个人的单独同意。

企业的常见做法

在AI使用规定中明确:含个人信息的资料不输入服务器在境外的AI工具;确有需要时,按公司的跨境数据流程单独审批。

境内和境外只说明工具服务器的位置,用于跨境数据管控,不是对工具的评价。境内的AI工具同样要按数据分级和工具的训练说明来判断。境外服务的清单和管控方法,见境外AI服务清单。

实施步骤

六步落实AI数据外传的管控

下面的顺序适合大多数企业。先摸清现状,再定规则,最后用技术手段执行,员工的接受度会高很多。

  1. 摸清现状

    把上网日志和AI工具清单对照,弄清各部门在用哪些AI工具、用了多少。具体做法见影子AI页面。

  2. 制定数据分级

    和法务、信息安全部门一起,确定哪些资料不能输入、哪些只能输入批准工具。

  3. 选定批准工具

    按工具的训练说明、企业版条款和服务器位置,为主要用途各选定一到两个工具。

  4. 发布规定

    公布数据分级、批准工具和申请流程,说明会记录哪些信息。

  5. 导入过滤系统

    批准工具放行,有条件的工具显示提醒页,不允许的工具拦截并指向替代工具。

  6. 定期复查

    每月查看新出现的AI工具和申请,每季度复查批准清单和分级规则。

第一步的方法见影子AI:员工在用哪些AI工具。

给员工的建议

AI数据泄露防护小技巧:写给员工的八条

技术管控之外,员工的使用习惯同样重要。下面八条可以直接放进员工手册或内部培训材料。

  • 只使用公司批准的AI工具,并用公司账号登录
  • 不把客户和同事的姓名、电话、证件号码等个人信息输入AI工具
  • 不输入密码、密钥、服务器地址和内部系统的链接
  • 需要处理合同或报告时,先删去公司名称、金额和人名等信息
  • 工具提供关闭训练的设置时,按公司要求关闭
  • 不随意安装能读取网页内容的AI浏览器扩展
  • 不授权AI智能体访问公司邮箱、网盘和业务系统,除非公司批准
  • 不确定能否输入时,先问信息安全部门
能力边界

网络管控能做到的,和做不到的

按AI工具清单过滤是有效的管控手段,但它有明确的边界。了解这些边界,才能把规定、工具和技术手段配合好。

能做到

  • 知道员工访问了哪些AI工具、访问了多少次
  • 放行批准的工具,提醒或拦截其他工具
  • 按部门开放特定用途的工具
  • 发现新出现的AI工具

做不到

  • 不解密时,看不到员工输入了什么内容
  • 管不到离开公司网络的个人手机
  • 分辨批准工具中的内容是否属于不能输入的资料

离开办公室的公司电脑,可以通过终端离线过滤执行同样的AI工具规则,见终端离线过滤。网盘等其他外传渠道,见屏蔽网盘,减少数据外泄。

提醒页

提醒页上写什么,员工才会照做

对有条件使用和不允许使用的AI工具,提醒页是和员工沟通的主要窗口。一个好的提醒页通常包括下面四项内容。

为什么被提醒或拦截

说明这个工具在公司的分级,以及原因,例如默认用输入训练模型。

可以改用什么

列出同类用途的批准工具和登录方式,让员工马上有替代。

哪些资料不能输入

用一两句话重申数据分级中不能输入的资料。

怎样申请

工作确实需要时,通过什么入口申请评估或临时开通。

发生之后

员工已经把敏感资料交给了AI工具,怎么处理

即使规定和管控都到位,也可能有人误操作。事先准备好处理步骤,可以把影响降到最低。

  1. 确认工具和内容

    弄清是哪个工具、哪类资料、是否用个人账号。

  2. 按工具规则处理

    按工具自己的说明删除对话记录,关闭训练设置。

  3. 内部报告

    按公司的数据安全事件流程报告和记录。

  4. 改进规则

    调整工具分级和员工培训,避免同类情况再次发生。

产品与价格

管控AI数据外传所需的数据

AI工具库提供AI工具的域名、用途分类和数据使用信息,可以导入防火墙、DNS服务器和终端软件。中国域名分类库覆盖网盘、邮箱等其他外传渠道,两者常一起使用。

AI工具清单与数据使用信息

AI工具库

AI Tools Database

999 美元/年

约人民币6,700元

  • AI工具与AI服务的域名清单
  • 工具类型与用途分类,例如写作、绘画、视频、编程
  • CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
  • 下载文件每日刷新
  • 单一组织内部使用;产品集成另有OEM授权

数据订阅;OEM授权每年10,000美元起(约人民币6.7万元)

网盘、邮箱等其他渠道

中国域名分类库

Chinese Domain Database

9,900 美元/年

约人民币6.6万元

  • 58个网址过滤分类,每行同时带IAB内容分类2.2与3.1(最多四级)
  • 国家、网站语言、中国人气分组与全球人气分组
  • 每日更新文件,每月一次全量刷新
  • CSV、SQLite、LMDB和内存映射查询表,附C语言参考代码
  • 离线使用:查询在贵司内部完成,不连接我们的服务器

每年同价,不限终端数量

全部产品和授权条款见价格页。我们的数据文件只包含网站和工具层面的信息,不含个人数据,详见数据保护与GDPR。

询价与咨询

告诉我们您的用途和部署方式,我们在一个工作日内用邮件回复,并附上报价。

  • 按年度授权,每年同价
  • 付款到账后一个工作日内交付文件和查询工具
  • 可开具形式发票,可签署贵司的采购合同
  • 欧盟公司直接签约,数据在您的网络内离线使用

我们只用这些信息回复您的询价,不发送营销邮件,也不向第三方提供。

常见问题

用AI会导致数据泄露吗?

可能会。员工把合同、客户资料或源代码输入AI工具时,这些内容会被外部服务处理,可能保存在对话记录中,部分工具还默认用输入改进模型。是否构成问题,取决于输入了什么资料、使用的是什么工具。

怎样防止员工把公司数据交给AI工具?

四层配合:规定写清楚数据分级和不能输入的资料;提供批准的AI工具;按AI工具清单在防火墙、DNS和终端上放行批准工具、提醒或拦截其他工具;记录访问并定期复查。

ai数据泄露防护有哪些小技巧?

只用公司批准的工具和公司账号;不输入个人信息、密码和密钥;处理合同前删去公司名称、金额和人名;按要求关闭训练设置;不随意安装AI浏览器扩展;不确定时先问信息安全部门。

ai管控措施有哪些?

常见措施包括数据分级、批准工具清单、AI工具的访问控制、提醒页、按部门开放特定用途的工具、访问记录和定期复查,以及员工培训和事件处理流程。

怎样判断一个AI工具会不会用我们的数据训练?

AI工具库根据每个工具自己的协议,标出是否默认用用户输入训练模型、能否选择退出,以及企业版和API提交的数据是否不用于训练。协议没有说明的标为未说明,可以按更严格的规则处理。

服务器在境外的AI工具可以用吗?

取决于输入的资料。含个人信息的资料提交给境外服务,可能涉及个人信息保护法第三章关于向境外提供个人信息的规定。很多企业规定这类资料不输入境外工具,确有需要时单独审批。

境内的AI工具就不需要管控吗?

同样需要。境内和境外只说明服务器位置,用于跨境数据管控。境内工具也要按数据分级、工具的训练说明和企业版条款来判断能否使用。

网络过滤能看到员工输入了什么吗?

不解密时看不到,只能看到访问了哪个AI工具。所以网络管控要和数据分级规定、批准工具和员工培训配合,而不是单独依靠拦截。

AI浏览器扩展需要单独管控吗?

需要关注。能读取网页内容的AI扩展可能把内部系统页面的内容一并发送出去。可以在浏览器策略中限制扩展的安装,并在规定中写明。

员工误把敏感资料交给了AI工具,怎么办?

先确认工具、资料类型和账号,按工具自己的说明删除对话记录、关闭训练设置,再按公司的数据安全事件流程报告和记录,最后调整工具分级和培训。

批准的AI工具应该怎样选?

重点看七项:是否有企业版且承诺不用客户数据训练;能否用公司账号统一开通和回收;对话记录的保存和删除;服务器所在地;协议对数据用途的说明;管理功能;以及能否满足员工的主要用途。

常用办公软件里的AI功能,也要按这些规则管吗?

要。办公和协作软件加入的AI功能,同样会把内容交给AI处理。AI工具库把这类工具标为AI增强,可以跟随该软件的审批结果处理,必要时由管理员在软件中关闭相关功能,或在规定中写明使用范围。

AI工具库多少钱?

数据订阅每年999美元,约人民币6,700元,用于单一组织内部,下载文件每日刷新。集成进自己产品的OEM授权每年10,000美元起,约人民币6.7万元。

只管AI工具,网盘和邮箱怎么办?

网盘、个人邮箱和文件分享同样是常见的外传渠道。中国域名分类库按类别覆盖网盘与文件托管、电子邮件与即时通讯、文件共享与P2P等,可以和AI工具库导入同一套过滤系统。