跳到正文

影子AI:员工在用哪些AI工具

员工把合同交给在线翻译,把代码贴进编程助手,把会议录音上传给转写服务。这些AI工具大多没有经过公司批准,信息部门也不知道公司里到底在用哪些。

AI管控的第一步不是一刀切地禁止,而是先看清楚:员工在用哪些AI工具,服务器在境内还是境外,输入的内容会不会被用来训练模型。

AI原生与AI增强的工具分开标注
境内/境外服务器所在地,用于跨境数据管控
训练说明来自工具自己的协议和政策
每日刷新CSV和JSON格式
先知道员工在用哪些AI工具

AI工具库

AI工具和AI服务的域名清单,带工具类型和用途分类,用于企业了解和管控员工使用的AI工具。

  • AI工具与AI服务的域名清单
  • 工具类型与用途分类,例如写作、绘画、视频、编程
  • CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
  • 下载文件每日刷新
999 美元/年约人民币6,700元,数据订阅;OEM授权每年10,000美元起(约人民币6.7万元)
查看价格与授权提交询价

下载1000行样例数据

定义

影子AI是什么

影子AI,是指员工在工作中使用、但没有经过公司评估和批准的AI工具和AI功能。它是“影子IT”在AI时代的新形式。

独立的AI工具

写作、翻译、绘画、视频、编程和对话类的AI网站和应用,员工用个人账号直接使用。

常用软件里的AI功能

办公、设计、协作和客服软件陆续加入AI功能,员工往往没意识到自己在使用AI。

自动化和智能体

能自动执行任务的智能体和自动化工具,可能代替员工访问公司系统和数据。

对比项影子IT影子AI
典型例子未经批准的网盘、协作和项目管理软件未经批准的AI写作、翻译、编程和转写工具
数据去向文件存放在外部服务输入的内容被外部服务处理,可能被保存或用于训练
出现速度较慢,新服务数量有限很快,新的AI工具不断出现
发现难度中等,服务数量相对固定较高,很多AI功能藏在常用软件里
原因

影子AI为什么普遍,又为什么难发现

影子AI并不是员工有意违规。多数情况下,员工只是想把工作做得更快,而公司还没有给出明确的工具和规则。

工具多、更新快

新的AI工具几乎每天都在出现,手工整理的清单很快过时。

容易获得

多数工具打开网页就能用,不需要安装,也不需要信息部门开通。

藏在常用软件里

AI功能嵌入在已批准的软件中,日志里看到的是熟悉的域名。

日志里认不出

上网日志只有域名,很多AI工具的域名看不出是AI服务。

没有明确规定

公司没有说明哪些工具可以用、哪些数据不能输入,员工只能自己判断。

没有批准的替代

公司没有提供批准的AI工具,员工自然会找外部的工具。

常见场景

各部门常见的影子AI场景

影子AI在每个部门的表现不同。下表列出常见的使用场景,以及这些场景中通常涉及的资料,便于和各部门沟通时有的放矢。

部门常见用法可能涉及的资料
研发用编程助手写代码、查错误、生成测试源代码、接口文档、配置文件
法务与采购翻译和总结合同,起草条款合同、报价、供应商信息
销售与客服润色邮件,整理客户沟通记录客户名单、联系方式、沟通记录
市场生成文案、图片和视频素材未发布的产品信息和活动计划
人事撰写职位描述,筛选和总结简历应聘者和员工的个人信息
管理层转写会议录音,生成会议纪要经营数据和内部决策

这些用法大多能提高效率。管控的目标是让它们在批准的工具中、按规定的数据范围进行,而不是让员工停止使用AI。

关注点

AI应用安全风险管控:要关注哪几件事

影子AI本身不等于问题。需要管控的,是员工输入的数据去了哪里、会被怎样处理。下表列出主要的关注点,以及判断时需要的信息。

关注点怎样发生判断时需要的信息
输入内容离开公司员工把合同、代码、客户资料粘贴或上传给AI工具员工在用哪些工具、用于什么用途
输入内容被用于训练部分工具默认用用户输入改进模型工具是否默认用输入训练,能否选择退出
跨境数据工具的服务器位于境外,输入的内容随之传到境外服务器所在地,境内还是境外
个人账号员工用个人账号使用,公司无法管理和回收是否有企业版,企业版是否承诺不用客户数据训练
个人信息输入内容中包含客户或员工的个人信息公司的数据分级和AI使用规定

境内和境外只说明工具服务器的位置,用于跨境数据管控,不是对工具的评价。境外服务的管控思路,见境外AI服务清单。

第一步:发现

从上网日志中找出员工在用的AI工具

大多数企业已经有防火墙、DNS服务器或终端软件的日志。把日志中的域名和AI工具库对照,就能得到一份公司内部的AI工具使用清单。

  1. 汇集日志

    导出最近一到三个月的防火墙、DNS或终端日志,至少包括时间、来源和访问的域名。

  2. 对照AI工具清单

    用AI工具库中的域名逐条匹配,标出每次访问对应的工具名称、AI类型和主分类。

  3. 补上数据使用信息

    为每个工具补上服务器所在地、境内或境外,以及是否默认用用户输入训练模型等信息。

  4. 按部门汇总

    按部门、工具类型和访问次数汇总,找出使用最广的工具和使用最集中的部门。

  5. 和部门沟通

    了解员工用这些工具做什么,哪些确实提高了效率,哪些可以由批准的工具替代。

这一步只需要日志和AI工具清单,不需要新设备,也不需要立即拦截任何工具。日志的整理方法,见上网行为审计与日志留存。

数据字段

AI工具库里,每个工具有哪些信息

AI工具库每行是一个AI工具或AI服务。除了域名和分类,还整理了每个工具自己的用户协议和隐私政策中关于数据使用的说明。

字段说明管控时怎样用
工具名称与域名工具的名称和网站域名导入防火墙、DNS和终端,匹配日志
AI类型AI原生:以AI为核心的产品;AI增强:在原有产品中加入AI功能AI增强的工具往往不必整体拦截
主分类写作、绘画、视频、编程、智能体等18个大类之一按用途制定规则,例如编程类只对研发开放
网站语言工具网站的主要语言了解工具面向的用户
服务器所在地、境内或境外工具网站服务器所在的国家或地区跨境数据管控
默认用用户输入训练模型根据工具自己的协议:是、否或未说明判断输入内容会不会被用于训练
可选择退出训练用户能否选择不让自己的数据用于训练决定是否要求员工关闭相关设置
企业版、API数据不用于训练企业版或API提交的数据是否不用于训练选择批准工具时的重要依据

字段的完整说明和1000行样例,见AI工具库产品页。

第二步:分级

从发现到管控:把AI工具分成三级

有了使用清单和每个工具的数据信息,就可以按公司的规定把AI工具分级。下面是常见的三级做法。

批准使用

公司评估过、签了企业协议的工具。企业版数据不用于训练,服务器位置符合公司的数据规定。

动作:放行,并在规定中列出。

有条件使用

可以使用,但不能输入内部资料和个人信息的工具,或只对特定部门开放的工具。

动作:提醒页说明条件,或按部门放行。

不允许使用

与公司数据规定不符,或已有批准工具可以替代的同类工具。

动作:拦截,提醒页指向批准的替代工具。

工具的情况常见归类
有企业版,企业版数据不用于训练,已签企业协议批准使用
默认用用户输入训练,但可以选择退出有条件使用,要求员工关闭训练设置并不输入内部资料
服务器在境外,用于处理含个人信息的资料按公司的跨境数据规定单独审批
协议中没有说明数据使用有条件使用或不允许,取决于用途
常用软件中的AI增强功能跟随该软件的审批结果,必要时在软件中关闭
第三步:执行

在防火墙、DNS服务器和电脑上执行AI管控

AI工具库以CSV和JSON交付,可以直接导入现有的过滤系统。按三级分好之后,执行方式和普通的网站类别规则一样。

执行位置怎样导入适合
防火墙按级别生成外部域名列表或自定义分类办公网的统一管控
内部DNS服务器不允许的工具生成拦截规则,有条件的指向提醒页分支机构和小办公点
终端软件在电脑本机匹配AI工具的域名居家和出差的电脑
日志与报表每月对照一次,发现新出现的AI工具持续发现影子AI

DNS和终端上的做法,见企业DNS过滤和终端离线过滤。

配套规定

技术管控之外,还需要一份AI使用规定

只拦截不说明,员工会转向手机和个人设备。技术管控要和公司的AI使用规定配合,规定写清楚下面四件事。

可以用哪些工具

列出批准使用和有条件使用的工具,以及各自适用的部门和用途。

哪些数据不能输入

按公司的数据分级,说明哪些资料不能输入任何外部AI工具。

怎样申请新工具

员工发现好用的新工具时,通过什么流程申请评估和批准。

怎样记录和复查

公司记录哪些信息、多久复查一次清单,并事先告知员工。

规定的要点和模板,见企业AI使用政策:管控要点与模板;防止员工把公司数据交给AI工具的具体做法,见防止员工把公司数据交给AI工具。

持续发现

影子AI不是一次就能查完的

新的AI工具不断出现,常用软件也在陆续加入AI功能。AI管控需要一个持续的节奏,而不是一次性的清查。

  1. 每天

    加载AI工具库的每日刷新,新工具自动进入匹配范围。

  2. 每周

    查看新出现的AI工具访问和员工的申请,及时归类。

  3. 每月

    按部门汇总AI工具的使用,向管理层报告趋势。

  4. 每季度

    复查批准清单和规定,根据工具协议的变化调整分级。

产品与价格

发现和管控影子AI所需的数据

AI工具库提供AI工具的域名、类型、用途分类和数据使用信息,数据订阅每年999美元。很多企业同时选择中国域名分类库,用同一套过滤系统管理AI工具和其他网站类别。

发现和管控AI工具

AI工具库

AI Tools Database

999 美元/年

约人民币6,700元

  • AI工具与AI服务的域名清单
  • 工具类型与用途分类,例如写作、绘画、视频、编程
  • CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
  • 下载文件每日刷新
  • 单一组织内部使用;产品集成另有OEM授权

数据订阅;OEM授权每年10,000美元起(约人民币6.7万元)

同时按类别管理上网

中国域名分类库

Chinese Domain Database

9,900 美元/年

约人民币6.6万元

  • 58个网址过滤分类,每行同时带IAB内容分类2.2与3.1(最多四级)
  • 国家、网站语言、中国人气分组与全球人气分组
  • 每日更新文件,每月一次全量刷新
  • CSV、SQLite、LMDB和内存映射查询表,附C语言参考代码
  • 离线使用:查询在贵司内部完成,不连接我们的服务器

每年同价,不限终端数量

全部产品和授权条款见价格页。

询价与咨询

告诉我们您的用途和部署方式,我们在一个工作日内用邮件回复,并附上报价。

  • 按年度授权,每年同价
  • 付款到账后一个工作日内交付文件和查询工具
  • 可开具形式发票,可签署贵司的采购合同
  • 欧盟公司直接签约,数据在您的网络内离线使用

我们只用这些信息回复您的询价,不发送营销邮件,也不向第三方提供。

常见问题

影子AI是什么?

影子AI是指员工在工作中使用、但没有经过公司评估和批准的AI工具和AI功能,例如用个人账号使用在线翻译、写作、编程和转写工具。它是影子IT在AI时代的新形式。

影子AI有什么问题?

主要是数据的去向不清楚:员工输入的合同、代码和客户资料被外部服务处理,可能被保存或用于训练模型;工具的服务器在境外时,还涉及跨境数据。公司也无法管理员工的个人账号。

怎样知道员工在用哪些AI工具?

把防火墙、DNS服务器或终端软件日志中的域名,和AI工具清单逐条对照,就能得到公司内部的AI工具使用清单,再按部门、工具类型和访问次数汇总。

ai管控是不是要禁止所有AI工具?

不需要。更常见的做法是分三级:批准使用、有条件使用和不允许使用。公司提供批准的工具,说明哪些数据不能输入,只拦截与规定不符的工具。

AI工具库里的境内和境外是什么意思?

境内表示工具网站的服务器位于中国大陆,境外表示位于其他国家或地区。它只说明服务器位置,用于跨境数据管控,不是对工具的评价。

怎样判断一个AI工具会不会用员工输入训练模型?

AI工具库根据每个工具自己的用户协议和隐私政策,标出是否默认用用户输入训练模型、能否选择退出训练,以及企业版和API提交的数据是否不用于训练。协议没有说明的标为未说明。

常用软件里的AI功能也算影子AI吗?

算。办公、设计和协作软件加入的AI功能,员工往往没意识到在使用AI。AI工具库把这类工具标为AI增强,管控时通常跟随该软件的审批结果,必要时在软件中关闭相关功能。

新出现的AI工具怎样及时发现?

AI工具库的下载文件每日刷新,新工具自动进入匹配范围。建议每周查看一次新出现的AI工具访问,及时归入三级中的一级。

AI工具清单可以导入哪些系统?

AI工具库以CSV和JSON格式交付,可以导入防火墙的外部域名列表或自定义分类、DNS服务器的拦截规则和终端软件,也可以用于日志分析。

只用AI工具库,不用网站分类库可以吗?

可以,AI工具库可以单独订阅。很多企业同时选择中国域名分类库,因为网盘、邮箱等其他数据外传渠道也需要按类别管理,两者可以导入同一套过滤系统。

AI工具库多少钱?

数据订阅每年999美元,约人民币6,700元,用于单一组织内部。集成进自己产品的OEM授权每年10,000美元起,约人民币6.7万元。

影子AI和影子IT有什么区别?

影子IT指未经批准的软件和云服务,例如网盘和协作工具,主要问题是文件存放在外部。影子AI指未经批准的AI工具,员工输入的内容会被外部服务处理,可能被保存或用于训练,新工具出现得也更快。

员工用手机访问AI工具,能管到吗?

连接公司网络的手机,可以通过公司DNS服务器或防火墙按AI工具清单管理;离开公司网络的个人手机不在公司网络的管理范围内。所以技术管控之外,还需要明确的AI使用规定和批准的替代工具。

研发部门离不开编程助手,应该怎样管?

常见做法是为研发部门批准一到两个编程类工具,优先选择企业版数据不用于训练的版本,用公司账号统一开通;同类的其他编程工具设为有条件使用或不允许,并在规定中写明源代码和密钥不能输入外部工具。

影子AI的月度报表应该包括什么?

通常包括:各部门访问的AI工具和次数,新出现的AI工具,按境内境外和是否默认用输入训练的分布,以及拦截和提醒的次数。报表按部门汇总,不必列出个人明细。

查日志找影子AI,需要告知员工吗?

上网日志包含员工的个人信息,建议把AI使用规定和日志的记录、查看方式写进公司制度,事先告知员工处理的目的、方式和保存期限。