AI工具库
AI工具库收录AI工具和AI服务的域名,带大类与子类、网站语言和境外服务标记。按类别导入防火墙、DNS过滤、上网行为管理设备或终端安全软件,执行贵司自己的AI使用规定。
- AI工具与AI服务的域名清单
- 工具类型与用途分类,例如写作、绘画、视频、编程
- CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
- 下载文件每日刷新
AI管控为什么从一份境外AI服务清单开始
很多企业已经有网址过滤,但AI服务的变化比普通网站快得多。只靠员工自觉或几条手工黑名单,很难回答三个基本问题:员工在用什么,数据去了哪里,哪些可以继续用。
影子AI
员工用个人账号注册AI服务,IT部门并不知道。这些使用不在采购流程里,也没有签过数据处理条款。
数据跨境
很多面向境外市场的AI服务,服务器和数据存储位于境外。员工粘贴的合同、代码或客户资料,会随请求一起传到境外。
训练用途
有的服务在条款中写明会用用户输入改进模型,有的提供关闭选项或企业版。不同服务差别很大,需要逐个了解。
新服务不断出现
手工维护的黑名单很快就会过时。按类别管理时,新服务进入清单后,自动套用同一条规则。
员工在什么场景下把公司数据交给AI工具
搜索“AI数据泄露”的企业,关心的大多是下面这些日常场景。表中最后一列是清单里对应的大类,方便按类别制定规则。
| 常见场景 | 可能涉及的数据 | 清单中的相关大类 |
|---|---|---|
| 让AI助手润色合同、邮件或报告 | 合同条款、客户名称、内部数字 | 文本与语言 |
| 把代码贴给编程助手排查问题 | 源代码、接口密钥、数据库结构 | 编程与开发 |
| 上传会议录音,自动生成纪要 | 讨论内容、参会人员、决策事项 | 效率与协作,音频、语音与音乐 |
| 上传PDF或内部文档,让AI总结 | 内部报告、制度文件、财务数据 | 搜索、知识与文档 |
| 上传产品图片,生成营销素材 | 未发布的产品外观和设计稿 | 图像与视觉,设计、3D与创意 |
| 把客户数据表交给AI做分析 | 客户名单、联系方式、销售数据 | 数据、分析与研究 |
| 授权AI智能体处理邮件和文件 | 邮箱、网盘和业务系统的账号权限 | 智能体与自动化 |
| 用AI工具处理客户咨询和销售线索 | 客户对话记录、订单信息 | 客户服务,营销、销售与SEO |
这些场景大多不是故意的,员工只是想更快完成工作。所以AI应用安全风险管控不能只靠拦截,还要给出公司批准的替代工具和清楚的使用规定。
境外AI服务清单收录什么:18个大类,超过1.2万个服务
清单按用途把AI服务分成18个大类、165个子类。每个服务按主分类计入一个大类,下表的数量随每日更新变化,所以写成约数。
清单的定义
在AI工具库中,网站不是中文的AI工具和AI服务,归入面向境外市场的AI服务,目前超过1.2万个。网站语言说明服务主要面向哪些市场。
网站语言不等于数据一定存储在境外。数据实际存储在哪里,看每条记录的境外服务标记。
| 大类 | 服务数量 | 包括的子类(举例) | 管控时常关注的数据 |
|---|---|---|---|
| 图像与视觉 | 超过1,300个 | 文生图、图像编辑与局部重绘、商品图与样机、OCR与图片转文字 | 未发布的产品图片、设计稿、扫描的单据 |
| 文本与语言 | 超过1,100个 | 通用助手与聊天机器人、写作与长文、翻译与本地化、摘要总结 | 合同、邮件、内部报告和客户沟通 |
| 智能体与自动化 | 超过1,100个 | 通用自主智能体、AI工作流自动化、浏览器智能体与网页自动化、个人AI助理 | 邮箱、文件夹和业务系统的账号授权 |
| 营销、销售与SEO | 超过1,000个 | 社交媒体管理、广告创意与投放优化、邮件营销与个性化、CRM智能与线索评分 | 客户名单、联系方式和销售数据 |
| 视频 | 约890个 | 文生视频、AI视频剪辑、数字人与虚拟主播、字幕生成 | 内部培训视频、员工肖像和声音 |
| 行业与商业应用 | 超过830个 | 人力资源与招聘、法律、财务与会计、采购与供应链 | 简历、合同、财务和供应商信息 |
| 编程与开发 | 约700个 | 编程助手与代码补全、自主编程智能体、SQL与数据库查询、UI生成与设计稿转代码 | 源代码、接口密钥、数据库结构 |
| 生活与娱乐 | 约690个 | AI陪伴与角色对话、旅行规划、烹饪与菜谱、健康、健身与营养 | 与工作数据关系不大,主要涉及上班时间和带宽 |
| 数据、分析与研究 | 超过650个 | BI与自然语言分析、数据清洗与准备、文档数据抽取、学术研究助手 | 客户数据表、销售和财务报表 |
| 模型与基础设施 | 超过600个 | 模型托管与推理平台、向量数据库与嵌入、微调与训练、GPU云与算力 | 通过接口批量发送的业务数据 |
| 音频、语音与音乐 | 约600个 | 语音合成(文字转语音)、语音转文字与转写、声音克隆、播客工具 | 会议录音、电话录音和员工声音 |
| 客户服务 | 约580个 | 客服机器人与AI服务台、语音与呼叫中心智能体、工单分派与坐席辅助 | 客户对话记录和订单信息 |
| 搜索、知识与文档 | 约470个 | AI搜索与问答引擎、企业搜索与知识管理、文档与PDF对话、笔记与知识库 | 上传的内部文档和知识库内容 |
| 效率与协作 | 约450个 | 会议助手、演示文稿与PPT生成、表格AI、邮件管理与分拣 | 会议内容、日程和邮件 |
| 教育与学习 | 约450个 | AI辅导与个性化学习、语言学习、课程与教案制作 | 一般较少涉及公司数据 |
| 设计、3D与创意 | 约220个 | UI/UX设计助手、3D模型与素材生成、建筑与CAD、字体与排版 | 设计稿、图纸和产品模型 |
| 安全与检测 | 约200个 | AI生成内容检测、反欺诈、内容审核、隐私与个人信息脱敏 | 送检的文件和样本 |
| 机器人与具身智能 | 约60个 | 机器人平台与机器人基础模型、计算机视觉与边缘视觉、物联网与智能家居AI | 摄像头画面和设备数据 |
和普通的url库一样,这份清单把域名对应到类别,只是对象换成了AI服务。url库的基本概念见url库是什么意思。
每条记录有哪些字段,管控时怎么用
清单中的每条记录对应一个AI服务。下表说明各字段的含义,以及它们在制定策略时的用途。
| 字段 | 含义 | 管控中的用途 |
|---|---|---|
| 域名 | 服务的根域名,例如 example.com,全部小写 | 导入防火墙、DNS过滤和终端软件时的匹配对象;导入时选择同时匹配子域名 |
| 名称 | 服务的名称 | 在报表、拦截页面和员工告知中显示,便于识别 |
| 大类与子类 | 18个大类、165个子类,按用途划分,每个服务有一个主分类 | 按类别建立策略,例如“编程与开发”只对研发部门放行 |
| AI类型 | AI原生:以AI为核心的服务;AI增强:在原有软件中加入了AI功能 | AI增强的服务往往是日常办公软件,通常不宜整体拦截,更适合用使用规定管理 |
| 网站语言 | 网站的主要语言 | 判断服务主要面向哪些市场,也是这份境外AI服务清单的划分依据 |
| 数据存储地点与训练用途 | 服务条款中写明的数据存储地点,以及是否把用户输入用于训练模型、能否选择退出、企业版和API数据是否用于训练;条款没有写明时标为“未说明” | 确定“有条件放行”的条件,例如只允许使用条款写明不用于训练的企业版 |
| 境外服务标记 | 数据存储或服务器位于中国大陆以外时标为“境外”,例如中国香港、新加坡、美国或欧洲国家;无法确定时标为“未知” | 涉及数据跨境的策略,直接按这个字段筛选 |
“未知”和“未说明”不是空白。它们表示这一项暂时无法确定,或者服务没有写明。常见做法是先按更严格的规则处理,再由IT部门逐个确认。
名称在样例和正式数据里。本页只按类别说明,不列具体服务。想看真实记录的样子,可以下载下面的1000行样例。
AI工具库样例(1000行)
真实的工具名称、域名、AI类型、主分类、网站语言、服务器所在地、境内或境外,以及训练用途相关字段。
怎样把清单导入防火墙、DNS过滤和终端软件
清单以CSV和JSON两种格式交付,下载文件每日刷新。常见做法是按大类和境外服务标记拆成几个域名列表,每个列表对应设备里的一个自定义类别或一条规则。
防火墙
为每个需要单独处理的大类建立一个自定义URL类别,导入对应域名,再在安全策略中引用。
标记为“境外”的域名可以单独建一个类别,方便按数据跨境的要求处理。
DNS过滤
把要拦截的域名生成拦截列表,加载到公司的DNS服务器或DNS过滤服务。
拦截时返回提示页面,告诉员工可以改用哪个公司批准的工具。
终端安全软件
把域名列表下发到每台电脑。员工在家或出差时,同样的规则仍然有效。
适合移动办公多、经常不在公司网络里的团队。
CSV记录(示意,列名与样例文件一致,节选)
工具名称,域名,AI类型,主分类(中文),网站语言,服务器所在地,境内/境外
示例写作助手,writer.example.com,AI原生,文本与语言,英语,美国,境外
示例会议助手,meeting.example.net,AI原生,效率与协作,英语,未知,未知
用表格软件或脚本按“主分类”和“境内/境外”两列筛选,就能得到每条规则需要的域名。
导出给设备的域名列表(示意)
# 编程与开发,境外,拦截列表
code.example.com
dev.example.org
# 公司批准的服务放进白名单,不放在这里
多数防火墙、DNS过滤和终端软件都能导入每行一个域名的文本列表。JSON格式适合脚本和程序直接读取。
每日自动更新的做法
- 用定时任务每天下载新文件,替换设备中的旧列表。
- 按大类和境外服务标记筛选,生成各条规则各自的域名列表。
- 公司批准的服务放进白名单,优先级高于类别规则。
- 保留上一版列表,新列表加载失败时可以回退。
按类别过滤的基本流程,见URL过滤是什么,如何工作。
分六步推行境外AI服务管控
下面的步骤适合几十人到几千人的企业。第一个月以了解情况为主,之后每月复核一次。
盘点:员工在用哪些AI服务
导出防火墙、DNS服务器或上网行为管理设备近30天的访问日志,和清单比对,得到员工实际使用的AI服务和访问次数。
分类:按大类和境外服务标记分组
把匹配到的服务按18个大类分组,再按境外服务标记分成境内、境外和未知三组。这样就能看出使用集中在哪些大类。
决定:每一类放行、有条件放行或拦截
由IT、法务或合规部门和业务部门一起,按下文的决定表给每个大类定一个默认做法,再列出公司批准的具体服务作为例外。
告知:发布规定,说明原因和替代工具
规则生效前告诉员工:哪些服务可以用,哪些数据不能输入,被拦截时找谁申请。有公司批准的替代工具,规定更容易被接受。
执行:先记录,再拦截
规则导入设备后,先开启只记录模式一到两周,确认不影响正常业务,再切换为拦截。拦截页面写明申请渠道。
复核:每月看一次报表
关注新出现的AI服务、被拦截次数多的服务和员工的申请。需要时调整某个大类的默认做法,或者更新白名单。
按类别决定:放行、有条件放行还是拦截
下表是一个起点,不是固定答案。每家企业的业务和数据不同,最终做法由贵司自己决定。
放行
不做限制,只在报表中统计。适合与公司数据关系不大的类别,或公司已经签约的服务。
- 记录访问次数
- 每月复核一次
有条件放行
满足条件时放行,例如只对指定部门、只允许企业账号、只允许公司批准的服务。
- 按部门或用户组放行
- 只放行白名单内的服务
- 写明不得输入的数据类型
拦截
按类别拦截,返回提示页面。适合涉及大量内部数据、又没有批准替代工具的类别。
- 拦截页面写明替代工具
- 允许按流程申请例外
| 类别类型 | 清单中的大类与子类 | 关注的数据 | 常见默认做法 | 条件示例 |
|---|---|---|---|---|
| 通用助手与写作 | 文本与语言(通用助手与聊天机器人、写作与长文、翻译与本地化) | 合同、邮件、内部报告 | 有条件放行 | 只放行公司批准的服务并使用企业账号;不得输入客户资料和未公开的财务信息 |
| 编程工具 | 编程与开发(编程助手与代码补全、自主编程智能体) | 源代码、接口密钥 | 有条件放行 | 只对研发部门放行公司批准的工具;密钥和核心代码不得粘贴 |
| 会议记录与语音转写 | 效率与协作(会议助手),音频、语音与音乐(语音转文字与转写) | 会议录音、参会人员、讨论内容 | 拦截 | 境外服务默认拦截,只放行一款公司批准的会议工具 |
| 图像与视频生成 | 图像与视觉,视频,设计、3D与创意 | 未发布的产品图片、设计稿、员工肖像 | 有条件放行 | 市场和设计部门放行,其他部门只记录;未发布产品的图片不得上传 |
| 文档对话与AI搜索 | 搜索、知识与文档(文档与PDF对话、AI搜索与问答引擎) | 上传的内部文档 | 有条件放行 | 允许一般性提问;内部文件只能上传到公司批准的服务 |
| 数据分析 | 数据、分析与研究 | 客户数据表、财务报表 | 拦截 | 境外服务默认拦截,需要时由IT部门批准指定服务 |
| 智能体与自动化 | 智能体与自动化(通用自主智能体、浏览器智能体与网页自动化) | 邮箱、文件和业务系统的账号授权 | 拦截 | 默认拦截;IT部门确认权限范围后逐个放行 |
| 客户服务与营销 | 客户服务,营销、销售与SEO | 客户名单、对话记录 | 有条件放行 | 只放行经过采购流程的服务,不允许个人自行注册 |
| 行业应用 | 行业与商业应用(人力资源与招聘、法律、财务与会计) | 简历、合同、财务数据 | 有条件放行 | 只对相关部门放行公司批准的服务 |
| 模型接口与算力 | 模型与基础设施 | 通过接口发送的业务数据 | 有条件放行 | 只对研发和IT放行,完成采购和签约后使用 |
| 生活与娱乐 | 生活与娱乐 | 与工作数据关系不大 | 拦截或只记录 | 按公司对娱乐类网站的一贯做法处理 |
| 教育与学习 | 教育与学习 | 一般较少涉及公司数据 | 放行 | 记录访问,每月复核 |
| 安全与设备类 | 安全与检测,机器人与具身智能 | 送检文件、设备数据 | 有条件放行 | 由IT部门统一采购和管理 |
“常见默认做法”只针对清单中的境外服务。公司批准的具体服务通过白名单放行,不受类别默认做法影响。
四种需要单独处理的情况
按类别管理能覆盖大多数服务,但下面四种情况需要单独的规则,建议在推行前就定下来。
境外服务标记为“未知”
服务器或数据存储地点暂时无法确定。建议先按“境外”的规则处理,IT部门确认后再调整。
公司已经签约的境外服务
已经采购、签过数据处理条款的服务,放进白名单,优先级高于类别规则。白名单写明负责人和到期时间。
AI增强的常用软件
很多办公和设计软件加入了AI功能,整体拦截会影响日常工作。如果软件的管理后台提供设置,可以只关闭AI功能,或在使用规定中写明。
清单怎样配合企业内部的AI使用政策
技术措施管得住员工访问哪些服务,管不住员工输入什么内容。所以清单要和一份写清楚的AI使用政策一起用,两者的条款一一对应。
| 政策中的条款 | 对应的技术措施 | 用到的字段 |
|---|---|---|
| 公司批准的AI服务 | 白名单放行,优先级高于类别规则 | 域名、名称 |
| 按类别的默认做法 | 按大类建立自定义类别和策略 | 大类与子类 |
| 境外服务的使用条件 | 境外服务单独成组,按条件放行或拦截 | 境外服务标记、数据存储地点 |
| 不得输入的数据类型 | 员工告知、拦截页面提示,配合已有的数据防泄露措施 | 训练用途相关字段 |
| 新服务的申请流程 | 拦截页面写明申请入口,复核时更新白名单 | 全部字段 |
| 复核周期 | 每月报表,设备列表随清单每日更新 | 每日刷新的下载文件 |
一份AI使用政策通常写明
- 适用范围:哪些员工、哪些设备、哪些工作场景
- 公司批准的AI服务和各自的负责人
- 不得输入的数据:客户个人信息、源代码、未公开的财务和产品信息
- 境外服务的使用条件和申请方式
- AI生成内容在对外使用前由人复核
- 申请新服务的流程和答复时间
- 政策本身的更新周期
政策和清单各管什么
政策回答“为什么”和“什么可以做”,由管理层发布,对全体员工有效。
清单回答“是哪些服务”,由IT部门导入设备执行,并随每日更新覆盖新出现的服务。
两者缺一,规定就很难落地:只有政策没有清单,执行不了;只有清单没有政策,员工不知道原因,也不知道该用什么。
关于数据跨境的规定:国家互联网信息办公室于2024年3月22日公布《促进和规范数据跨境流动规定》,自公布之日起施行。它对数据出境安全评估、个人信息出境标准合同、个人信息保护认证等制度的施行作出规定,并列出了免予申报的若干情形。
哪些数据可以提供给境外服务,由贵司法务或合规部门结合相关规定判断。清单中的境外服务标记,可以作为这项工作的输入。
AI工具库:境外AI服务清单所在的数据产品
境外AI服务清单是AI工具库的一部分。数据订阅按年授权,用于单一组织内部;集成进自己的产品时,另有OEM授权。
AI工具库
AI Tools Database
约人民币6,700元
- AI工具与AI服务的域名清单
- 工具类型与用途分类,例如写作、绘画、视频、编程
- CSV和JSON格式,可导入防火墙、DNS过滤和终端软件
- 下载文件每日刷新
- 单一组织内部使用;产品集成另有OEM授权
数据订阅;OEM授权每年10,000美元起(约人民币6.7万元)
询价与咨询
告诉我们您的用途和部署方式,我们在一个工作日内用邮件回复,并附上报价。
- 按年度授权,每年同价
- 付款到账后一个工作日内交付文件和查询工具
- 可开具形式发票,可签署贵司的采购合同
- 欧盟公司直接签约,数据在您的网络内离线使用
常见问题
ai管控是什么意思?企业一般采取哪些ai管控措施?
ai管控指企业对员工使用AI工具的管理:了解员工在用哪些AI服务,规定哪些可以用、哪些数据不能输入,再用防火墙、DNS过滤或终端软件执行这些规定。常见措施是按类别放行、有条件放行或拦截,配合一份内部AI使用政策,并每月复核一次。
境外AI服务清单里的服务是怎样界定的?
在我们的AI工具库中,网站不是中文的AI工具和AI服务,归入面向境外市场的AI服务,目前超过1.2万个,按18个大类标注。网站语言不等于数据存储地点,数据是否存储在境外,要看每条记录的境外服务标记。
怎样减少员工通过AI工具造成的数据泄露?
先用清单找出员工实际使用的AI服务,再按类别决定做法。涉及大量内部数据的类别,例如会议转写和数据分析,只放行公司批准的服务。同时在AI使用政策中写明不得输入的数据类型,并在拦截页面告诉员工可以改用哪个工具。
影子AI是什么,怎样发现?
影子AI指员工自己注册、IT部门不知道的AI服务。发现的方法是把防火墙、DNS服务器或上网行为管理设备的访问日志和AI服务清单比对,按访问次数排序,就能看到员工实际在用哪些服务。
清单可以导入哪些设备?
清单以CSV和JSON格式交付,可以按大类拆成域名列表,导入防火墙的自定义URL类别、DNS过滤的拦截列表、上网行为管理设备的自定义网址库,或者下发到终端安全软件。
把境外AI服务全部拦截,是不是更简单?
全部拦截设置简单,但会影响需要AI工具的部门,员工也可能改用公司管不到的个人设备。按类别决定,并提供公司批准的替代工具,通常更容易执行,也更容易被员工接受。
境外服务标记显示未知怎么办?
未知表示服务器或数据存储地点暂时无法确定。常见做法是先按境外服务的规则处理,由IT部门确认后,再加入白名单或调整类别规则。
清单多久更新一次?
AI工具库的下载文件每日刷新,新出现的AI服务会随更新进入清单。建议用定时任务每天下载新文件,替换设备中的列表,并每月复核一次策略。