英国NCSC发布“影子AI”风险指引:71%员工使用未获批AI工具,组织应转向降低而非消除风险

2026-09-08
资讯

英国NCSC发布“影子AI”风险指引:71%员工使用未获批AI工具,组织应转向降低而非消除风险
NCSC将影子AI界定为影子IT的最新形态:员工为更快、更好或更便捷地完成工作,转向消费级AI服务,而这些服务并未纳入组织的批准系统与流程。指引指出,当网络安全政策无法满足业务需求时,组织很可能会持续看到员工在尚未完成评估、尚未提供获批替代方案之前就采用新的AI服务,且随着AI能力日益廉价易得,这一趋势可能进一步强化。

机构归纳了三类风险。其一是敏感公司或客户信息暴露:员工将材料粘贴进消费级AI服务后,该信息即离开组织边界;除非设置了特定隐私控制,这些数据可能被存储、保留或用于改进服务,且全部发生在组织既定的安全与治理安排之外。其二是组织对信息的可见性与控制力下降,导致事后无法回答“什么数据、何时、流向了哪里”这一监管与保险方必问的基础问题。

第三类风险更具技术性:AI工具、尤其是AI智能体本身就是复杂软件,可能携带可被利用的漏洞;员工每采用一个未获批工具,就等于在资产清单中新增一块无人审查的攻击面。攻击者一旦利用该漏洞,即可获得该智能体合法持有的同等数据、服务与权限,并很可能利用护栏更宽松的智能体去攻击企业IT中的其他漏洞或错误配置。

在治理建议上,NCSC明确不推荐全面封禁。其立场是影子AI不太可能彻底消失,现实目标应是降低风险而非假定可以消除;具体做法包括建立积极的网络安全文化、鼓励就安全议题公开对话、明确AI安全使用的护栏,并将责任落实到具名个人或团队并定期复盘。NCSC同时链接了其关于智能体AI安全采用的国际联合指引。

对合规部门而言,这份指引的信号在于:AI治理正从“是否允许使用”转向“能否回答数据流向”。在英国GDPR与欧盟GDPR框架下,向第三方(包括AI服务提供方)传输个人数据涉及告知、合法基础与跨境传输规则,而影子AI恰恰使这些判断无法被记录。组织应优先建立AI工具使用清单、数据分类与可接受使用政策的联动机制,并关注AI智能体的权限最小化。

合规专题: 算法与大模型 系统安全 共享及委托处理 数据存储