英国NCSC发布“影子AI”风险指引:71%员工使用未获批AI工具,组织应转向降低而非消除风险
机构归纳了三类风险。其一是敏感公司或客户信息暴露:员工将材料粘贴进消费级AI服务后,该信息即离开组织边界;除非设置了特定隐私控制,这些数据可能被存储、保留或用于改进服务,且全部发生在组织既定的安全与治理安排之外。其二是组织对信息的可见性与控制力下降,导致事后无法回答“什么数据、何时、流向了哪里”这一监管与保险方必问的基础问题。
第三类风险更具技术性:AI工具、尤其是AI智能体本身就是复杂软件,可能携带可被利用的漏洞;员工每采用一个未获批工具,就等于在资产清单中新增一块无人审查的攻击面。攻击者一旦利用该漏洞,即可获得该智能体合法持有的同等数据、服务与权限,并很可能利用护栏更宽松的智能体去攻击企业IT中的其他漏洞或错误配置。
在治理建议上,NCSC明确不推荐全面封禁。其立场是影子AI不太可能彻底消失,现实目标应是降低风险而非假定可以消除;具体做法包括建立积极的网络安全文化、鼓励就安全议题公开对话、明确AI安全使用的护栏,并将责任落实到具名个人或团队并定期复盘。NCSC同时链接了其关于智能体AI安全采用的国际联合指引。
对合规部门而言,这份指引的信号在于:AI治理正从“是否允许使用”转向“能否回答数据流向”。在英国GDPR与欧盟GDPR框架下,向第三方(包括AI服务提供方)传输个人数据涉及告知、合法基础与跨境传输规则,而影子AI恰恰使这些判断无法被记录。组织应优先建立AI工具使用清单、数据分类与可接受使用政策的联动机制,并关注AI智能体的权限最小化。
来源:Infosecurity Magazine
来源网址: https://infosecurity-magazine.com/news/ncsc-warns-shadow-ai-security-risks