荷兰AP设立「AI与算法监督协调局(TCA)」:下设ARC与MTA两部门推进AI法案市场监督准备,并指智能体越权访问事件凸显早期有力监管的必要

2026-10-09
资讯

荷兰AP设立「AI与算法监督协调局(TCA)」:下设ARC与MTA两部门推进AI法案市场监督准备,并指智能体越权访问事件凸显早期有力监管的必要
荷兰数据保护局(Autoriteit Persoonsgegevens,AP)于2026年10月9日发布消息,宣布随新设「AI与算法监督协调局」(Directie Toezicht en Coördinatie AI/Algoritmes,TCA)的启动,其人工智能监督任务的组织架构进一步具体化。

TCA 承接 AP 自2023年起开展的 AI 与算法协调监督,并负责筹备未来的 AI 市场监督(markttoezicht),同时与荷兰数字基础设施监察局(Rijksinspectie Digitale Infrastructuur,RDI)共同推进「AI 沙盒」(AI sandbox)与联合 AI 协调中心。AP 是荷兰拟定的 AI 市场监督机构,但尚未被正式指定——只有在荷兰《人工智能条例实施法》(Uitvoeringswet AI-verordening)生效后,AP 才具备 AI 市场监督权限(欧盟要求指定监督机构的期限为2025年8月2日,荷兰已逾期)。在此之前,AP 已在开展合作、宣介与支持负责任创新方面的工作,并就 AI 安全等议题积累知识与专业能力,同时参与构建欧洲层面的监督方法。

AP 表示,AI 既带来巨大机遇,也可能对人、组织与社会产生重大影响:AI 系统可以影响、筛选与评价个人,且日益能自主执行任务;儿童等弱势群体尤其可能受到操纵性或误导性应用的影响。AP 特别指出,近期发生的 AI 智能体(AI Agents)未经授权进入私人与公共在线环境的事件,凸显了《人工智能条例》所要求的强有力、早期监督的重要性——这正说明不仅需要规则,还需要组织良好、主动且有专业能力的监督。

AP 同时提示,欧盟《人工智能条例》的部分规定已经适用:某些 AI 应用已被禁止,AI 生成内容(视频、图片、文字)适用透明度义务;自2025年12月2日起,未经同意对他人进行「虚拟脱衣」(nudification)的 AI 亦将被禁止。AP 理事 Katja Mur 表示,AI 的「交通规则」正变得越来越具体,而「交通」每天都更拥挤、更快,因此不能等到最后一块交通标志立好才行动;AP 三年前就已开始,新设的 TCA 将继续建设良好监督所需的组织、知识与专业能力。

TCA 下设两个处:一是「AI/算法风险分析与协调处」(ARC),从宏观视角审视 AI 与算法对人、基本权利与社会的影响,识别发展趋势与风险、开展研究、积累知识,并与其他监管机构及专家合作,尤其关注影响重大的算法系统、算法登记册与审计框架,以确保对风险筛选工具的监督到位、并对其歧视性与准确性进行检验;二是「AI 市场监督处」(MTA),筹备对《人工智能条例》的未来监督,积累用于调查与测试 AI 系统的知识和技术能力,并开展宣介与支持负责任创新的工作——在 AI 安全方面,各国监管机构与欧盟 AI 办公室合作,包括对「前沿」(frontier)模型与系统进行测试和评估。AP 指出,ARC 与 MTA 的视角相互强化:AP 在社会中观察到的现象有助于确定监督重点,而对 AI 运行方式与风险的了解有助于为新发展做好准备。

AP 强调,好的 AI 监督不只是出现问题时的干预,还应为组织明确「什么是可以做的」,并为负责任地开发与应用 AI 留出空间——例如 RDI 与 AP 共同设立的 AI 沙盒,允许组织在受控环境中与监管机构共同开发符合《人工智能条例》的创新 AI 系统。AP 表示其在 AI 监督上并非从零开始,将基于其在《通用数据保护条例》(AVG/GDPR)以及作为 AI 与算法协调监督机构所积累的经验继续推进,并称关于 AP 作为 AI 监督机构的指定、权限与资金,正在不同层级进行讨论。

合规专题: 算法与大模型 风险评估 系统安全