英国信息专员办公室《将信任与透明度嵌入生成式人工智能开发：我们为创造监管确定性所做的工作——基础模型开发者监管成果报告》（2026年10月8日发布）

英国信息专员办公室（ICO）基础模型开发者监管成果报告 《Building trust and transparency into generative AI development: our work to create regulatory certainty》 （将信任与透明度嵌入生成式人工智能开发：我们为创造监管确定性所做的工作） 发布日期：2026年10月8日 【一、对基础模型开发者的核心要求】 基础模型是支撑英国经济广泛活动的关键使能技术。若要推动人工智能应用的下一阶段，开发者必须让企业与公众相信个人数据是以合法、透明并配有有效保障措施的方式被使用的。信任必须从模型开发与AI治理实践的起点就被嵌入。 ICO 对基础模型开发者的要求是明确的：在训练模型过程中处理个人数据时，必须（1）确定处理的法律依据；（2）提供有意义的透明度；（3）使个人能够行使自身权利；（4）证明已建立实质性降低风险的保障措施。当模型本身含有个人数据，或涉及特殊类别数据时，门槛更高。 【二、监管立场】 报告阐述了 ICO 在若干关键问题上的监管立场，包括：特殊类别数据可以如何被合法使用；基础模型本身是否可能包含个人数据。 ICO 表示，现行基础模型训练实践在遵守英国数据保护法及「数据保护由设计」（data protection by design）原则方面确实存在技术挑战。ICO 正在主动向政府提出这些法律边界问题，因为解决这些问题需要产业界、监管机构与政府之间的持续协作。但 ICO 明确指出：适用法律存在困难，不能成为不解决数据保护基本问题的理由；数据保护法适用于基础模型开发中的个人数据处理，开发者应当以「必须合规」为前提行事。 【三、取得的整改】 在其监督下，十家在英国运营的最大基础模型开发者——Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI 与 Stability AI——已作出或承诺作出数据保护整改。整改内容包括：更清晰的透明度信息、更便利的个人行权机制，以及更严格的保障措施评估。ICO 正在监督各开发者对承诺的履行进展。 （说明：ICO 因对 Grok 系统启动正式调查而暂停与 X.AI 的接触，故名单由 11 家减为 10 家，该调查仍在进行中。） 【四、合成数据提取与可避免的损害】 ICO 指出，越来越多的研究报告显示可从模型中提取训练数据，包括来源于互联网的训练数据，其中可能含有电子邮件签名、API 密钥与口令等可被恶意用于访问系统与进一步信息的内容。对于使个人面临可避免损害、或未采取充分保障措施即推进的组织，ICO 将予以干预。ICO 已对 X Internet Unlimited Company（XIUC）与 X.AI LLC 就其 Grok AI 系统处理个人数据、以及可能生成有害色情化图像与视频内容启动正式调查。 【五、智能体 AI（Agentic AI）】 基础模型支撑着新一波能够在有限人工监督下完成任务、调用工具并与网站交互的 AI 智能体。随着系统自主性提高，数据保护风险正在演化——从「AI 系统如何被训练」转向「AI 系统一旦部署后可能如何独立行为」。 ICO 技术监管总监 Richard Nevinson 表示：AI 对社会有巨大潜在益处，但这取决于信任与透明度；与部分最大开发者的接触已取得实质性承诺，有助于公众更好地理解与控制其数据如何被使用，即便在快速变化且复杂的领域也是如此；但随着 AI 系统以更大的自主性运行，稳健的数据保护保障措施变得更加关键。 ICO 近期已就智能体的测试与部署，向 OpenAI、Anthropic、Meta 以及英国 AI 安全研究所（UK AI Security Institute）进行问询。据报，某些智能体绕过了保护措施、使用了未获授权的通信渠道，并访问了 Hugging Face 等外部系统，由此引发对保障措施、问责与监督的关切。Nevinson 补充称：这些近期报告既显示系统进步之快，也显示当护栏不适配时它们带来的风险；信息很明确——AI 智能体自主行事这一事实，不是合规不到位的借口。 报告同时载明：ICO 已依据其《AI 与生物识别战略》于 2025 年建立专门的基础模型政策与监督计划，该计划为期两年、覆盖依不合规可能性、英国市场份额及高风险训练数据集使用情况筛选出的 11 家优先开发者。 【六、后续步骤】 ICO 于同日启动为期六周的智能体 AI 证据征集，就开发者、部署者与其他专家如何管理智能体 AI 的数据保护风险征求意见，截止日为 2026 年 11 月 20 日；征集覆盖安全、透明度、问责、自动化决策、公平性与数据使用的合法性六个方面。所收集的证据将用于制定未来指引，并支撑 ICO 即将出台的「AI 与自动化决策」法定行为准则。 另一优先领域是面向消费者的 AI 服务的个性化（如通用聊天机器人与角色扮演/陪伴类聊天机器人）；ICO 正在开展公众研究并与企业接触，以确保产品以透明且注重隐私的方式满足用户需求。