算法治理

互联网信息服务算法推荐管理规定、深度合成管理规定、算法综合治理、生成式人工智能治理、算法评估等

行政法规

国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)

国家互联网信息办公室 发布:2026-09-18 生效:未公布

国家互联网信息办公室2026年9月18日就《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》公开征求意见。全文25条,明确网络服务提供者、智能终端制造者、应用程序分发平台三类主体义务:不得向未成年人提供陌生人社交、虚拟伴侣等虚拟亲密关系服务;向未满16周岁提供网络音视频、游戏、社交及人工智能服务的,应通过未成年人模式提供。要求不得设置诱导沉迷及过度消费的算法模型,并建立备案机制。

政策文件

促进网信企业高质量发展行动计划(2026-2030年)

中央网络安全和信息化委员会 发布:2026-08-21 生效:未公布

中央网络安全和信息化委员会 2026年8月21日印发的第一个网信企业高质量发展五年期指导性政策文件。行动计划部署九大行动、27条重点任务,覆盖网信企业培育、创新能力、赋能产业升级、海外拓展、安全有序发展、营商环境和发展要素保障等方面,明确加强人工智能基础研究,突破大模型、多模态模型、世界模型、智能体、具身智能等前沿技术,建立健全数据安全合规体系,强化人工智能技术滥用治理、个人信息保护、算法综合治理,提出推进修订《互联网信息服务管理办法》、研究制定电信法、网络犯罪防治法、网络安全等级保护条例,完善《未成年人网络保护条例》《网络数据安全管理条例》配套规定。

部门规章

生成式人工智能服务管理暂行办法

国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局 发布:2023-07-10 生效:2023-08-15

自2023年8月15日起施行,适用于向境内公众提供生成文本、图片、音频、视频等服务的生成式人工智能服务,坚持发展和安全并重、包容审慎与分类分级监管原则,要求提供者承担网络信息内容生产者和个人信息处理者责任,使用合法来源数据和基础模型,规范数据标注、服务协议、内容标识、用户信息保护和投诉举报机制,对违法内容及时处置,违规可处警告、暂停服务等处罚。

互联网信息服务算法推荐管理规定

国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局 发布:2021-12-31 生效:2022-03-01

规范互联网信息服务算法推荐活动,要求算法推荐服务提供者建立健全算法机制机理审核、科技伦理审查等管理制度。应当向用户提供不针对其个人特征的选项或便捷的关闭算法推荐服务的选项。是算法治理领域的重要规章。

互联网信息服务深度合成管理规定

国家互联网信息办公室、工业和信息化部、公安部 发布:2022-11-25 生效:2023-01-10

规范互联网信息服务深度合成活动,要求深度合成服务提供者建立健全算法机制机理审核、科技伦理审查等管理制度,对生成或编辑的信息内容进行显著标识。禁止利用深度合成制作、复制、发布、传播违法信息。

人工智能拟人化互动服务管理暂行办法

国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局 发布:2026-04-10 生效:2026-07-15

国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门令第21号,2026年4月10日公布、7月15日施行,是全球首部人工智能情感陪伴专门立法。办法规范利用人工智能提供模拟自然人人格特征与沟通风格的持续性情感互动服务,智能客服等非情感类服务不适用;严禁向未成年人提供虚拟亲密关系服务,为未满十四周岁者服务须监护人同意;要求显著标识非真人互动,不得以情感操控、心理诱导骗取个人信息。

微短剧发展管理办法

国家广播电视总局 发布:2026-07-31 生效:2026-09-01

国家广播电视总局令第16号,2026年7月31日公布、9月1日施行,共八章五十四条,是我国首部微短剧专项部门规章。按投资额度与题材将微短剧分为三类,分类实行备案公示和发行许可;列明十一项内容禁区,要求片头标注剧名、许可证号或节目编号;规定使用人工智能技术生成、制作的微短剧须在每集明显位置添加提示标识,播出单位应定期审核评估算法机制机理、模型、数据和应用结果,并依法履行数据安全保护义务。

标准

数据安全技术 基于个人信息的自动化决策安全要求

国家市场监督管理总局、国家标准化管理委员会 发布:2025-03-28 生效:2025-10-01

本标准针对基于个人信息的自动化决策,提出合法正当、公开透明、公平公正、主体参与和数据质量原则,规定通用安全要求、算法安全要求、特征生成安全要求、决策安全要求以及教育就业、信用贷款、公共治理、劳动关系、特殊群体、信息推送、商业交易等典型场景的特别要求,适用于规范自动化决策算法开发、特征生成和决策活动以及监管评估。

⼈⼯智能 安全治理框架2.0

国家互联网信息办公室 发布:2025-09-15 生效:2025-09-15

由国家互联网信息办公室等七部门联合发布的人工智能安全治理框架2.0版本。在1.0版本基础上进一步细化和完善AI安全治理体系,涵盖AI安全治理原则、治理主体与责任、风险分类与分级、全生命周期安全管理、应急响应与监督机制等核心内容。重点强化了生成式人工智能的安全治理要求,包括训练数据安全、模型安全评估、输出内容安全管理、深度合成标识等治理措施,是AI安全治理领域的纲领性文件。

信息安全技术 人工智能计算平台安全框架

国家市场监督管理总局、国家标准化管理委员会 发布:2025-08-01 生效:2026-02-01

本标准确立人工智能计算平台安全框架,规定安全功能、安全管理和角色安全职责。安全功能包括资源层计算存储网络虚拟资源安全、调度层资源与任务调度安全、应用支撑层数据处理与模型训练推理安全。安全管理涵盖身份管理、密码管理、日志管理、安全监测审计、风险管理及个人信息保护。角色职责明确平台提供方、数据提供方、模型提供方和应用提供方在保护模型与数据安全中的分工协作要求。

网络安全标准实践指南 - 生成式人工智能服务内容标识方法

全国信息安全标准化技术委员会 发布:2023-08-25 生效:2023-08-25

该指南为落实生成式人工智能服务管理暂行办法的标识要求,给出文本、图片、音频、视频四类生成内容的标识方法。要求在交互界面或背景添加显式水印提示,图片视频须添加隐式水印,文件输出时应在元数据中添加扩展字段记录服务提供者、生成时间和内容ID,并在人工智能替代自然人服务可能造成混淆时进行提示。

网络安全技术 生成式人工智能预训练和优化训练数据安全规范

国家市场监督管理总局、国家标准化管理委员会 发布:2025-04-25 生效:2025-11-01

该标准规定生成式人工智能预训练和优化训练数据及其处理活动的安全要求,适用于服务提供者开展相关数据处理活动和安全自评估。文件提出通用安全要求,并从数据收集、预处理、使用等环节分别规定预训练数据和优化训练数据的安全要求,涵盖数据来源管理、违法不良信息过滤、个人信息保护、知识产权管理、投毒数据检测和真实性评估等内容。

网络安全技术 生成式人工智能服务安全基本要求

国家市场监督管理总局、国家标准化管理委员会 发布:2025-04-25 生效:2025-11-01

该标准规定生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的基本要求,适用于服务提供者开展相关活动及主管部门和第三方评估机构参考。训练数据安全包括数据来源安全、内容管理和数据标注安全;模型安全涵盖训练、输出、监测测评、更新升级和环境安全;安全措施要求涉及服务适用人群、透明度、用户投诉举报、服务稳定性、端侧模型服务等。

网络安全技术 生成式人工智能数据标注安全规范

国家市场监督管理总局、国家标准化管理委员会 发布:2025-04-25 生效:2025-11-01

该标准规定生成式人工智能训练数据标注的平台或工具安全、标注规则安全、标注人员要求和标注核验要求,适用于数据标注组织方开展训练数据标注及需求方验收、第三方安全评估。文件明确数据标注人员安全培训、任务分配和人员管理要求,区分功能性标注与安全性标注,提出标注结果核验、重新标注、质量及安全性评估方法。

网络安全标准实践指南 —— 人工智能生成合成内容标识方法 文件元数据隐式标识视频文件

全国信息安全标准化技术委员会 发布:2024-09-25 生效:2024-09-25

为人工智能生成合成内容的视频文件元数据隐式标识提供技术方法,通过在视频文件的元数据中嵌入数字标识信息,实现AI生成合成视频内容的溯源识别和真伪鉴别。(实践指南)

网络安全标准实践指南 —— 人工智能生成合成内容标识方法 文件元数据隐式标识安全防护技术指南

全国信息安全标准化技术委员会 发布:2024-09-30 生效:2024-09-30

为人工智能生成合成内容的文件元数据隐式标识提供安全防护技术指南,防范标识信息被恶意篡改、删除或伪造,确保生成合成内容的标识体系具备足够的安全防护能力,是标识技术体系的完整性保障。(实践指南)

网络安全标准实践指南 —— 人工智能生成合成内容检测技术指南

全国信息安全标准化技术委员会 发布:2024-10-08 生效:2024-10-08

为人工智能生成合成内容的检测提供技术指南,涵盖基于统计特征、深度学习、数字水印等多类检测技术的原理、适用范围和效果评估方法,帮助审核人员和公众识别AI生成的合成内容。(实践指南)

信息安全技术 机器学习算法安全评估规范

国家市场监督管理总局、国家标准化管理委员会 发布:2023-08-06 生效:2024-03-01

规定机器学习算法安全评估的基本原则、评估框架、评估指标和评估方法。覆盖算法公平性、可解释性、鲁棒性、隐私保护、安全可控等维度的安全评估要求,适用于机器学习算法在设计开发、测试验证、部署运行等阶段的安全评估工作,是人工智能安全治理的重要技术标准。

人工智能 深度学习算法评估

国家市场监督管理总局、国家标准化管理委员会 发布:2025-01-24 生效:2025-01-24

规定深度学习算法的评估框架、评估指标体系和评估方法。覆盖模型性能、安全性、公平性、可解释性、计算效率等维度的评估要求,适用于深度学习算法的设计、开发、测试验证和部署运行各阶段的评估活动,是人工智能算法治理的重要标准。

人工智能 管理体系

国家市场监督管理总局、国家标准化管理委员会 发布:2022-10-12 生效:2023-05-01

为人工智能组织的管理体系建设提供指南,涵盖AI战略规划、治理架构、风险管理、数据管理、模型生命周期管理、伦理审查等管理要求。帮助组织建立和完善人工智能管理体系,确保AI系统开发和应用过程中的合规性、安全性和可信赖性。

人工智能 风险管理能力评估(征求意见稿)

国家市场监督管理总局、国家标准化管理委员会 发布:2024-09-29 生效:未公布

提出组织级人工智能风险管理能力评级与划分规则,将能力分为初始级、规范级、全面级、量化级、卓越级五级,构建涵盖风险管理策划、沟通、评估、处理、监控、回顾六个过程域的能力框架,明确各能力主域、子域和子项要求及量化评分方法,并提供推荐权重设置、风险源和风险管理方法工具等资料性附录,适用于评估组织在人工智能系统全生命周期中识别、分析、应对和监控风险的能力。

生成式人工智能个人信息保护技术要求 第1部分:总则.

国家市场监督管理总局、国家标准化管理委员会 发布:2024-09-29 生效:2025-04-01

建立生成式人工智能个人信息保护技术要求的总体框架和基本要求(第1部分:总则),明确生成式AI服务中个人信息的识别、分类、风险评估和保护措施等基础要求,是生成式AI领域个人信息保护的系列标准的总纲。

网络安全技术 人工智能生成合成内容标识方法

国家市场监督管理总局、国家标准化管理委员会 发布:2025-02-28 生效:2025-09-01

配套《人工智能生成合成内容标识办法》的强制性国家标准,2025年2月28日发布、9月1日实施,由中央网信办提出并归口、全国网络安全标准化技术委员会执行。标准规定了人工智能生成合成内容显式标识与隐式标识的方法:显式标识须同时含人工智能要素与生成合成要素,图片、视频标识文字高度不低于画面最短边5%、视频持续不少于2秒;隐式标识须在文件元数据中写入生成合成标签、服务提供者与制作编号等要素。

GB/Z 201-2026 人工智能 大模型选型和应用指南

国家市场监督管理总局、国家标准化管理委员会 发布:2026-07-30 生效:2026-07-30

本标准于2026年7月30日发布并实施,面向大模型应用方给出选型与落地的方法指引,覆盖场景适配、能力评估、部署方式、成本控制与运行维护等关键环节的考量要素。该标准为相关组织开展制度建设与安全管理提供了统一技术依据,可作为监管检查、第三方评估与内部自查的参照基准。标准的发布实施有助于填补该领域国家标准空白,推动技术要求在不同行业与应用场景中的一致落地。

GB/Z 195-2026 人工智能 工业智能体参考架构

国家市场监督管理总局、国家标准化管理委员会 发布:2026-07-30 生效:2026-07-30

本标准由国家市场监督管理总局、国家标准化管理委员会于2026年7月30日发布并实施,规定了工业智能体的参考架构,明确其与工业现场设备、控制系统及业务系统的分层关系与交互接口。标准的发布实施有助于填补该领域国家标准空白,推动技术要求在不同行业与应用场景中的一致落地。其确立的指标体系与流程要求,为企业建立可审计、可验证的合规证据链提供了操作指引。

GB/T 46799-2025 人工智能社会实验 评价指南

国家市场监督管理总局、国家标准化管理委员会 发布:2025-12-02 生效:2025-12-02

国家市场监督管理总局、国家标准化管理委员会2025年12月2日经国家标准公告2025年第33号发布,同日实施。该标准规定人工智能社会实验效果的评价原则、指标体系、数据采集与统计分析方法,聚焦技术应用对社会秩序、公共伦理和公众权益的实际影响,推动人工智能治理由原则宣示走向可度量、可复现的实证评估,为监管沙盒与政策效果评估提供方法支撑。

GB/T 46801-2025 人工智能社会实验 设计指南

国家市场监督管理总局、国家标准化管理委员会 发布:2025-12-02 生效:2025-12-02

国家市场监督管理总局、国家标准化管理委员会2025年12月2日经国家标准公告2025年第33号发布,同日实施。该标准规定人工智能社会实验的选题、假设设定、对照组设置、变量控制与伦理审查要求,强调参与者知情同意、风险最小化与自由退出机制,为在真实社会场景中审慎验证人工智能应用影响提供科学设计范式,为监管沙盒与政策效果评估提供方法支撑。

GB/T 46802-2025 人工智能社会实验 实施指南

国家市场监督管理总局、国家标准化管理委员会 发布:2025-12-02 生效:2025-12-02

国家市场监督管理总局、国家标准化管理委员会2025年12月2日经国家标准公告2025年第33号发布,同日实施。该标准规定人工智能社会实验的组织实施流程、过程监测、偏差修正与提前终止条件,明确实验数据采集范围、存储期限与参与者权益保障措施,支撑人工智能治理从经验判断转向循证决策,明确实验组织方的资质条件、经费保障与结果公开要求,为监管沙盒与政策效果评估提供支撑。

GB/T 46347-2025 人工智能 风险管理能力评估

国家市场监督管理总局、国家标准化管理委员会 发布:2025-10-05 生效:2025-10-05

国家市场监督管理总局、国家标准化管理委员会2025年10月5日经国家标准公告2025年第24号发布,同日实施。该标准构建人工智能风险管理能力评估模型,从风险治理架构、风险识别与评估、监测预警、应急处置与持续改进等方面划分能力等级,帮助企业系统识别人工智能全生命周期风险并明确改进路径,适用于各类人工智能提供方与部署者的内部风险治理体系建设。

GB/T 46351-2025 人工智能 多算法管理技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2025-10-05 生效:2025-10-05

国家市场监督管理总局、国家标准化管理委员会2025年10月5日经国家标准公告2025年第24号发布,同日实施。该标准规定同一平台中多算法共存时的注册登记、调度编排、版本控制、效果评估与退出机制,明确算法变更留痕与责任界定要求,支撑算法备案、算法安全评估和推荐算法透明度等监管要求落地,适用于推荐算法、风控算法等多算法共存平台的合规管理。

GB/T 46700-2025 人工智能 音视频及图像分析算法接口

国家市场监督管理总局、国家标准化管理委员会 发布:2025-10-31 生效:2026-05-01

国家市场监督管理总局、国家标准化管理委员会2025年10月31日经国家标准公告2025年第29号发布,2026年5月1日实施。该标准统一音视频及图像分析算法的调用接口、输入输出格式与能力描述规范,覆盖目标检测、识别、分割等典型任务,降低异构算法集成成本,为算法可追溯、可替换管理提供技术基础,适用于智慧城市、内容审核等视觉算法集成场景的合规管理。

GB/T 45123-2024 公共安全 生物特征识别应用 算法评测数据库要求

国家市场监督管理总局、国家标准化管理委员会 发布:2024-12-31 生效:2025-07-01

国家市场监督管理总局、国家标准化管理委员会2024年12月31日经国家标准公告2024年第32号发布,2025年7月1日实施。该标准规定公共安全领域生物特征识别算法评测数据库的建设要求,明确样本采集授权、人口结构均衡性、标注质量与安全管理规范,在保障评测科学性的同时强化个人信息来源合法与最小必要,防范评测数据滥用。

GB/T 42888-2023 信息安全技术 机器学习算法安全评估规范

国家市场监督管理总局、国家标准化管理委员会 发布:2023-08-06 生效:2024-03-01

国家市场监督管理总局、国家标准化管理委员会2023年8月6日经国家标准公告2023年第7号发布,2024年3月1日实施。该标准规定机器学习算法的安全评估要求,围绕算法鲁棒性、抗攻击能力、公平性与可解释性等维度建立评估指标与方法,覆盖训练数据、模型结构与推理服务全生命周期,是国内机器学习算法安全评估的核心标准。

GB/T 43555-2023 智能服务 预测性维护 算法测评方法

国家市场监督管理总局、国家标准化管理委员会 发布:2023-12-28 生效:2024-07-01

国家市场监督管理总局、国家标准化管理委员会2023年12月28日经国家标准公告2023年第20号发布,2024年7月1日实施。该标准规定智能预测性维护算法的测评方法,明确测评数据集、评价指标与测试流程,覆盖故障预警准确率、误报率与时效性等核心指标,为算法能力客观比对、采购选型与持续改进提供可量化的测评依据,支撑智能制造服务合规评价。

GB/T 46800-2025 生成式人工智能技术应用社会影响 评估指南

国家市场监督管理总局、国家标准化管理委员会 发布:2025-12-02 生效:2025-12-02

国家市场监督管理总局、国家标准化管理委员会2025年12月2日经国家标准公告2025年第33号发布,2025年12月2日实施。该标准给出生成式人工智能技术应用社会影响评估指南,明确对就业、伦理、隐私与安全等社会影响的评估维度与方法,是生成式人工智能应用开展社会影响评估与合规审视的依据。该标准为人工智能领域相关方开展合规管理、技术选型与能力评价提供参考依据。

GB/T 42131-2022 人工智能 知识图谱技术框架

国家市场监督管理总局、国家标准化管理委员会 发布:2022-12-30 生效:2023-07-01

国家市场监督管理总局、国家标准化管理委员会2022年12月30日经国家标准公告2022年第21号发布,2023年7月1日实施。该标准给出人工智能知识图谱技术框架,明确知识图谱的构建流程、功能构件与技术要求,支撑知识图谱应用规范化。是人工智能领域知识表示与推理的基础性标准。对大模型知识增强与行业知识库建设具有参考价值。

GB/T 45032-2024 智慧城市 面向城市治理的知识可信赖评估框架

国家市场监督管理总局、国家标准化管理委员会 发布:2024-11-28 生效:2025-06-01

本标准由国家市场监督管理总局、国家标准化管理委员会于2024年11月28日发布、2025年6月1日实施,面向城市治理场景确立知识可信赖评估框架,围绕知识获取、建模、推理与服务各环节提出可验证的可信性指标与评价流程。标准适用于智慧城市中依赖知识图谱、算法推理辅助决策的治理系统,为评估人工智能辅助决策结果的可靠性、可解释性与可控性提供方法依据,可与算法备案、安全评估等合规要求衔接。

GA/T 2153-2024 安全防范 掌静脉识别应用 算法性能评测方法

中华人民共和国公安部 发布:2024-07-09 生效:2024-12-01

公安部2024年7月9日发布、2024年12月1日实施的公共安全行业标准,规定了掌静脉识别算法的性能评测指标、测试样本要求、评测流程与结果判定方法,涵盖识别准确率、误识率、拒识率与防伪攻击抵抗能力等核心维度。标准适用于掌静脉识别产品的算法测评与验收,为生物特征识别技术应用的安全性评价提供统一方法,与个人信息保护法关于生物识别敏感个人信息处理的合规要求相衔接。

人工智能 科技伦理委员会建设指南、人工智能 科技伦理审查规范、人工智能 科技伦理服务规范(团体标准征求意见稿)

江苏省人工智能学会 发布:2026-09-29 生效:未公布

江苏省人工智能学会2026年9月29日以苏智会标〔2026〕13号文,就《人工智能 科技伦理委员会建设指南》《人工智能 科技伦理审查规范》《人工智能 科技伦理服务规范》三项团体标准公开征求意见。三项标准已形成征求意见稿及编制说明,分别面向人工智能科技伦理委员会的组织建设、伦理审查流程与伦理服务能力提出规范要求,把《科技伦理审查办法(试行)》的原则性要求转化为可操作的标准条款。

AI智能体营销交互过程与效果有效性评估规范、可信法律人工智能产品能力要求与评测方法 智能类案检索(团体标准立项)

中国互联网协会 发布:2026-09-29 生效:未公布

中国互联网协会2026年9月29日发布团体标准立项公告,经立项评审通过《AI智能体营销交互过程与效果有效性评估规范》《可信法律人工智能产品能力要求与评测方法 智能类案检索》2项团体标准,欢迎有关单位或个人参与制定。前者面向AI智能体在营销交互过程中的效果有效性建立评估规范;后者是继“法律智能体基础能力”立项后把评测对象细化到智能类案检索,延续“专业服务+智能体”的标准化路径。

人工智能生成合成内容风险评估规范、中小学教师生成式人工智能应用指南等4项团体标准

中国网络社会组织联合会 发布:2026-09-28 生效:2026-09-28

中国网络社会组织联合会2026年9月28日发布并即日实施。其中《人工智能生成合成内容风险评估规范》(T/CFIS 0017-2026)针对生成合成内容建立风险识别与评估要求;《中小学教师生成式人工智能应用指南》(T/CFIS 0018-2026)规范教师使用生成式人工智能的教学行为边界。同批还包括《网络主体社交平台传播效能评估指标体系》《基于区块链的可转让电子运输记录服务技术要求》。

人工智能大模型安全检测与评估规范(团体标准启动)

中关村数智人工智能产业联盟标准化工作委员会 发布:2026-09-29 生效:未公布

中关村数智人工智能产业联盟标准化工作委员会2026年9月组织召开《人工智能大模型安全检测与评估规范》团体标准启动会。标准针对行业内长期存在的安全检测标准不统一、评估体系不规范、量化指标不清晰、等级划分不明确等问题,重点规范专业术语定义、大模型安全检测维度、安全等级分级规则、量化评估指标体系、检测流程与风险判定准则、结果评价标准等核心内容,为企业研发落地与行业监管提供合规指引。

GB/T 45909-2025 网络安全技术 数字水印技术实现指南

国家市场监督管理总局、国家标准化管理委员会 发布:2025-06-30 生效:2026-01-01

国家市场监督管理总局、国家标准化管理委员会2025年6月30日经国家标准公告2025年第14号发布,2026年1月1日实施。该标准给出数字水印在图像、音视频、文本等载体上的嵌入、提取与鲁棒性评估方法,明确不可感知性、抗攻击能力与容量等指标,可服务于人工智能生成合成内容标识、数据泄露溯源取证与数字版权保护等合规场景。

GB/T 46284-2025 人工智能 联邦学习技术规范

国家市场监督管理总局、国家标准化管理委员会 发布:2025-10-05 生效:2025-10-05

国家市场监督管理总局、国家标准化管理委员会2025年10月5日经国家标准公告2025年第24号发布,同日实施。该标准规定联邦学习系统的角色划分、训练流程、通信协议与隐私增强技术要求,明确参与方准入、梯度保护与安全聚合机制,实现原始数据不出域前提下的联合建模,是支撑跨主体数据协作的关键标准,适用于金融、医疗等跨机构联合建模场景的合规设计与落地。

网络安全标准实践指南——智能体系统开发安全指南(征求意见稿)

全国网络安全标准化技术委员会秘书处 发布:2026-09-18 生效:未公布

全国网络安全标准化技术委员会秘书处2026年9月18日发布《网络安全标准实践指南——智能体系统开发安全指南(征求意见稿)》(网安秘字〔2026〕119号),反馈截止2026年10月2日。指南旨在指导智能体系统安全开发、防范化解相关安全风险。这是继9月15日发布人工智能应用安全指引总则及教育、卫生健康、广播电视和网络视听等分领域指引后,网安标委在人工智能安全标准领域的又一补充文件。

网络安全标准实践指南——人工智能应用安全指引 总则

全国网络安全标准化技术委员会秘书处 发布:2026-09-15 生效:2026-09-15

全国网络安全标准化技术委员会秘书处2026年9月15日以网安秘字〔2026〕118号发布。该指南依据网络安全法、数据安全法、个人信息保护法及生成式人工智能服务管理暂行办法、人工智能生成合成内容标识办法、算法推荐与深度合成管理规定制定,属人工智能应用安全指引系列中的通用文件,提供适用于各行业领域的通用性安全指导,为组织建立健全人工智能应用安全管理制度与风险防控机制提供指引。

网络安全标准实践指南——人工智能应用安全指引 广播电视和网络视听

全国网络安全标准化技术委员会秘书处 发布:2026-09-15 生效:2026-09-15

全国网络安全标准化技术委员会秘书处2026年9月15日以网安秘字〔2026〕118号发布,属人工智能应用安全指引系列中的行业领域文件。指南面向广播电视和网络视听领域人工智能应用,针对智能推荐、虚拟主播、智能剪辑、AI生成节目等场景,明确生成合成内容标识、深度伪造风险防控、内容审核责任与版权合规要求,规范用户画像与个性化推荐中的个人信息处理,为播出机构与网络视听平台提供安全实践指引。

人工智能安全治理框架3.0

全国网络安全标准化技术委员会 发布:2026-09-14 生效:未公布

由全国网络安全标准化技术委员会于2026年9月14日国家网络安全宣传周开幕式上发布,是继2024年1.0版、2025年2.0版后的最新迭代版本。框架贯彻《全球人工智能治理倡议》,在国家网信办指导下由专业机构、科研院所和行业企业共同编制,秉持以人为本、向上向善理念,坚持强化风险意识、确保安全可控,延续风险分类、技术应对、综合治理的核心逻辑,梳理更新人工智能安全风险分类,优化技术应对和综合治理措施。

GB/Z 177.5-2026 人工智能终端智能化分级 第5部分:电视接收机

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

《人工智能终端智能化分级》系列国家标准首批七品类之一,2026年8月27日随第37号国家标准公告发布。文件面向电视机与移动智慧屏,围绕影音娱乐、跨设备联动、家庭健康管理、教育与陪伴、信息服务、老年友好服务等场景,规定智能化能力的评价指标与测试方法。L3辅助级要求具备语音识别、图像处理、内容推荐、多模态交互、物联网设备联动、情境模式联动、家长管理与防沉迷等能力,为智能电视AI水平提供可量化分级标尺。

网络安全技术 人工智能应用安全分类分级方法(征求意见稿)

全国网络安全标准化技术委员会(TC260) 发布:2026-07-15 生效:未公布

全国网络安全标准化技术委员会2026年7月15日发布征求意见的国家标准,意见反馈截止2026年9月13日。文件按应用场景、任务类型与智能化能力对人工智能应用进行分类,结合影响严重程度与发生概率将安全风险划分为低、一般、较大、重大、特别重大五级,确立就高从严与动态复评原则。与同期征求意见的人工智能安全能力成熟度评估方法配套,共同构成人工智能应用风险识别与能力评价的基础性标尺。

GB/Z 177.6-2026 人工智能终端智能化分级 第6部分:眼镜

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

《人工智能终端智能化分级》系列国家标准首批七个品类之一,2026年8月27日随第37号国家标准公告发布,归口全国音频、视频及多媒体系统与设备标准化技术委员会。文件面向音频眼镜、拍摄眼镜和AI+AR眼镜,覆盖第一视角即时抓拍录制、直播、识物、导航、翻译等场景,L3辅助级要求具备复杂意图理解、链式推理与长期记忆、动态规划任务等高级智能化能力。因眼镜具备随身影音采集能力,其智能化分级与隐私合规密切相关。

GB/Z 221-2026 人工智能 模型即服务(MaaS)参考架构

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,属MaaS系列三项国家标准之首。文件给出模型即服务模式的参考架构,界定模型提供方、平台运营方、应用开发方与最终用户等角色,以及模型接入、托管、编排、计量、运维等能力域的组成与交互关系,统一MaaS领域概念模型与功能边界,为云服务商构建大模型服务平台、企业选型与跨平台迁移提供共同技术框架。

GB/Z 222-2026 人工智能 模型即服务(MaaS)性能规范

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,与GB/Z 221参考架构、GB/Z 226技术架构共同构成MaaS系列标准。文件规定模型即服务模式下平台与服务的关键性能指标、测试负载与评价方法,涵盖模型推理时延、吞吐、并发、可用性与稳定性等维度,并给出性能测试的基准环境与结果表述要求,为供需双方客观比较不同MaaS平台服务能力、开展服务水平协议约定提供统一度量依据。

GB/T 47507-2026 人工智能 可信赖 通则

国家市场监督管理总局、国家标准化管理委员会 发布:2026-04-30 生效:2026-08-01

国家市场监督管理总局、国家标准化管理委员会2026年4月30日经国家标准公告2026年第21号发布,同年8月1日实施。该标准确立人工智能系统在鲁棒性、安全性、可解释性、公平性、隐私保护与可追溯方面的可信赖总体框架与通用要求,给出风险识别与全生命周期管理思路,是国内AI治理标准体系的基础性通则,与生成式人工智能服务管理暂行办法等监管要求形成配套。

YD/T 7173-2026 人工智能 安全治理 系统风险管理能力要求

中华人民共和国工业和信息化部 发布:2026-07-15 生效:2026-11-01

工信部2026年第18号公告批准发布的通信行业标准,由中国信通院联合22家高校、科研院所、科技企业起草。规定人工智能系统风险管理的组织建设、流程管理、风险防护三大核心能力要求,适用于研发与应用人工智能系统的相关主体开展风险管理工作,适配通用人工智能与行业定制化人工智能全部场景。对标欧盟《人工智能法》及美国NIST框架,有助于国内大模型及行业智能体的合规治理。

生成式人工智能系统密码应用指引(版本1.0)

中国密码学会密评联委会 发布:2026-08-07 生效:未公布

中国密码学会密评联委会2026年8月7日发布,商用密码检测认证中心、国家信息技术安全研究中心、中国科学院信息工程研究所、中国工业互联网研究院等联合起草。指引作为GB/T 39786—2021《信息系统密码应用基本要求》的扩展,围绕运行环境与基础设施安全、数据安全、模型安全、模型服务安全、智能体应用安全五个方面识别风险并给出密码应用措施,以SM2签名、SM4加密、SM3杂凑为骨干技术。

GB/Z 225-2026 人工智能 石油石化大模型评测指标与方法

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件面向石油石化行业大模型,规定评测指标体系、评测数据集构建要求与评测实施方法,覆盖勘探开发、炼化生产、设备运维、安全环保等专业能力,以及知识准确性、推理可靠性、指令遵循、幻觉率、安全性等通用维度,为行业大模型选型、验收与迭代优化提供可复现、可比较的测评依据,与GB/Z 227石油石化应用场景分类指南配套使用。

GB/Z 226-2026 人工智能 模型即服务(MaaS)技术架构

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,属MaaS系列三项标准之一。文件在参考架构基础上细化模型即服务平台的技术架构,规定模型接入与纳管、推理调度、弹性伸缩、租户隔离、计量计费、安全审计与日志留存等能力模块的实现要求与接口规范,明确数据边界与安全控制要点,为平台方工程实现与第三方系统对接提供技术依据。

SJ/T 12304-2026 人工智能关键基础技术 大模型技术体系开源开放分级评估规范

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的电子行业标准,2026年8月17日发布、12月1日实施。标准确立大模型技术体系开源开放的分级框架,规定开源开放分级要求,适用于大模型技术体系开源开放分级的评估,为开源大模型的开放程度提供可度量的分级标尺,与SJ/T 12303-2026训练数据处理标准构成大模型基础数据处理与开源开放的双轨规范。

YD/T 7289-2026 基于人工智能的音视频生成合成服务方安全管理评估指南

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准提供基于人工智能大模型技术的音视频生成合成服务的安全管理评估指南,适用于音视频生成合成服务方、第三方机构及主管部门评估相关安全管理措施的落实情况,与YD/T 7290-2026配套形成“管理要求+评估方法”的闭环,支撑人工智能生成合成内容标识制度在音视频场景落地。

YD/T 7290-2026 基于人工智能的音视频生成合成服务方安全管理指南

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准提供面向音视频生成合成服务方的安全管理指南,适用于为基于人工智能的音视频生成合成服务方落实互联网安全相关管理制度和技术措施提供指引,与YD/T 7289-2026评估指南、YD/T 7291-2026检测技术指南共同构成音视频生成合成服务“管理—评估—检测”的配套体系。

YD/T 7291-2026 人工智能生成合成音视频检测技术指南

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准给出人工智能生成合成音视频检测技术指南,覆盖人工智能生成合成音视频标识检测与内容检测两个方面,适用于电信和互联网企业及相关单位开展生成合成音视频检测及风险评估,为生成合成内容标识合规验证与平台内容审核提供统一的检测技术支撑。

YD/T 7341-2026 互联网信息推荐算法安全要求与评估方法

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准给出互联网信息推荐算法的安全要求和评估方法,适用于互联网信息推荐服务提供者进行推荐算法安全自评估,第三方评估机构对推荐算法进行安全评估时也可参考,是《互联网信息服务算法推荐管理规定》在推荐算法安全评估环节的配套技术标准。

GB/Z 232-2026 人工智能 电力行业大模型评测指标和方法

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件面向电力行业大模型,规定评测指标体系、评测样本构建与评测实施流程,覆盖电网调度、设备运维、故障诊断、负荷预测、营销服务等专业任务能力,以及安全性、鲁棒性、可解释性等通用维度,为电力企业开展大模型选型、效果验证与持续改进提供可量化、可复现的测评方法。

YD/T 7275-2026 互联网广告算法推荐安全规范

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定互联网广告算法推荐服务提供者设计、开发、应用运营算法推荐技术并提供互联网广告服务的安全要求,同时给出安全评估实施步骤和方法,适用于规范算法推荐活动,也适用于监管部门、第三方评估机构对服务提供者进行监督、管理和评估。

GB/Z 233-2026 人工智能 电力大模型系统技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,由南方电网数字电网集团牵头,联合中国电子技术标准化研究院、中国电力科学研究院、广东电网等单位起草。文件规定电力大模型系统的总体架构、功能要求与性能指标,涵盖电网知识注入、多模态数据接入、专业任务推理、安全边界控制与高可靠部署等内容,适用于发电、输电、变电、配电、用电各环节的大模型系统建设与验收。

YD/T 7360-2026 人工智能关键基础技术 多智能体协同技术要求

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定多智能体协同的技术能力要求,涵盖多智能体通信能力、多智能体交互能力和多智能体服务能力三个部分,适用于指导智能体技术方开展多智能体协同系统研发,也可为多智能体协同技术应用方产品选型提供参考,是国内首批规范智能体协同的行业标准。

YD/T 7361-2026 人工智能关键基础技术 数据分析智能体技术要求

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定数据分析智能体的技术要求,包括基础技术能力、数据分析能力和服务成熟度三个部分,适用于指导智能体技术方开展数据分析智能体研发,以及应用方参照内容进行数据分析智能体选型,与YD/T 7360-2026多智能体协同技术要求同批发布。

GB/Z 236-2026 人工智能 检索增强生成系统评价指标与方法

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件面向检索增强生成(RAG)系统,规定检索准确性、召回覆盖、生成忠实度、答案相关性、时效性与抗干扰能力等评价指标,并给出评测数据集构建、测试流程与结果计算方法,明确对引用溯源与幻觉抑制的考核要求,为RAG系统的能力比对、产品选型与持续优化提供统一测评框架。

YD/T 7362-2026 人工智能关键基础技术 智能体开发平台技术要求

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定智能体开发平台的功能及性能指标,包括平台开发能力、平台管理能力和平台服务能力三个部分,适用于指导智能体技术方开展智能体开发平台研发,也可为智能体开发平台应用方产品选型提供参考,是智能体产业链平台层的基础标准,与多智能体协同、数据分析智能体等标准配套。

YD/T 7363-2026 人工智能关键基础技术 智能体服务应用技术要求

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定智能体服务应用技术要求,包括应用丰富度、应用优越度和应用成熟度三个方面,适用于智能体服务方和需求方对智能体服务应用能力进行全面评价,也适用于指导智能体服务应用能力的规划、设计和实现,填补了智能体应用侧能力评价的空白。

YD/T 7364-2026 人工智能关键基础技术 代理型人工智能系统技术要求

中华人民共和国工业和信息化部 发布:2026-08-17 生效:2026-12-01

工信部公告2026年第22号批准发布的通信行业标准,2026年12月1日实施。标准规定代理型人工智能系统的平台架构,明确其自治能力要求、代理型工作流技术要求及保障能力要求,适用于指导代理型人工智能系统供应方开展产品研发,可为代理型人工智能系统需求方产品选型提供参考,回应代理型人工智能自主决策带来的治理需求。

GB/Z 240-2026 人工智能 电力智能体通用技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,由南方电网数字电网集团牵头起草。文件规定电力行业智能体的通用技术要求,涵盖感知、规划、决策、执行与学习等能力要素,以及任务编排、工具调用、多智能体协同、人机协同接管与运行安全边界,适用于电网调度、设备巡检、故障处置、客户服务等场景的智能体系统建设与评价。

GB/Z 241-2026 人工智能 钢铁大模型服务能力成熟度评估

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件建立钢铁行业大模型服务能力的成熟度评估模型,划分等级并给出各等级在数据基础、模型能力、场景覆盖、系统集成、安全治理与运营保障等方面的评价要素与判定方法,为企业自评AI应用水平、明确改进路径、开展对标提供量化工具,与GB/Z 224场景分类、GB/Z 231数据集要求构成钢铁行业AI标准链。

GB/T 47863-2026 生成式人工智能技术应用社会影响 服务提供者合规管理指南

国家市场监督管理总局、国家标准化管理委员会 发布:2026-07-02 生效:2026-11-01

由国家市场监督管理总局和国家标准化管理委员会2026年7月2日发布、11月1日实施的国家推荐性标准,由全国智能技术社会应用与评估基础标准化工作组(SAC/SWG 35)归口,中国标准化研究院、清华大学等30家单位共同起草。标准为生成式人工智能服务提供者建立技术应用社会影响合规管理体系提供指南,以GB/T 35770-2022合规管理体系为基础,涵盖治理机构与管理职责、合规义务识别、社会影响风险评估、合规管理机制建设、持续监测改进等内容,附录列出技术与资质、服务行为、生成内容三大类常见合规义务及不符合现象清单。与GB/T 46800-2025评估指南相互衔接,共同构成生成式AI社会影响治理标准化支撑。

GB/Z 242-2026 人工智能 智能体技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,由中国电子技术标准化研究院牵头,联合小米、联通数据智能、华为、中国移动、奇虎、百度等三十余家单位起草,归口SAC/TC28 SC42。文件规定人工智能智能体的通用技术要求,涵盖能力要素、任务规划与编排、工具调用、记忆机制、多智能体协同、身份与权限控制、运行日志留存与人机接管等,为智能体产品研发、测试与部署提供统一技术基线。

GB/Z 243-2026 人工智能 端侧大模型推理引擎技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件面向手机、PC、可穿戴等终端上的大模型推理引擎,规定其模型加载与编译、算子库、内存与算力调度、量化压缩、功耗控制与跨芯片适配等技术要求与测试方法,明确端侧数据不出端、推理过程本地化等安全特性,为端侧AI的规模化落地与性能优化提供统一标准支撑,助力降低云端依赖并保护用户数据。

网络安全技术 人工智能安全能力成熟度评估方法(征求意见稿)

全国网络安全标准化技术委员会(TC260) 发布:2026-08-26 生效:未公布

全国网络安全标准化技术委员会2026年8月26日以网安秘字〔2026〕106号通知发布的7项国标征求意见稿之一,意见反馈截止2026年10月25日。该文件是我国首部AI安全能力成熟度评估国标草案,在GB/T 37988—2019基础上,将评估对象扩展至"数据—模型—应用"三大对象,构建覆盖39个过程域、10项安全能力、5级成熟度ASMM三维模型,按数据支撑类、模型技术类、应用服务类划分主体。上海人工智能创新中心、奇安信、阿里云、蚂蚁、科大讯飞、华为等60余家起草。

GB/Z 253-2026 人工智能 检索增强生成通用技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,与GB/Z 236评价指标与方法配套。文件规定检索增强生成系统的通用技术要求,涵盖知识库构建与更新、文档切分与向量化、检索召回与重排、提示词编排、生成控制与引用溯源等能力模块,明确权限继承、敏感信息过滤与生成内容安全要求,为RAG系统工程实现提供统一规范。

GB/Z 254-2026 人工智能 语言大模型云端推理部署工具链技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布。文件面向语言大模型的云端推理部署环节,规定模型转换与优化、服务编排、弹性扩缩容、批处理与流式输出、监控运维等工具链组件的功能与技术要求,明确部署过程中的模型资产保护、请求日志留存与数据安全边界,为云上大模型推理服务的工程化落地与跨平台迁移提供标准依据。

GB/Z 265-2026 人工智能+交通运输 应用安全指引

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-27 生效:2026-08-27

2026年8月27日随第37号国家标准公告发布,是第37号公告中少见的直接以安全为主题的AI应用标准。文件面向人工智能在交通运输领域的应用,系统梳理自动驾驶、智能调度、出行服务、车路协同等场景的安全风险,给出数据安全、模型安全、功能安全与运行安全方面的治理指引,明确训练数据合规、算法鲁棒性验证、失效降级与人工接管要求,为AI+交通运输健康发展划定安全底线。

GB/T 48073-2026 人工智能 深度学习框架功能要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-28 生效:未公布

2026年8月28日随第38号国家标准公告发布的271项推荐性国家标准之一。文件规定人工智能深度学习框架应具备的功能要求,涵盖张量计算、自动微分、模型定义与训练、分布式并行、算子扩展、模型导入导出与跨平台部署等能力,明确框架在版本兼容、安全机制与国产硬件适配方面的要求,为深度学习框架的研发评测、生态兼容与自主可控发展提供统一技术依据。

GB/T 48110-2026 人工智能 开源模型平台技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-08-28 生效:未公布

2026年8月28日随第38号国家标准公告发布。文件面向开源模型托管与协作平台,规定模型与数据集的发布管理、版本控制、许可证合规、下载分发、社区协作与安全检测等功能要求,明确平台对开源许可证声明、模型安全扫描与恶意代码防范的责任,为开源模型生态的规范化运营、知识产权合规与供应链安全治理提供标准支撑。

GB/Z 199-2026 人工智能辅助起草和审核合同服务总则

国家市场监督管理总局、国家标准化管理委员会 发布:2026-07-30 生效:2026-07-30

2026年7月30日随第32号国家标准公告发布,是本批24项国家标准化指导性技术文件中极具合规意义的一项。文件规定人工智能辅助起草与审核合同服务的总体原则、服务流程与质量要求,涵盖条款生成、风险识别、合规审查与版本比对等环节,明确训练语料与合同文本的保密义务、算法输出的人工复核责任以及服务留痕要求,为法律科技产品的合规设计与责任划分提供基础性标准指引。

GB/Z 203-2026 人工智能 工业大模型技术要求

国家市场监督管理总局、国家标准化管理委员会 发布:2026-07-30 生效:2026-07-30

2026年7月30日随第32号国家标准公告发布,与GB/Z 195工业智能体参考架构、GB/Z 204工业大模型体系架构同批。文件规定工业大模型的总体技术要求,涵盖工业知识注入、多模态工业数据接入、机理与数据融合建模、边缘部署与实时推理等能力,明确工业数据的分级保护、模型可靠性验证与失效处置要求,为制造业大模型产品研发、选型与验收提供统一技术依据。

规范性文件

人工智能安全治理框架2.0

国家互联网信息办公室等七部门 发布:2024-09-05 生效:2024-09-05

在1.0版本基础上进一步细化人工智能安全治理框架,涵盖AI系统全生命周期的安全治理要求。明确AI安全治理的四项基本原则(以人为本、安全可控、公平公正、公开透明),对AI研发者、提供者和使用者分别提出安全责任要求,重点强化生成式人工智能的安全治理措施,包括训练数据安全、模型安全、输出内容安全和应用安全等维度。

关于加强互联网信息服务算法综合治理的指导意见

国家互联网信息办公室等九部门 发布:2022-02-15 生效:2022-02-15

提出利用三年左右时间逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。明确算法备案、算法安全评估、算法监督检查等管理制度要求,是算法综合治理的纲领性文件。

工业和信息化部办公厅关于印发《人工智能中小企业创业支持计划(2026—2028年)》的通知

工业和信息化部办公厅 发布:2026-09-04 生效:2026-09-04

工业和信息化部办公厅印发《人工智能中小企业创业支持计划(2026—2028年)》,落实"人工智能+"行动要求,围绕人工智能创业企业需求部署要素供给、主体培育、开源赋能、服务保障四方面15项任务。数据方面要求实施工业数据筑基行动,支持组建数据合作联合体建设高质量行业数据集并有序向创业企业开放;合规方面围绕算法备案、科技伦理审查与安全测试评估提供专业服务,助力构建安全合规运营体系。

人工智能生成合成内容标识办法

国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局 发布:2025-03-14 生效:2025-09-01

国家互联网信息办公室等四部门以国信办通字〔2025〕2号印发《人工智能生成合成内容标识办法》,2025年3月14日公布,自2025年9月1日起施行。办法将标识分为显式与隐式两类,针对文本、音频、图片、视频、虚拟场景规定添加位置与方式,并要求在文件元数据中嵌入服务提供者名称或编码、内容编号等要素信息。内容传播平台须核验隐式标识并添加提示,任何组织和个人不得恶意删除、篡改、伪造、隐匿标识。

北京市关于加快智能体引领发展的若干措施

北京市发展改革委、北京市委网信办、北京市科委中关村管委会、北京市经济和信息化局 发布:2026-07-21 生效:未公布

北京市发展改革委、市委网信办、市科委中关村管委会、市经济和信息化局2026年7月21日联合印发,共四个方面10条。措施支持基础模型“摸高计划”和智能体驾驭层共性技术攻关,培育OPC创业新模式与Token经济,探索Token即服务、智能体即服务等商业模式及计费规范;探索建立智能体分级分类监管机制,支持建设“Token工厂”、探索发放Token券和智能体服务券。

成都市AI生成广告合规指引

成都市市场监督管理局 发布:2026-09-17 生效:未公布

成都市市场监督管理局2026年9月发布,系中西部地区首个专门针对AI广告领域的合规指引。指引界定AI生成广告概念与适用主体,要求依法标明“广告”并做好“本广告由AI技术生成”“含AI虚拟场景”等标识;列出负面清单,禁止未经同意使用可识别特定自然人的虚拟数字形象、声称AI虚拟人使用体验、AI换脸仿冒名人等行为,并压实广告主与平台主体责任。

四川省经济和信息化厅 四川省科学技术厅关于开展人工智能应用服务商培育专项行动的通知

四川省经济和信息化厅、四川省科学技术厅 发布:2026-09-16 生效:未公布

四川省经济和信息化厅、省科学技术厅2026年9月14日印发、9月16日发布。通知提出建立全省服务商资源池,到2027年底资源池内服务商不少于100家、组建“人工智能应用服务团”不少于10个;要求引导服务商将网络安全、数据安全、伦理治理、业务合规等管理要求内嵌到研发、部署、应用全流程,探索首购首用、风险补偿等方式加大大模型、智能体、Token等服务采购力度。

海口国家高新区支持开源智能体工具赋能人工智能产业发展若干措施

海口国家高新区管委会 发布:2026-07-10 生效:2026-07-10

海口国家高新区管委会2026年7月10日印发。措施面向人工智能产业领域企业、个人及社区运营主体,鼓励建设“OPC创业空间”“创客大本营”等专业社区,每年评估遴选1—3个优质社区给予50万元一次性奖励;对社区运营主体开通国际互联网数据专用通道按年度数据服务实际支出的30%给予最高30万元补贴,租用或购买算力资源按合同结算额30%给予最高40万元补贴;同时支持具身智能机器人应用场景开放。

最高人民法院关于依法审理涉人工智能纠纷案件的意见

最高人民法院 发布:2026-09-07 生效:未公布

最高人民法院2026年9月7日发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号),为首部涉人工智能司法裁判规则文件,共5部分24条。确立以人为本、支持创新发展、筑牢安全防线三项原则;为模型训练在合理范围内处理已合法公开的个人信息且个人未明确拒绝的,一般不认定侵害个人信息权益;明确“AI换脸拟声”“网络开盒”“大数据杀熟”等人格权、隐私权、消费者权益侵权认定规则。

可能影响未成年人身心健康的网络信息分类办法

国家互联网信息办公室、国家新闻出版署、国家电影局、教育部、工业和信息化部、公安部、文化和旅游部、国家广播电视总局 发布:2025-12-26 生效:2026-03-01

国家网信办等八部门联合印发,国信办通字〔2025〕5号,自2026年3月1日起施行。办法落实《未成年人网络保护条例》,将可能影响未成年人身心健康的网络信息分为四类:可能引发或诱导模仿不良行为、对价值观造成负面影响、不当使用未成年人形象、不当披露和使用未成年人个人信息。要求内容生产者与平台展示前显著提示、不在醒目位置呈现;提供算法推荐、生成式人工智能服务的不得向未成年人推送。

海南省人民政府办公厅关于印发《海南省推动“人工智能+”行动方案(2026—2028年)》的通知

海南省人民政府办公厅 发布:2026-02-18 生效:未公布

海南省人民政府办公厅2026年2月印发《海南省推动“人工智能+”行动方案(2026—2028年)》。方案以“4+N”场景应用攻坚为切入口,聚焦商业航天、深海科技、南繁种业、低空经济四大特色产业,建设自主可控算力底座与高质量行业数据集,同步部署数字政府、医疗健康、智慧交通等七大行业应用。保障措施提出出台数据跨境安全流动专项政策,推行算力券、模型券等政策工具,健全人工智能风险监测预警机制。

政务领域人工智能大模型部署应用指引

中央网络安全和信息化委员会办公室 国家发展和改革委员会 发布:2025-10-10 生效:未公布

本指引由中央网络安全和信息化委员会办公室、国家发展改革委于2025年10月10日联合印发。文件从应用场景、规范部署、运行管理三方面,为各级政务部门提供人工智能大模型部署应用的工作导向和基本参照,提出政务服务、社会治理、机关办公、辅助决策4大类13个具体场景,要求统筹集约部署、防止形成模型孤岛,落实大模型辅助型定位、防范幻觉风险,严防国家秘密和工作秘密等敏感信息输入非涉密大模型。

工业和信息化部办公厅关于开展人工智能应用服务商培育专项行动的通知

工业和信息化部办公厅 发布:2026-08-27 生效:2026-08-27

工业和信息化部办公厅2026年8月27日印发、8月31日公开的专项行动部署,落实“人工智能+”行动中培育应用服务商的安排。服务商指提供人工智能咨询规划、交付实施、运营管理、安全治理的机构,目标为2026年底全国资源池突破2000家、2027年底不少于3000家。部署建立资源池、提升服务供给、推动规模化应用、强化支撑保障四项任务,要求将网络安全、数据安全、伦理治理、业务合规内嵌研发部署应用全流程。

网络安全标准实践指南——智能体交互安全要求、AI浏览器安全实践指南(征求意见稿)

全国网络安全标准化技术委员会(TC260) 发布:2026-07-29 生效:未公布

全国网络安全标准化技术委员会秘书处2026年7月29日以网安秘字〔2026〕93号通知发布的两项实践指南征求意见稿,意见反馈截止2026年8月12日。《智能体交互安全要求》针对智能体跨主体交互场景,设立智能体唯一身份标识、对应凭证、访问控制、安全通信、加密、完整性校验和监控等安全要求;《AI浏览器安全实践指南》针对AI浏览器在自动化网页交互、跨站数据提取、用户行为代理等关键能力下的安全风险,提出涵盖人工确认高风险操作机制、供应链安全、通信与内容安全加固等综合防护体系,要求AI浏览器代理用户操作时须向网站表明AI身份。两项文件为AI产品研发、安全测评、合规运营提供统一指引。

成都市促进人工智能产业发展办法

成都市人民政府 发布:2026-07-28 生效:2026-09-01

成都市人民政府令第247号,2026年7月28日公布、9月1日施行,是全国首个人工智能领域的地方政府规章。办法确立“以人为本、科技引领、应用驱动、安全可控”原则,首创人工智能应用场景开放制度,推动场景建设由“政府点单”转向“市场揭榜”;聚焦经济、生活、城市治理三大领域推动融合应用,要求加强算力基础设施与公共数据开放共享、建设高质量训练数据集,并规定加强模型算法、数据资源、应用系统等安全能力建设。

行业规范

智能体支付应用自律公约

中国支付清算协会 发布:2026-08-24 生效:2026-08-24

中国支付清算协会在中国人民银行指导下制定、经第五届常务理事会第二次会议审议通过的行业自律文件,自发布之日起实施,共八章三十四条。公约适用于开展智能体支付应用的会员单位,在智能体管理方面要求基于KYC探索建立了解你的智能体(KYA)机制,对接入支付链路的智能体进行身份识别、验证与高中低风险分级分类管理;在授权管理方面要求明确交易限额、扣款账户与优先级、有效期等授权边界;在安全管理方面要求建立关键交易节点可信存证机制,将模型风险纳入全面风险管理体系,确保智能体参与的支付交易可解释、可审计;在风险管理方面要求智能体自主发起支付交易落地前须向协会报备。

其他

人工智能安全标准化白皮书

中国网络安全产业联盟(CSA) 发布:2023-08-05 生效:2023-08-05

中国电子技术标准化研究院编制的白皮书,系统梳理人工智能安全标准化现状、面临的挑战和发展趋势,提出AI安全标准体系框架,涵盖基础安全、数据安全、算法安全、应用安全、伦理治理等维度,为AI安全标准化工作提供战略指引和路线图。

网络安全标准实践指南 —— 生成式人工智能服务安全应急响应指南(征求意见稿)

全国信息安全标准化技术委员会 发布:2024-04-05 生效:未公布

针对生成式人工智能服务,提供安全应急响应指南。明确AI安全事件的分类分级、监测预警机制、应急响应流程、技术处置措施和信息披露要求,帮助生成式AI服务提供者建立完善的安全应急响应机制。(征求意见稿)

信息安全技术 生成式人工智能预训练和优化训练数据安全规范(征求意见稿)

全国信息安全标准化技术委员会 发布:2024-05-18 生效:未公布

针对生成式人工智能预训练和优化训练活动,规定训练数据的安全规范。包括训练数据的来源合法性要求、数据清洗要求、敏感信息过滤、数据标注质量、数据安全管理和个人信息保护要求,是生成式AI合规治理的重要技术标准。(征求意见稿)

网络安全标准实践指南 —— 人工智能生成合成内容标识 服务提供者编码规则

全国信息安全标准化技术委员会 发布:2024-01-15 生效:2024-01-15

为人工智能生成合成内容的服务提供者编码规则,建立统一的编码体系用于标识AI生成合成内容的服务提供者身份。编码包含服务提供者的基本信息、技术类型和服务范围,是实现生成合成内容可追溯、可审计的技术基础。

数据安全技术 基于个人信息的自动化决策安全要求

国家市场监督管理总局、国家标准化管理委员会 发布:2023-05-23 生效:2023-12-01

依据《个人信息保护法》第24条,规定基于个人信息进行自动化决策的安全要求。涵盖用户画像、算法推荐、自动化决策的公平公正要求、透明度要求、用户拒绝权和说明权保障,禁止对个人实行不合理的差别待遇等安全合规要求。

人工智能 计算设备调度与协同 第 2 部分:分布式计算框架(GB/T 45401.2-2025)

国家市场监督管理总局、国家标准化管理委员会 发布:2025-03-15 生效:2025-10-01

规定人工智能计算设备调度与协同中分布式计算框架的技术要求,涵盖资源管理、任务调度、数据分布、容错机制和性能优化等核心功能规范,适用于大规模AI模型训练和推理的分布式计算场景。

人工智能安全标准体系(V1.0)(征求意见稿)

全国信息安全标准化技术委员会秘书处 发布:2025-01-26 生效:未公布

构建人工智能安全标准体系框架1.0版,按照AI安全全生命周期和分层分类原则,系统梳理AI安全标准化需求,提出标准制定优先级和实施路线图。涵盖AI数据安全、算法安全、模型安全、应用安全、伦理治理等子体系。(征求意见稿)

网络安全标准实践指南 —— 人工智能生成合成内容标识方法 文件元数据隐式标识文本文件

全国信息安全标准化技术委员会 发布:2024-09-15 生效:2024-09-15

为人工智能生成合成内容的文件元数据隐式标识提供技术方法,针对文本文件类型。通过在文件元数据中嵌入不可见的数字标识信息,实现AI生成合成文本内容的溯源识别,支持内容审核和版权保护。(实践指南)

网络安全标准实践指南 —— 人工智能生成合成内容标识方法 文件元数据隐式标识图片文件

全国信息安全标准化技术委员会 发布:2024-09-18 生效:2024-09-18

为人工智能生成合成内容的文件元数据隐式标识提供技术方法,针对图片文件类型。通过在图片文件元数据中嵌入数字水印和标识信息,实现AI生成合成图片内容的溯源识别。(实践指南)

网络安全标准实践指南 —— 人工智能生成合成内容标识方法 文件元数据隐式标识音频文件

全国信息安全标准化技术委员会 发布:2024-09-20 生效:2024-09-20

为人工智能生成合成内容的文件元数据隐式标识提供技术方法,针对音频文件类型。通过在音频文件元数据中嵌入数字水印和标识信息,实现AI生成合成音频内容的溯源识别。(实践指南)

南京市人工智能产业发展和创新应用促进条例(草案)

南京市人民代表大会常务委员会 发布:2026-07-08 生效:未公布

南京市人大常委会2026年7月8日公布《南京市人工智能产业发展和创新应用促进条例(草案)》全文征求意见,反馈截止9月30日。草案共七章六十二条,构建“全链条、全要素、全周期”制度框架,涵盖科技创新、产业发展、融合应用、要素保障与安全治理,拟建立“一人公司”(OPC)系统性支持制度与创业失败帮扶机制,鼓励优先采购人工智能创新产品,支持开展自动驾驶商业化运营试点。

杭州市人工智能产业发展促进条例(草案)

杭州市发展和改革委员会(送审) 发布:2026-07-27 生效:未公布

杭州市发展和改革委员会 2026年7月27日草拟并送审的地市级人工智能产业促进立法草案,共九章七十三条。草案遵循创新驱动、应用牵引、开源开放、自主可控、以人为本、人机共生原则,全国首次将'开源开放'设为独立章节系统构建从开源社区、开源人才评价、开源基金会到开源安全分级的全链条制度体系,贯穿具身智能产业链上下游,首次将'词元'(Token)作为人工智能新型生产要素引入地方性法规并作出促进生产、配置、使用制度安排;明确建立市级算力协同调度机制、数据基础设施统筹机制、数据要素市场化配置机制,完善算法与模型公共服务平台、行业模型评测、人工智能监管沙盒等创新制度。征求意见截止2026年8月27日。

广州市人工智能发展促进条例(草案修改稿·征求意见稿)

广州市人民代表大会常务委员会 发布:2026-08-17 生效:未公布

广州首部人工智能领域专门地方性法规的草案修改稿,2026年8月17日公开征求意见,截止9月18日,拟于10月第三次审议并表决。征求意见稿共二十一条,首次系统提出构建“算力+数据”双底座,组织建设全市算力协同调度平台并探索算力资源市场化交易机制;建立包容审慎与分类分级监管制度,明确禁止歧视性输出、算法价格歧视、高风险场景未建立安全干预机制等五类行为,并要求落实数据安全、算法备案与科技伦理审查。

呼和浩特市网络虚假信息治理办法

呼和浩特市人民代表大会常务委员会 发布:2026-08-03 生效:2026-09-01

呼和浩特市人大常委会2026年6月23日通过、自治区人大常委会7月29日批准,8月3日公布,9月1日起施行,共二十六条。办法禁止借社会热点蹭炒热度牟利及批量注册操纵账号传播虚假信息;要求利用人工智能生成合成的文本、图片、音视频等按规定添加生成合成内容标识,虚构演绎内容须显著标记;压实平台真实身份核验、内容审核、算法推荐主流价值导向与投诉举报义务,建立跨部门执法协作与失信联合惩戒机制。