以安全治理护航人工智能产业创新:《人工智能安全治理框架3.0》与《智能体规范应用与创新发展实施意见》划定智能体全周期合规边界

2026-09-25
资讯

以安全治理护航人工智能产业创新:《人工智能安全治理框架3.0》与《智能体规范应用与创新发展实施意见》划定智能体全周期合规边界
9月25日,媒体刊发《以安全治理护航人工智能产业创新》一文指出,2026年国家网络安全宣传周期间发布的《人工智能安全治理框架3.0》延续“风险分类、技术应对、综合治理”的核心逻辑,为智能时代的安全治理提供了系统性方案。

文章强调,不同于以内容生成为主的传统大模型,智能体具备自主感知、规划任务、调用工具、执行操作的能力,已与科研制造、民生服务、社会治理等领域深度融合。与此同时,AI驱动的网络攻击呈现智能化、自动化、隐蔽化特点,攻击对象从服务器、网络边界拓展至大模型、智能体与核心数据,权限调用、工具执行环节成为新的风险突破口。

在制度层面,我国虽尚未出台人工智能综合性专门法律,但依托现有法律政策已搭建较完备的治理体系。《人工智能安全治理框架3.0》《智能体规范应用与创新发展实施意见》等文件明确要求把安全可控贯穿智能体研发、部署、应用全周期,对AI供应链安全、分类分级治理、产业协同作出系统性制度安排,为产业发展划定清晰的安全边界。

文章提出的治理路径具有明确的分级思路:对政务、金融、公共安全等高风险领域严格落实备案、安全检测、问题召回制度;对休闲娱乐等低风险场景更多依托行业自律,避免“一刀切”束缚创新活力。同时指出部分经营主体存在“重演示效果、轻生产级可靠性”“重单点模型优化、忽视全供应链风险”的问题。

该评论与近期监管动向形成呼应:网信部门“清朗·整治AI应用乱象”专项行动将“未按规定履行大模型备案登记义务、安全审核能力不足”列为重点,国家网信办亦公布过提供生成式人工智能服务未按规定进行安全评估的执法案例。对AI服务提供者而言,备案、安全评估与标识义务已进入常态化执法阶段。

合规专题: 算法与大模型 风险评估 数据分类分级

来源:中国经济网

来源网址: https://www.toutiao.com/article/7689267431612760610/