中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段成效：清理违法信息561万余条，查处账号4.9万余个

本次专项行动持续4个月、分两个阶段推进。第一阶段为“AI应用服务典型违规问题”专项治理，重点整治未按规定履行大模型备案登记义务、平台安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等七类问题，从技术源头强化治理。

第二阶段为“AI信息内容乱象”整治，指向利用AI生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等情形，依法处置违规账号、MCN机构和网站平台，并依法查处违规移动应用程序。

截至目前，专项行动累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。中央网信办同步通报了部分典型案例，涉及AI“魔改”经典与生成“数字泔水”、AI制作发布虚假不实信息、AI假冒仿冒他人、AI侵害未成年人权益、AI产品服务和应用程序违规等情形。

从合规视角看，本阶段把“生成合成内容标识落实”与“训练语料来源合规”同时列为整治重点，与《人工智能生成合成内容标识办法》及配套强制性标准、《生成式人工智能服务管理暂行办法》形成直接对应。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台已进一步强化技术识别与常态化治理机制。