9月2日，中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段工作情况：豆包、元宝、千问、文心一言等头部AI大模型平台被网信部门督促开展专项自查，强化涉未成年人有害信息的识别与拦截能力。通报同时披露，专项行动开展以来，全国网信部门累计清理违法违规信息561万余条，处置违规账号4.9万余个，下架违法违规网站平台及应用2400余个。

此次专项行动于今年5月部署，为期4个月，分两个阶段推进：第一阶段聚焦技术源头治理，整治大模型未备案、审核过滤能力不足、训练语料不安全等问题；第二阶段转向信息内容乱象，集中清理利用AI生成的违法不良信息。

第二阶段通报了7类典型问题：利用AI“魔改”《西游记》等经典名著人物形象博取流量；AI合成灾害救援、社会热点类虚假信息；批量生成恶俗低趣味图文视频用于营销引流；AI合成“危险种植”“天灾预警”等灾情谣言；滥用“一键脱衣”等功能侵害未成年人权益；利用AI数字人冒充他人直播带货；以及部分网站平台提供违规角色扮演对话、违规App被下架置灰等。

被督促自查的大模型平台均已采取整改措施。通报显示，豆包、元宝、千问、文心一言及微信、百度、抖音、快手、小红书、知乎、微博等平台强化了审核功能，包括优化多模态识别模型、动态更新风险题库、完善实时预警系统，并落实AI生成合成内容标识要求，从源头减少违法违规信息的生成传播。小米、OPPO、vivo等应用商店同步落实App上架审核规范，对存疑App开展复测拦截。

地方层面，上海指导本地重点平台开展合规测试，浙江对重点平台开展“一屏一线”合规指导，广东对重点网站平台集中约谈，对应用违规问题点对点督促整改。

随着生成式人工智能用户规模快速扩大，AI生成内容治理已成为监管常态化课题。从2023年《生成式人工智能服务管理暂行办法》出台，到《人工智能生成合成内容标识办法》自2025年9月起施行，AI内容治理的制度框架正逐步织密。中央网信办表示，将健全常态化治理机制，持续压实平台主体责任，推动AI行业规范健康发展。

文｜记者 沈钊