中央网信办深入整治AI应用乱象

2026年09月03日 07:51:18

记者2日从中央网信办获悉：中央网信办近期组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI（人工智能）制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息，依法查处违规账号和移动应用程序，有效遏制AI生成合成信息内容乱象，推动AI应用服务健康有序发展。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

　　专项行动开展以来，各地网信部门切实履行属地监管责任，因地制宜推出一系列针对性治理措施。网站平台积极响应专项行动部署安排，持续健全AI内容常态化治理机制。

　　专项行动期间，一批违法违规账号和应用受到处理。为进一步加强警示教育，网信部门通报了部分典型案例。这些典型案例包括：一是利用AI“魔改”经典、生成“数字泔水”。二是AI制作发布虚假不实信息。三是AI假冒仿冒他人。四是制作发布暴力低俗等信息。此外，典型案例还包括AI侵害未成年人权益、利用AI“托管”从事网络水军活动、AI产品服务和应用程序违规等情形。（记者金歆）

来源：人民日报责编：侯翔宇