中央网信办部署开展“清朗·整治AI应用乱象”专项行动

        近日，中央网信办在全国范围内部署开展为期4个月、分两个阶段推进、聚焦14类突出问题的“清朗·整治AI应用乱象”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，保障公民合法权益。

　　中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，强化AI技术源头治理。第二阶段为“清朗·整治AI信息内容乱象”专项行动，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。中央网信办要求各地网信部门充分认识专项行动对于推动AI应用规范有序发展、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照整治重点，深入自查自纠，全面排查问题漏洞，完善长效治理机制，有效提升技术防治能力，确保专项行动取得实效。

　　据悉，第一阶段重点整治7类突出问题：一是未按规定履行大模型备案登记义务。二是AI平台安全和审核过滤能力不足。三是大模型训练语料安全问题。四是AI数据投毒问题。五是生成合成内容标识落实不到位。六是滥用AI技术开展违法违规活动。七是开源模型安全管理不到位。其中，未按规定履行大模型备案登记义务，是指未按照《生成式人工智能服务管理暂行办法》规定，向网信部门履行备案登记程序，存在“应备未备”情形。

　　第二阶段同样重点整治7类突出问题，分别是利用AI“魔改”经典、生成“数字泔水”，制作发布虚假不实信息，假冒仿冒他人，制作发布暴力低俗等不良信息，侵害未成年人权益，利用AI“托管”从事网络水军活动，AI产品服务和应用程序违规。