近日，网信部门针对利用人工智能技术假冒仿冒公众人物开展集中整治，累计清理违法违规信息4.7万余条，处置违规账号3961个。此次专项治理聚焦虚假带货、吸粉引流、炮制谣言及低俗恶搞等违规行为，重点打击了未经授权仿冒名人肖像声音、编造患病谣言、以第一人称发布虚假情感话术以及生成低俗亲密互动画面等四类突出形态。
这一整治行动深度嵌入2026年网信部门持续推进的AI乱象治理框架之中。此前，中央网信办已于9月部署“清朗·整治AI应用乱象”专项行动第二阶段工作，并将假冒仿冒他人列为核心整治对象，同时在短视频虚假人设专项行动中明确指向AI合成虚假音视频实施的恶意营销。
随着生成式人工智能技术的普及，深度伪造与虚假人设的泛滥对公众认知与市场秩序造成了严重干扰。此次集中处置压实了平台主体责任，通过全链条打击遏制了技术滥用势头，对于净化网络生态、维护公众合法权益以及引导人工智能产业合规健康发展具有重要的行业警示与规范意义。
中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段成果，重点治理利用AI制作虚假信息、传播暴力低俗内容、假冒仿冒及侵害未成年人等问题。目前已清理违法信息超561万条，查处违规账号4.9万余个，处置违规网站及APP逾2400个，全面遏制AI技术滥用乱象。
中央网信办推进“清朗·整治AI应用乱象”第二阶段，重点打击利用AI制作虚假信息、传播暴力低俗、假冒仿冒及侵害未成年人等行为。目前已清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用2400余个，平台与厂商同步加强内容治理。
马斯克推荐Grok新版本，公开以科比AI合成视频实测。Grok不仅逐帧解析画面与台词，精准提取曼巴精神等细节，更最终判定其为深度伪造，展示了强大的视频理解与交互能力。
xAI起诉男子滥用Grok生成儿童性虐待材料。该男子曾因性剥削未成年人被捕，被控将成人与未成年人普通照片上传至Grok，试图生成深度伪造色情内容，违反了服务条款。xAI已向得州联邦法院提交诉状。
马斯克的AI公司xAI主动起诉用户特里·哈伍德，指控其滥用Grok生成儿童性虐待材料。该男子今年2月已因性剥削未成年人被捕。xAI已向得克萨斯州联邦法院提交诉状，这一做法在业界极为罕见，彰显对违法内容的零容忍。
关注 “悠AI” 更多干货技巧行业动态
相关文章
