上海网信办开展专项整治：54款违规AI应用下架，3家网站被立案处罚

上海市网信办近期发起了一项名为 “AI 滥用” 的专项执法行动，着力整治生成式人工智能的违规使用。随着生成式人工智能快速普及，这项技术为各行业带来便利，但也出现了滥用问题，例如 AI 换脸、AI 变声等侵权现象。这些行为既威胁个人隐私权益，也可能损害网络生态。

在此次行动中，执法人员发现部分企业在开发和使用生成式人工智能时未按规定开展安全评估，也未落实必要的安全防护措施，导致技术被用于换脸、变声、伪造等侵权用途，并可能生成违法内容，例如 “开盒”、洗钱及低俗色情图片等。

专项整治的重点是遏制 AI 滥用，促进新兴产业健康有序发展。为加强监管，网信办指导属地应用商店下架了 54 款违规的生成式人工智能应用。同时，依据《人工智能生成合成内容标识办法》，专家团队为企业提供实务解读，解答合规难题。

在处罚方面，网信办对此前被要求下线相关功能的 26 家生成式人工智能服务网站开展回头检查，确保问题不再出现。对于 3 家拒不整改的网站，首次适用《生成式人工智能服务管理暂行办法》进行立案处罚。同时，对 首次违规的企业给予免罚机会，要求其下线相关违法功能并在指导下完成备案。

划重点:  

🌟 54 款违规生成式人工智能应用已下架，专项行动加大监管力度。  

🔍 3 家拒不整改的网站被立案处罚，首次适用相关管理办法。  

🚀 企业合规意识明显提升，助力新技术健康发展。