IT酷哥 6 月 13 日消息，据网信上海官方公众号，上海市委网信办现已公布“清朗・整治 AI 技术滥用”专项行动第一阶段工作成果。

IT酷哥参考通报获悉，上海市委网信办在专项行动中指导小红书、哔哩哔哩、拼多多等 15 家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规 AI 产品、商品及相关营销、炒作、推广、教程信息。在各重点网站和 AI 平台共拦截清理相关违法违规信息 82 万余条，处置违规账号 1400 余个，下线违规智能体 2700 余个。

其他方面，上海市委网信办已对 33 款已完成备案、登记提供医疗健康、金融、教育、情感陪伴服务的 AI 应用开展督导检查，要求相应应用完善行业领域安全审核和控制机制，加强专业知识库和检索增强能力建设，提升输出准确性，防范虚假、误导、诱导沉迷对患者、投资者、未成年人带来的不良影响。

后续，上海市委网信办将开启“清朗・整治 AI 技术滥用”专项行动第二阶段，聚焦 AI 造谣、低俗内容等 7 类突出问题加大整治力度，维护网络生态。