上海市委网信办指导小红书、B站、拼多多等平台清理违规 AI 产品及信息

 6 月 12 日消息，IT之家从“网信上海”微信公号获悉，为贯彻落实中央网信办“清朗・整治 AI 技术滥用”工作部署，4 月下旬以来，上海市委网信办聚焦 6 类突出问题深入开展第一阶段专项行动。现向社会公布阶段性工作成果，进一步凝聚共识，共同营造清朗网络生态。

上海市委网信办指导小红书、哔哩哔哩、拼多多等 15 家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规 AI 产品、商品及相关营销、炒作、推广、教程信息。小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害 AI 内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和 AI 平台共拦截清理相关违法违规信息 82 万余条，处置违规账号 1400 余个，下线违规智能体 2700 余个。经整治，网络违规 AI 信息显著减少。

上海市委网信办深化大模型合规指导服务中心作用，指导各类提供生成式人工智能服务的主体落实合规义务，强化安全评估，迄今已完成 82 款大模型备案，87 款应用登记。对 3 款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚。