被AI换脸、遭“网络开盒”？最高法明确裁判规则

9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（简称《意见》）。这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。

区别于此前的文件，《意见》聚焦AI技术应用引发的侵权、知识产权、消费者权益等案件审判，为急速狂奔的AI产业建立了一套基本的“交通规则”。

在此之前，AI领域的很多行为处于“无法可依”的灰色地带。《意见》强化法律边界，明确技术开发者与使用者需担责、人格权与隐私权保护升级、消费者权益保障加强。

《意见》共5个部分24条，在明确涉人工智能纠纷案件审理的指导思想和基本原则基础上，分别就侵权行为的司法规制、知识产权案件审理、审理程序规则以及纠纷化解工作机制等作出规定。内容聚焦AI换脸拟声、网络开盒、大数据杀熟、自动驾驶等社会各界高度关注的问题，明确了相应的裁判规则。

答记者问环节，最高法相关部门负责人在回答关于“AI换脸拟声”“网络开盒”等侵害人格权益的热点问题时补充称，要以包容审慎的态度平衡人格权益保护与人工智能产业发展，但包容并不等于纵容，审慎也不等于放任。

因此，《意见》针对性规定依法规制“AI换脸拟声”等利用人工智能侵害肖像权、名誉权、声音权益的行为。相关部门负责人表示，实践中，反映最强烈的是AI深度伪造。比如，AI换脸技术可以无差别地“收割”所有人的肖像，普通人也可能成为深度伪造的“目标”；以及使用AI拟声技术，花几元钱就能“偷声”，效果足以乱真。

《意见》第四条明确规定：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害；操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。

此外，针对社会关注的“AI复活逝者”现象，《意见》也专门作出规定，依法保护死者的人格利益。

这一规则的重要性在于，司法保护对象已经从传统的照片、姓名、声音等人格要素，延伸至AI生成的“数字人格”。随着数字人、AI主播、明星数字分身等应用快速发展，“技术上能不能复制”与“法律上能不能使用”之间正在形成越来越清晰的边界。

在隐私权保护方面，最高法首次明确将利用AI实施“网络开盒”“人肉搜索”等行为纳入隐私权侵权的司法规制范围。

《意见》明确，以刺探隐私为目的，利用人工智能对特定自然人的电话号码、网络账号、社交媒体等公开信息进行追踪、分析，获取私密信息，或者将获取的信息泄露、公开、侵扰私人生活安宁的，应当认定构成隐私权侵害；利用AI对特定自然人的私密空间、私密活动实施拍摄、窥视、窃听等行为的，同样应依法认定侵权。

“开盒”顽疾由来已久。第一财经此前调查发现，在境外即时通讯软件Telegram上，有提供开盒服务的账号列出了从身份证信息到户籍、婚姻记录、出入境记录、外卖住址、名下资产流水等50多项用户隐私信息，只要用户充值足够金额均可获取。

多位安全行业人士对记者表示，“开盒”难根治，原因在于涉及产业链环节过多，且需要平台侧、监管侧共同努力，需要持有数据的机构进行重投入维护，非朝夕间可解决的问题。

《意见》此次明确的规定，回应了AI时代的新问题：AI正在降低“从公开信息拼出个人隐私”的技术门槛。过去需要人工搜索、交叉比对的大量信息，如今可以交由AI快速关联、分析和推断。但公开信息并不意味着可以被AI无限制地聚合、分析并进一步用于刺探隐私，这实际上为AI时代的数据使用划出了新的司法边界。

此外，《意见》在消费者权益保护方面明确，利用AI仿冒名人带货并构成欺诈的，消费者可主张惩罚性赔偿；经营者利用算法实施不合理差别待遇并造成损害的，应承担侵权责任。针对自动驾驶事故责任、AI模型训练数据合规、开源软件法律适用、知识产权保护等新型纠纷，《意见》也分别作出相应规定。

从AI产业发展阶段看，《意见》的意义已超出对热点乱象的回应。随着生成式AI从聊天工具进入数字人、内容生产、搜索、交易乃至自动驾驶等现实场景，AI的影响正从生成内容转向直接影响个人权益和现实社会。

需要强调的是，此次最高法通过司法裁判规则明确：AI不是责任主体的免责工具，技术开发者、服务提供者、经营者及实际使用者，均需在相应行为中承担法律责任。

为此，《意见》首次参照适用“避风港规则”，明确了生成式AI服务提供者的责任边界。最高法相关部门负责人解释，AI服务提供者难以事先预知用户输入的内容，也无法逐一审查生成结果，但侵权内容生成后，经权利人通知，服务提供者应当、也有条件采取必要措施，因此具有参照适用“避风港规则”的合理性。

据此，《意见》明确：AI自动生成内容侵害人格权益，经权利人通知，服务提供者未及时采取停止生成等必要措施的，应承担侵权责任；用户恶意诱导AI生成侵权内容，该用户担责，服务提供者未及时采取必要措施的，权利人可请求二者共同承担责任。