处罚日期:2023-08-28
罚款:CNY 0.00
北京互联网法院判决某AI换脸App未经授权使用他人人脸信息生成换脸视频构成侵权案(2023年8月)
处罚单位
北京互联网法院
被处罚单位
某AI换脸App开发运营公司
处罚措施:立即停止侵权,删除涉案视频,登报道歉,赔偿损失
【案件背景】
原告廖某某是抖音平台上拥有百万粉丝的短视频创作者(穿搭博主)。2022年12月,原告发现被告某AI换脸App运营公司(以下简称“涉案公司”)未经其授权,在其运营的AI换脸App中提供了原告的多段视频作为“换脸模板”,用户可以选择原告的视频模板,将自己的脸替换到原告的身体上,生成新的换脸视频。原告认为涉案公司未经授权使用其肖像(人脸信息和整体形象),构成对其肖像权、个人信息权益的侵害。北京互联网法院于2023年8月作出判决。
【违法事实】
经审理查明:
(1)涉案公司运营的AI换脸App中,设置了“模板广场”功能,提供了包括原告在内的数百位网络红人的视频作为换脸模板。涉案公司辩称这些视频来自于“用户自主上传”,但技术鉴定发现,涉案公司在后台主动从抖音等平台批量抓取了高人气创作者的公开发布视频,利用人脸检测算法提取视频中的人脸区域,将其制备成可供替换的模板。该行为未经视频中任何个人的授权同意。
(2)涉案公司利用深度合成(Deepfake)技术,对原告视频进行面部特征提取、面部关键点检测和人脸三维重建,该过程涉及对原告人脸生物识别信息的系统性处理。但涉案公司从未向原告告知该处理行为,也未获得原告的任何形式的同意。
(3)涉案公司的换脸技术在生成视频时,保留了原告的身体形态、服装、动作、场景等全部视觉元素,仅替换了面部区域。虽然面部被替换,但原告的整体形象(身材、服装风格、拍摄场景)仍具有可识别性——特别是原告的粉丝群体能够通过视频中的其他特征识别出原告。
(4)涉案公司的App中,部分用户将换脸后的视频用于不当目的(如制作含有原告“出演”的带有性暗示的视频),上传至公开社交媒体,对原告的名誉和商业价值造成了实际损害。
(5)涉案公司作为深度合成服务提供者,未按照《互联网信息服务深度合成管理规定》(2023年1月10日生效)的要求:对生成内容添加显式标识以提示公众该内容为深度合成;建立内容审核机制;对使用人脸信息的模板进行单独的风险评估和权限管理。
【裁判结果】
北京互联网法院于2023年8月28日作出(2023)京0491民初XXXX号民事判决:
(一)涉案公司立即停止侵权行为,删除App内所有包含原告肖像的换脸模板及生成内容;
(二)涉案公司在判决生效后15日内在《人民法院报》以及涉案App首页刊登道歉声明,消除影响;
(三)涉案公司向原告赔偿经济损失及合理维权费用共计人民币XX万元。
法院在判决中指出:深度合成中的人脸信息属于敏感个人信息,利用他人人脸信息生成换脸视频的行为,须取得信息主体的明确单独同意。未经同意使用他人人脸信息和肖像,不仅侵害肖像权,还侵害个人信息权益。深度合成服务提供者不能以“技术中立”或“用户上传”为由,免除其对模板来源合法性的审查义务。
【典型意义】
本案是深度合成(AI换脸)领域的标志性司法判例,对于生成式AI时代的个人信息保护具有里程碑意义:
第一,法院明确了深度合成中的“人脸信息”处理属于敏感个人信息处理,须取得单独同意。“公开可获取”的视频不能作为企业未经同意进行人脸信息提取和处理的正当理由。
第二,深度合成服务提供者不能以“用户上传”为由推卸内容审核责任。平台对模板来源的合法性负有主动审查义务。
第三,本案首次在司法层面将《深度合成管理规定》的要求与民事侵权责任衔接——平台未履行添加显式标识、内容审核等管理义务,构成侵权责任的加重情节。
第四,判决确认了即使换脸后视频中的面部已被替换,只要身体形象、动作、场景等其他元素仍可指向特定主体,就仍然构成对肖像权的侵害——这一认定扩展了AI换脸场景下肖像权保护的范围。
原告廖某某是抖音平台上拥有百万粉丝的短视频创作者(穿搭博主)。2022年12月,原告发现被告某AI换脸App运营公司(以下简称“涉案公司”)未经其授权,在其运营的AI换脸App中提供了原告的多段视频作为“换脸模板”,用户可以选择原告的视频模板,将自己的脸替换到原告的身体上,生成新的换脸视频。原告认为涉案公司未经授权使用其肖像(人脸信息和整体形象),构成对其肖像权、个人信息权益的侵害。北京互联网法院于2023年8月作出判决。
【违法事实】
经审理查明:
(1)涉案公司运营的AI换脸App中,设置了“模板广场”功能,提供了包括原告在内的数百位网络红人的视频作为换脸模板。涉案公司辩称这些视频来自于“用户自主上传”,但技术鉴定发现,涉案公司在后台主动从抖音等平台批量抓取了高人气创作者的公开发布视频,利用人脸检测算法提取视频中的人脸区域,将其制备成可供替换的模板。该行为未经视频中任何个人的授权同意。
(2)涉案公司利用深度合成(Deepfake)技术,对原告视频进行面部特征提取、面部关键点检测和人脸三维重建,该过程涉及对原告人脸生物识别信息的系统性处理。但涉案公司从未向原告告知该处理行为,也未获得原告的任何形式的同意。
(3)涉案公司的换脸技术在生成视频时,保留了原告的身体形态、服装、动作、场景等全部视觉元素,仅替换了面部区域。虽然面部被替换,但原告的整体形象(身材、服装风格、拍摄场景)仍具有可识别性——特别是原告的粉丝群体能够通过视频中的其他特征识别出原告。
(4)涉案公司的App中,部分用户将换脸后的视频用于不当目的(如制作含有原告“出演”的带有性暗示的视频),上传至公开社交媒体,对原告的名誉和商业价值造成了实际损害。
(5)涉案公司作为深度合成服务提供者,未按照《互联网信息服务深度合成管理规定》(2023年1月10日生效)的要求:对生成内容添加显式标识以提示公众该内容为深度合成;建立内容审核机制;对使用人脸信息的模板进行单独的风险评估和权限管理。
【裁判结果】
北京互联网法院于2023年8月28日作出(2023)京0491民初XXXX号民事判决:
(一)涉案公司立即停止侵权行为,删除App内所有包含原告肖像的换脸模板及生成内容;
(二)涉案公司在判决生效后15日内在《人民法院报》以及涉案App首页刊登道歉声明,消除影响;
(三)涉案公司向原告赔偿经济损失及合理维权费用共计人民币XX万元。
法院在判决中指出:深度合成中的人脸信息属于敏感个人信息,利用他人人脸信息生成换脸视频的行为,须取得信息主体的明确单独同意。未经同意使用他人人脸信息和肖像,不仅侵害肖像权,还侵害个人信息权益。深度合成服务提供者不能以“技术中立”或“用户上传”为由,免除其对模板来源合法性的审查义务。
【典型意义】
本案是深度合成(AI换脸)领域的标志性司法判例,对于生成式AI时代的个人信息保护具有里程碑意义:
第一,法院明确了深度合成中的“人脸信息”处理属于敏感个人信息处理,须取得单独同意。“公开可获取”的视频不能作为企业未经同意进行人脸信息提取和处理的正当理由。
第二,深度合成服务提供者不能以“用户上传”为由推卸内容审核责任。平台对模板来源的合法性负有主动审查义务。
第三,本案首次在司法层面将《深度合成管理规定》的要求与民事侵权责任衔接——平台未履行添加显式标识、内容审核等管理义务,构成侵权责任的加重情节。
第四,判决确认了即使换脸后视频中的面部已被替换,只要身体形象、动作、场景等其他元素仍可指向特定主体,就仍然构成对肖像权的侵害——这一认定扩展了AI换脸场景下肖像权保护的范围。