杭州互联网法院审理生成式AI服务提供者因训练数据侵权被判停止侵权并删除涉事模型案（2024年6月）

【案件背景】
原告小李工作室（化名）是一家专业从事二次元角色插画创作的团队，在国内外插画社区拥有大量粉丝。原告发现被告某生成式AI图像服务提供公司（以下简称“涉案公司”）开发的AI图像生成模型，可以高度精准地生成与原告原创角色和绘画风格几乎无法区分的图像。经技术分析，原告认定涉案公司的AI模型使用了原告在网络上公开的数千幅作品作为训练数据，且模型输出的图像实质上是对原告作品的“风格模仿”和“元素重组”，构成对原告著作权和竞争利益的侵害。原告于2024年1月向杭州互联网法院提起诉讼。

【违法事实】
经审理查明：
（1）涉案公司承认其AI图像生成模型的训练数据集包含了从互联网公开来源抓取的海量图像数据，其中包括原告在Pixiv、微博等平台公开发布的大量插画作品（经鉴定确认有超过3000幅）。涉案公司获取这些图像用于AI模型训练时，从未取得原告的授权。
（2）在原告发起停止侵权的投诉后，涉案公司采取了“输出端屏蔽”措施——在模型生成结果中屏蔽了包含“原告笔名”和“原告代表角色名”的提示词生成的图像。但经技术鉴定，以描述性提示词（如“银发蓝瞳持剑少女、赛博朋克风格、柔和光影、厚涂技法”）替代直接名称后，生成的图像仍然与原告作品风格高度近似——一般观察者难以区分AI生成图像与原告原作的差异。法院认定：输出端的提示词屏蔽不足以阻止侵权内容的生成，实质上是侵权的持续。
（3）涉案公司辩称模型训练属于“合理使用”——AI仅从图像中学习“风格、构图、色彩搭配”等抽象概念，而非复制具体图像。但技术专家鉴定指出，涉案模型的训练方式（扩散模型+CLIP文本编码器）实际上将训练图像压缩编码为模型参数（权重），而参数化的模型可以在输出阶段通过适当的提示词召回与特定训练样本高度相似的图像——即存在“训练数据记忆”（Memorization）现象。这超越了“学习风格”的范畴，构成了对原始图像的实质利用。
（4）涉案公司未按照《生成式人工智能服务管理暂行办法》（2023年8月15日生效）的要求，对训练数据的来源合法性进行审查，也未建立训练数据知识产权合规体系。其训练数据来源仅标注为“公开互联网数据”，无法提供数据清洗、授权验证和合规审核的完整记录。
（5）涉案公司利用AI模型向用户提供付费图像生成服务（订阅制），从侵权内容中直接获取了商业利益。

【裁判结果】
杭州互联网法院于2024年6月20日作出一审判决：
（一）认定涉案公司未经授权使用原告作品训练AI模型的行为构成对原告著作权中复制权和改编权的侵害；
（二）涉案公司应立即停止使用包含原告作品的训练数据集，并在判决生效后30日内删除因使用原告作品训练而取得的AI模型权重参数中与原告作品相关的部分（或整体删除涉事模型）；
（三）涉案公司向原告赔偿经济损失人民币XX万元；
（四）涉案公司在判决生效后10日内在AI模型使用协议中增加知识产权合规条款，并建立训练数据来源合法性的审查和记录机制。
法院在判决中特别指出：生成式AI技术的发展不应以牺牲原创者合法权益为代价。“合理使用”制度的适用边界应在个案中考量技术特性、市场替代效应和对原创者创作激励的影响。

【典型意义】
本案是国内法院首次判决要求生成式AI服务提供者因训练数据侵权而“删除涉事模型”的标志性案例：
第一，法院否定了AI企业“公开数据即可自由用于模型训练”的主张，明确了将他人作品纳入AI训练数据集须取得授权或以明确的合理使用/法定许可为基础。
第二，对于输出端关注，法院认定仅通过提示词屏蔽不足以阻止侵权。如果模型的参数（权重）中已经“记忆”了训练样本的特征，那么在输出端屏蔽将不足以达成停止侵权的效果——这与传统搜索引擎的“通知-删除”规则不同，预示着AI领域的“通知-删除”规则将发展为更深入模型层面的“通知-遗忘”机制。
第三，本案对AI行业产生了巨大的震动效应：多家AI公司开始仓促审查训练数据来源的合法性，与内容创作者签订数据授权协议，并探索数据来源追溯和版权合规的自动化技术。
第四，法院在判决中承认了技术复杂性（“模型权重中与原告作品相关的部分”难以精确分离），允许以整体删除涉事模型作为替代方案，这为后续类似案件的判决执行提供了现实可行的路径。