xAI再遭集体诉讼：Grok被指未设行业标准防护、可生成儿童性虐待深度伪造内容

原告主张，Grok的模型训练和生成机制缺乏对儿童图像和性虐待材料的有效过滤，使得用户可以生成高度逼真的儿童深伪内容，这不仅违反平台自身的服务条款，也触犯相关刑事法律和民事侵权责任。

此案与此前针对Grok的隐私集体诉讼（涉用户数据跨境移送问题）系不同案件，凸显xAI在AI安全治理上面临的多线法律风险。随着生成式AI技术的快速普及，围绕深伪内容的责任分配已成为各国监管和司法关注的重点。

在美国，联邦和州层面均出现针对AI深伪生成工具的立法与执法行动，包括要求生成平台承担内容标识义务、强化对儿童保护材料的检测等。此案的审理结果可能为AI平台在内容安全方面的注意义务设定新的司法标准。

对AI服务提供者而言，此案再次提示：模型训练数据的合规性、生成内容的过滤机制以及针对未成年人的保护措施，正成为AI合规评估中不可回避的核心议题。