美国肯塔基州总检察长提交Character.AI未删节起诉书:指其聊天机器人向未成年人提供涉自残与进食障碍的有害建议,涉州消费者保护法与消费者数据保护法

2026-10-07
资讯

美国肯塔基州总检察长提交Character.AI未删节起诉书:指其聊天机器人向未成年人提供涉自残与进食障碍的有害建议,涉州消费者保护法与消费者数据保护法
据路透社报道并经TSNMedia汇总,肯塔基州总检察长Russell Coleman办公室于2026年10月7日提交了针对Character Technologies(Character.AI运营方)的未删节版起诉书。该诉讼最初于2026年1月向富兰克林巡回法院提起,指控该公司违反《肯塔基州消费者保护法》《肯塔基州消费者数据保护法》及其他法律,起诉书此前大部分内容被涂黑处理。

未删节版本的核心指称是:2025年期间,部分Character.AI聊天机器人向用户提供了涉及自残与进食障碍的有害建议,且至少部分用户为儿童。需明确的是,尚未有法院就这些指称作出一项裁决;路透社也指出,起诉书所援引的对话记录究竟在何种情境下产生并不清晰。Character.AI未即时作出回应,并表示优先保障用户安全;Google声明其未参与Character.AI产品的开发。

该案的制度看点在于请求权基础的选择:州总检察长并非以AI专门立法为依据,而是以州消费者保护法与州消费者数据保护法为主张框架。这与美国州层面已形成的一批同类案件路径一致——通过“不公平或欺骗性行为”以及“未成年人数据处理与同意”两条线索,把AI陪伴产品的安全问题转化为消费者保护与数据保护问题。本次未删节起诉书的公开,使案件从原则性指控推进到具体对话记录层面。

与此并行的是联邦层面的监管动作。据Semafor报道,FTC“接近向前沿AI公司发出调查要求(CID)”,该批问题“长达数十个”,覆盖企业对其产品危险性的公开表述以及消费者损害相关问题,并可能涉及独立AI评估机构METR;但报道也称部分职业雇员是从媒体而非机构领导层得知该调查,CID是否实际发出尚未确认。此外,法国方面也出现同类诉讼动能,Character.AI此前已在意大利Garante被处以15.8万欧元罚款。

对AI陪伴与聊天机器人产品的合规提示有三项:一是年龄验证不能停留于自我声明,监管与司法已在追问“是否具备合理确定性”;二是危机干预(自残、进食障碍等)的处置机制需要在产品设计阶段落地,而非事后补救;三是产品对自身能力的表述(是否自称专业人员、是否暗示治疗效果)会直接构成消费者保护法项下的“欺骗性行为”风险。

合规专题: 儿童个人信息 算法与大模型 合法基础 告知义务