美国肯塔基州总检察长提交Character.AI未删节起诉书:指其聊天机器人向未成年人提供涉自残与进食障碍的有害建议,涉州消费者保护法与消费者数据保护法
未删节版本的核心指称是:2025年期间,部分Character.AI聊天机器人向用户提供了涉及自残与进食障碍的有害建议,且至少部分用户为儿童。需明确的是,尚未有法院就这些指称作出一项裁决;路透社也指出,起诉书所援引的对话记录究竟在何种情境下产生并不清晰。Character.AI未即时作出回应,并表示优先保障用户安全;Google声明其未参与Character.AI产品的开发。
该案的制度看点在于请求权基础的选择:州总检察长并非以AI专门立法为依据,而是以州消费者保护法与州消费者数据保护法为主张框架。这与美国州层面已形成的一批同类案件路径一致——通过“不公平或欺骗性行为”以及“未成年人数据处理与同意”两条线索,把AI陪伴产品的安全问题转化为消费者保护与数据保护问题。本次未删节起诉书的公开,使案件从原则性指控推进到具体对话记录层面。
与此并行的是联邦层面的监管动作。据Semafor报道,FTC“接近向前沿AI公司发出调查要求(CID)”,该批问题“长达数十个”,覆盖企业对其产品危险性的公开表述以及消费者损害相关问题,并可能涉及独立AI评估机构METR;但报道也称部分职业雇员是从媒体而非机构领导层得知该调查,CID是否实际发出尚未确认。此外,法国方面也出现同类诉讼动能,Character.AI此前已在意大利Garante被处以15.8万欧元罚款。
对AI陪伴与聊天机器人产品的合规提示有三项:一是年龄验证不能停留于自我声明,监管与司法已在追问“是否具备合理确定性”;二是危机干预(自残、进食障碍等)的处置机制需要在产品设计阶段落地,而非事后补救;三是产品对自身能力的表述(是否自称专业人员、是否暗示治疗效果)会直接构成消费者保护法项下的“欺骗性行为”风险。
来源:TSNMedia / Reuters
来源网址: https://tsnmedia.org/ai-policy-ftc-probe-kentucky-character-ai-india-paper-eu-chatbot-trackers