某保险公司AI核保算法自动化拒保且拒绝向消费者说明拒保依据和评估逻辑案

【案件背景】
2024年9月，国家金融监督管理总局在日常监管中发现，某大型保险公司在健康险和寿险核保中广泛使用AI核保算法，对投保申请进行自动化审批，系统可在数秒内决定承保或拒保。多名消费者投诉被拒保后要求保险公司说明原因均被以'系统自动判定'为由拒绝。

【违法事实】
一是自动化拒绝对消费者权益产生重大影响但缺乏说明——核保被拒直接剥夺了消费者获得保险保障的机会，属于对个人权益有重大影响的决定，保险公司必须依照《个人信息保护法》第24条向申请人说明自动化决策的逻辑和结果；二是AI核保模型可能包含不合理的特征因子——调查发现算法模型中纳入了'邮政编码'等可能与健康风险无直接因果关系的特征，导致对某些低收入社区居民形成制度性的核保歧视；三是消费者无法核正输入数据的准确性——如果算法依赖的医疗数据、用药记录等不准确，消费者无从知晓也无法纠正，错误的输入导致错误的结果，而消费者被永久标记为不可保。

【处罚决定】
国家金融监督管理总局依据《个人信息保护法》和金融监管规定，处以人民币400万元罚款，责令暂停AI纯自动化核保功能，对所有被AI拒保的申请提供人工复评，建立算法特征因子定期审查机制。

【典型意义】
一是保险核保是最典型的不应完全依赖自动化决策的领域——涉及健康、生命等高度个人化的因素，不能由算法'一票否决'；二是算法输入的准确性核查是自动化决策合规的前提——garbage in, garbage out 原理下确保数据准确是算法公正的基础；三是邮政编码等代理变量可能成为算法歧视的隐形通道。