案例简介：
2023年，某保险公司推出基于人工智能的智能核保系统，宣称可快速评估投保人风险。投保人李某（62岁，有轻度高血压病史）在线申请重疾险时，系统直接给出"拒保"结论且未说明具体原因。经投诉后人工复核发现，李某病情实际符合承保标准。进一步调查显示：1、数据偏差，系统训练数据中老年投保样本不足，算法自动将"年龄＞60岁"与"拒保"强关联； 2、隐性歧视，对农村地区投保人默认附加更高保费，因历史理赔数据中农村用户占比偏高； 3、解释缺失，系统仅输出结果，未披露评分逻辑，导致消费者无法申诉。 事件曝光后，监管机构对该系统启动算法合规审查。
风险分析：
1. 算法设计中的系统性歧视：大数据不够完善，存在偏见固化，使用历史承保数据训练时，将过往人工核保中的隐性歧视（如对慢性病患者的过度拒保）编码为算法规则；存在敏感变量滥用现象，将邮编、职业等非直接风险因素纳入模型，变相实施地域/职业歧视。
2. 保险公司调查手段的局限性：以"商业机密"为由拒绝公开算法细节，消费者难以证明歧视存在； 抽样验证失效，仅对5%的拒保案例人工复核，导致多数歧视行为未被发现。
3. 法律后果：合规与声誉双重危机，该现象违反《个人信息保护法》第24条"自动化决策透明性要求"，可能面临整改或罚款； 同时可能面临群体诉讼风险，被歧视群体（如老年人、慢性病患者）可提起集体诉讼，索赔金额巨大。
富德生命人寿广东分公司提醒广大群众：
1. 消费者可要求人工复核：对智能核保结果存疑时，立即申请人工介入并留存申请记录；
2. 核查数据授权有效性：拒绝提供与风险评估无关的信息（如购物记录、社交媒体数据）；
3. 善用监管投诉：遭遇不公，可向监管机构举报，重点强调"算法解释权缺失"；
4. 选择透明产品：优先投保提供"算法影响评估报告"的保险公司产品。
版权声明
广深在线内容如无特殊说明，内容均来自于用户投稿，如遇版权或内容投诉，请联系我们。