处罚日期:2022-06-21
美国HUD诉Facebook广告算法允许住房广告基于种族性别年龄进行歧视性定向投放案
处罚单位
美国住房与城市发展部(HUD)
被处罚单位
Meta Platforms, Inc. (Facebook)
处罚措施:和解+算法全面改革+第三方持续合规审查
【案件背景】
2019年3月,美国住房与城市发展部(HUD)对Facebook提起诉讼,指控Facebook的广告投放算法允许住房广告商基于种族、肤色、性别、宗教、家庭状况、国籍和残疾状况等受保护特征排除特定人群,违反了《公平住房法》。
【违法事实】
HUD指控Facebook的广告定向投放系统存在以下违规:一是广告算法允许住房广告商创造性地使用受保护的特征进行人群定向——例如可以通过'邮政编码'(与种族高度相关)、'兴趣标签'(与性别和家庭状况相关)等代理变量实现对受保护群体的排除,虽然系统表面上禁止直接基于种族的定向,但代理变量使歧视成为可能;二是系统的'Lookalike Audience'功能可能将历史上的歧视模式转化为算法的规模效应——基于现有客户群体创建的相似受众可能继承和放大原有的歧视性构成;三是Facebook在HUD的调查过程中拖延和不配合——HUD指出Facebook明知其广告算法可能被用于住房歧视但仍未采取充分措施。
【处罚决定】
2022年6月,Meta(Facebook母公司)与美国司法部和HUD达成和解,Meta同意对其广告投放算法进行全面改革,包括开发新的'方差缩减系统'以确保住房广告的受众在性别和种族等维度上符合统计学上的均衡分布。和解协议被提交联邦法院批准,要求Meta接受持续的独立第三方合规审查。
【典型意义】
一是揭示了算法歧视的'代理变量'问题——禁止直接基于种族定向是不够的,因为邮政编码等看似中性的特征可以成为歧视的代理通道;二是'相似受众'功能可能是历史上歧视模式的算法放大器;三是广告算法的公平性审查不仅需要输入端口的禁止规则,还需要输出端的结果监控(方差缩减系统代表了一种新的合规思路)。
2019年3月,美国住房与城市发展部(HUD)对Facebook提起诉讼,指控Facebook的广告投放算法允许住房广告商基于种族、肤色、性别、宗教、家庭状况、国籍和残疾状况等受保护特征排除特定人群,违反了《公平住房法》。
【违法事实】
HUD指控Facebook的广告定向投放系统存在以下违规:一是广告算法允许住房广告商创造性地使用受保护的特征进行人群定向——例如可以通过'邮政编码'(与种族高度相关)、'兴趣标签'(与性别和家庭状况相关)等代理变量实现对受保护群体的排除,虽然系统表面上禁止直接基于种族的定向,但代理变量使歧视成为可能;二是系统的'Lookalike Audience'功能可能将历史上的歧视模式转化为算法的规模效应——基于现有客户群体创建的相似受众可能继承和放大原有的歧视性构成;三是Facebook在HUD的调查过程中拖延和不配合——HUD指出Facebook明知其广告算法可能被用于住房歧视但仍未采取充分措施。
【处罚决定】
2022年6月,Meta(Facebook母公司)与美国司法部和HUD达成和解,Meta同意对其广告投放算法进行全面改革,包括开发新的'方差缩减系统'以确保住房广告的受众在性别和种族等维度上符合统计学上的均衡分布。和解协议被提交联邦法院批准,要求Meta接受持续的独立第三方合规审查。
【典型意义】
一是揭示了算法歧视的'代理变量'问题——禁止直接基于种族定向是不够的,因为邮政编码等看似中性的特征可以成为歧视的代理通道;二是'相似受众'功能可能是历史上歧视模式的算法放大器;三是广告算法的公平性审查不仅需要输入端口的禁止规则,还需要输出端的结果监控(方差缩减系统代表了一种新的合规思路)。