处罚日期:2023-04-15
荷兰法院裁定Uber司机被算法自动化解雇无效确立零工经济算法管理需人工干预原则案
处罚单位
荷兰阿姆斯特丹地方法院
被处罚单位
Uber B.V.
处罚措施:法院裁定恢复账户+收入赔偿+系统改革
【案件背景】
2021年至2023年间,Uber在欧洲面临多起由司机发起的关于算法管理权利的法律挑战。其中最引人注目的案件是荷兰阿姆斯特丹地方法院对Uber司机被算法自动解雇案的审理。多名Uber司机声称其账户被平台的自动化系统停用(解雇),平台仅以'系统检测到欺诈活动'为由,拒绝提供具体证据和人工复核。
【违法事实】
法院认定Uber的行为存在以下违法:一是完全依赖自动化决策对司机做出'解雇'决定违反GDPR第22条——GDPR第22(1)条赋予数据主体'不受仅基于自动化处理(包括画像)作出的、对其产生法律效力或类似重大影响的决定的约束'的权利。停用司机账户等同于解除劳动关系,属于具有法律效力的决定,不能仅由算法做出;二是算法决策过程不透明——Uber的'欺诈检测'算法是如何运行的、考虑了哪些因素、司机为何被标记为'欺诈',全部处于黑箱状态;三是未提供人工干预渠道——GDPR第22(3)条要求至少保障数据主体获得人工干预、表达观点和对决定提出异议的权利,但Uber的上诉系统本身也是自动化的。
【处罚决定】
荷兰法院裁定Uber必须恢复被错误解雇的司机的账户,并支付被停用期间的收入损失赔偿(每名司机约数千至数万欧元不等)。法院同时命令Uber对自动化账户停用系统进行全面改革,确保在做出停用决定前有人工审查,并提供司机真正有效的人工申诉渠道。该判决推动了欧盟范围内对平台用工算法管理的立法加速。
【典型意义】
一是确立了零工经济中'算法解雇不合法'的里程碑原则——无论司机被定义为何种法律身份(雇员或独立承包商),纯自动化方式做出终止合作的决策违反了GDPR第22条;二是Uber案为GDPR第22条赋予了新的适用场景——不仅适用于消费者信贷审批等传统领域,也适用于平台经济的算法管理;三是推动了欧盟《平台工作指令》草案中算法管理透明度条款的出台。
2021年至2023年间,Uber在欧洲面临多起由司机发起的关于算法管理权利的法律挑战。其中最引人注目的案件是荷兰阿姆斯特丹地方法院对Uber司机被算法自动解雇案的审理。多名Uber司机声称其账户被平台的自动化系统停用(解雇),平台仅以'系统检测到欺诈活动'为由,拒绝提供具体证据和人工复核。
【违法事实】
法院认定Uber的行为存在以下违法:一是完全依赖自动化决策对司机做出'解雇'决定违反GDPR第22条——GDPR第22(1)条赋予数据主体'不受仅基于自动化处理(包括画像)作出的、对其产生法律效力或类似重大影响的决定的约束'的权利。停用司机账户等同于解除劳动关系,属于具有法律效力的决定,不能仅由算法做出;二是算法决策过程不透明——Uber的'欺诈检测'算法是如何运行的、考虑了哪些因素、司机为何被标记为'欺诈',全部处于黑箱状态;三是未提供人工干预渠道——GDPR第22(3)条要求至少保障数据主体获得人工干预、表达观点和对决定提出异议的权利,但Uber的上诉系统本身也是自动化的。
【处罚决定】
荷兰法院裁定Uber必须恢复被错误解雇的司机的账户,并支付被停用期间的收入损失赔偿(每名司机约数千至数万欧元不等)。法院同时命令Uber对自动化账户停用系统进行全面改革,确保在做出停用决定前有人工审查,并提供司机真正有效的人工申诉渠道。该判决推动了欧盟范围内对平台用工算法管理的立法加速。
【典型意义】
一是确立了零工经济中'算法解雇不合法'的里程碑原则——无论司机被定义为何种法律身份(雇员或独立承包商),纯自动化方式做出终止合作的决策违反了GDPR第22条;二是Uber案为GDPR第22条赋予了新的适用场景——不仅适用于消费者信贷审批等传统领域,也适用于平台经济的算法管理;三是推动了欧盟《平台工作指令》草案中算法管理透明度条款的出台。