新浪科技-自媒体综合|快递员控诉Uber人脸识别技术内置的种族偏见让他们面临工作危机_

文章图片
图1/1
【新浪科技-自媒体综合|快递员控诉Uber人脸识别技术内置的种族偏见让他们面临工作危机】
大数据文摘出品
来源：Wired
编译：周熙
为Uber Eats和Uber工作的BAME（非白人种：黑人，亚裔和少数族裔）快递员声称，该公司有缺陷的识别技术让他们失去了生计。
Uber Eats的快递员表示，他们被解雇了，因为该公司的 "种族歧视 "面部识别软件无法识别他们的脸。 Uber将该系统描述为 "照片比对 "工具，提示快递员和司机拍摄一张自己的照片，并与公司数据库中的照片进行比对。
14名Uber Eats快递员与WIRED分享了证据，显示了该技术无法识别他们的脸。在他们所拍的自拍未能通过公司的 "实时身份检查 "后，他们受到了被解雇的威胁，账户被冻结或被永久解雇。另一位因自拍功能无法工作而被解雇。工会称，这个问题已经影响到全国各地无数的Uber Eats快递员以及私人雇佣司机。
进行了数千次配送并拥有100%满意率的派送员说，他们突然被从平台上删除，他们声称这个过程是自动的，没有任何上诉的权利。在给公司的留言中，许多人恳求要回自己的工作。他们每个人都收到了同样的回复，称他们的解聘是 "永久的、最终的" ， Uber希望他们能 "理解这个决定的原因" 。
William平均每天工作16个小时，每周六到七天为Sheffield（谢菲尔德）的Uber Eats送餐，直到2020年10月他在自拍检查后被阻止访问他的账户。他说："我整天都在尝试给他们发信息，但他们每次都只是给我同样的复制答案。 "
他说："我只从Uber Eats赚钱。我用这些钱来支付我的账单，我的房租，我的汽车保险，我的食物，我的手机，一切的一切。 " 。他说他被迫借了1000英镑来支付当月的账单。在他联系了英国独立工人工会（IWGB），随后该工会给Uber发信威胁要公开其行为后，该公司才肯撤回其软件的裁决。
Uber表示，快递员在提交实时自拍时，可以在人工智能和人工验证之间进行选择，但快递员表示，如果他们选择后者，没有人可以推翻软件可能犯下的错误。 David登录该应用时，为了准备面试刮了胡子。当他提交自拍时，应用程序表示照片不是他的，并要求大卫在24小时内提供替代他的快递员的信息，否则有可能被解雇。
David说："我试着通过官方路线，但它显示的都是提供替补人员的信息选项。没有办法告知他们有问题。 "虽然采访人员给Uber的新闻团队打了一个电话，阻止了他的账户被永久关闭，但很多人就没有那么幸运了。
William和David和其他受影响的快递员一样，被指控将他们的班次非法转包给他人。虽然他们作为独立承包商的身份允许Uber Eats快递员转包工作，但有人担心将工作交给那些没有经过背景调查或不能合法工作的人。为了阻止这种情况的发生，去年4月， Uber在人们打开应用时增加了一个信息验证步骤。快递员和司机需要自拍一张照片，以证明他们是当前登录的用户。
当快递员提交自己的脸部照片时， Uber会使用微软的人脸匹配软件来验证他们的身份。但是这类软件在识别皮肤较黑的人时有失败的记录。 2018年， Uber使用的类似版本的软件被发现，对于皮肤较深的女性面孔，失败率为20.8% 。对于深色皮肤的男性面孔， Uber Eats的绝大多数司机都是男性，而且很多都是来自BAME ，占比达6% 。对于白人男性来说，这个数字是0% 。
一项对189种不同的面部识别系统的研究发现，所有这些系统在识别非白人面孔时的表现都明显差了很多，有时差了十倍甚至一百倍。还有就是，在实验室里能用的东西，在现实世界中并不总能表现如期。 Uber司机拍摄的自拍会是质量较低的图像，使用较旧的手机，通常是在光线不好的地方，这些条件与这些程序所训练的专业工作室图像相差万里。
"没有一种面部识别软件能在不同种族间表现相同。这种技术并不存在。 " University of Essex专门研究面部识别软件的社会学家Peter Fussey教授解释道。 "如果你把这种技术引入到一个已经不平等的环境中，只会加剧这种情况，放大种族不平等。 "
Uber的一位发言人强调，公司需要验证检查以防止 "潜在的欺诈行为" 。该发言人称，任何将合作伙伴从平台上删除的决定 "总是涉及人工审查" ， "任何被删除的人都可以联系我们，对该决定提出上诉" 。该发言人没有评论Uber是否曾经做过任何审计，研究其验证系统的准确性。微软没有回应关于其技术失败率做出评论的请求。
IWGB（大不列颠独立工作者联合会）的主席Alex Marshall说："这是这些工人最担心的上班问题，而且我们肯定会看到更多数量的BAME社区受到影响。这绝对是间接的种族主义。 " 他说，司机们正在转向食物银行和收容所，因为他们在失去应用上的工作权后，无力支付房租和账单。他说，一名司机甚至不得不 "在墓地搭帐篷" 。
IWGB表示，由于gig economy（零工经济：市场特点是短期合同或自由职业者占主导地位，而不是长期工作）中的从业快递员缺乏不被解雇的法律框架，法院很难立案，但它正在争取在个案基础上扭转解雇，并推动向议会提交Early Day Motion（早日动议：在英国议会提前结束工作的某天正式提出供今后讨论的议会动议。其主要目的是提请议会注意某一特定议题）。
Uber已经因为使用面部识别技术而被起诉。 2019年，美国一名黑人司机发起索赔，称在 "漆黑 "的环境下，自拍软件无法识别他，而被解雇，这迫使他手动提高他所有照片的亮度。
WIRED采访的所有Uber Eats司机都表示，他们和他们认识的人都没有找人代过班，而且他们的收入太少，这样做没有意义。 "我们大多数因代班而被解雇的成员每周工作60小时，但仍然入不敷出， " Marshall说。 "他们何德何能会把自己的账户借给别人？"
非法转包作为此类问题的一个结症是因为趋严的法规。作为恢复优步（Uber）在伦敦运营的私家出租车牌照的交易的一部分，伦敦交通局（TfL）向该公司施加压力，要求其打击非法转包，以保护人们免受无证驾驶员的伤害。
Uber的面部识别系统不仅适用于Uber的工人，也适用于子公司Uber Eats 。 TfL的发言人强调， 2018年底至2019年初，伦敦有43名未经授权的Uber司机进行了1.4万次出行，同时强调其对欺诈行为的担忧得到了首席治安官的支持。该决定的批评者指出，这43名司机占当时在伦敦运营的4.5万名持证Uber司机的一小部分。
Uber并不是唯一一家向这一领域扩张的公司。去年12月，同为打车公司的Bolt在新一轮融资中筹集了1.5亿欧元，以实现类似Uber使用的人工智能和司机面部识别检查。