Google|前谷歌AI伦理专家Timnit Gebru遭东家解雇：论文或为导火索_前谷歌AI伦理专家Timnit|Gebr

据《麻省理工技术评论》报道，前谷歌AI伦理学家Timnit Gebru与人合著的一篇论文对谷歌提出了一些可能棘手的问题，比如AI语言模型是否太大以及科技公司在降低潜在风险方面做得是否足够。该论文还对大型语言模型的环境成本和固有偏见提出了质疑。

文章图片

谷歌的AI团队在2018年创建了一个语言模型--BERT，它非常成功，公司还将它融入到了其搜索引擎中。搜索是谷歌利润丰厚的业务，仅在今年第三季度，它就为公司带来了263亿美元的收入。今年10月，谷歌CEO桑达尔·皮查伊在与投资者的电话会议上表示：“今年包括本季度都显示了谷歌的创始产品--搜索--对人们的宝贵价值。”
Gebru和她的团队在一场研究会议上提交了题为《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》的论文。然而在当地时间周三的时候，她在Twitter上发文称，经过内部审查后，她被要求撤回这份报告或将谷歌员工的名字从文章中删除。她表示，自己向谷歌询问了将她名字从论文中删除的条件，如果不能满足这些条件那么他们之间将会是“最后一次约会” 。Gebru表示，她随后从谷歌那里收到了通知其他们“接受她的辞职，立即生效”的电子邮件。
谷歌AI负责人Jeff Dean在给员工的电子邮件中指出，Timnit Gebru“没有达到我们的出版标准” 。他写道，Gebru继续在谷歌工作的条件之一是，公司要告诉她谁看过这份报道以及他们的具体反馈，但其拒绝这么做，“Timnit写道，如果我们没有满足这些要求她就会离开谷歌并在一个截止日期前工作。我们接受并尊重她从谷歌辞职的决定。”
Dean在信中写道，这篇论文“忽视了太多相关研究”，但该论文的合著者、华盛顿大学计算语言学教授Emily M. Bender对此提出了异议。Bender告诉《麻省理工技术评论》，这篇有6位合著者的论文“是那种没有任何个人或甚至是一对作者能够完成的工作”，另外她还指出他们的论文拥有128个引用书目。
【Google|前谷歌AI伦理专家Timnit Gebru遭东家解雇：论文或为导火索】Gebru因其在算法偏差方面的工作而闻名--尤其是在面部识别技术方面。2018年，她跟Joy Buolamwini合写了一篇显示的论文，其背后原因是用于训练算法的数据集绝大多数都是白人。
Gebru在周四接受Wired采访时表示，她觉得自己受到了审查。“你不会有让公司一直开心也不会指出任何问题的文件。这跟成为研究人员的意义背道而驰。”
自Gebru被解雇的消息公开后，包括1500多名谷歌员工在内的数千名支持者签署了一封抗议书。请愿者要求Dean和其他参与审查格Gebru博士论文的人跟Ethical AI团队会面以此来就该论文被领导层单方面拒绝的过程进行说明。
对此，谷歌于周六并未回复采访人员置评请求。