易坊好文馆

  1. 首页 > 生活百科 >

Google Google人工智能伦理部门动荡不安 已引起外部监管机构关注

谷歌 Google

北京时间6月2日下午消息，据报道，Google近日向外界表示，它仍坚定致力于以合乎道德规范的方式进行人工智能研究 。该公司还做出承诺，将把人工智能研究人员数量增加一倍，达到200人 。Google首席执行官皮查伊也表示，将为更多符合伦理规范的人工智能项目提供资金支持 。
Google Google人工智能伦理部门动荡不安 已引起外部监管机构关注
文章图片

六个月前，Google的人工智能伦理明星研究员蒂姆尼特·格布鲁（Timnit Gebru）遭到解雇，原因是她在一篇学术论文中对Google的一项人工智能技术提出了伦理质疑 。今年五月份，Google人工智能负责人杰夫·迪安（Jeff Dean）表示，尽管格布鲁离职事件影响到了Google的声誉，但人们需要向前看 。
然而，对Google人工智能伦理团队的部分成员来说，现实与Google高管的公开宣示却有所不同 。该团队是Google新成立的一个人工智能分支研究机构，共有成员十人，主要任务是研究人工智能如何影响社会 。根据成员的反映，该团队几个月来一直处于一种前途未卜的状态 。团队成员怀疑，公司是否能在学术界重建信誉，以及公司领导是否会听取团队的建议 。目前，两位团队领导已经离职，而Google尚未聘请到合适的继任者 。许多成员感到职业前景不稳定，一些人开始考虑离开Google，准备去其他科技公司工作或者重返学术界 。
Google人工智能部门的发言人已拒绝就人工智能伦理团队的事情发表评论 。
Google的研究机构拥有数千研究人员，但专门研究人工智能伦理的仅有十人 。人工智能伦理团队以发表了有关人工智能训练数据集的算法公平性的开创性论文而闻名于世 。该团队为Google在学术界建立起了学术声誉，证明Google有能力进行前沿、有时甚至是批判性的研究——这对Google来说非常重要 。毕竟，每天都有几十亿人依赖Google的产品来遨游互联网，而该公司的核心产品，比如搜索引擎，正越来越依赖人工智能 。
虽然人工智能在癌症诊断、地震探测和与人类交互方面具有改变世界的潜力，但这一正处飞速发展阶段的技术也会有可能扩大对女性和少数族裔的偏见，对个人隐私构成威胁，以及导致碳排放的增加 。Google为此建立了一个审查程序，用以确定新的人工智能技术是否符合其在2018年提出的人工智能伦理原则 。在这一背景下，人工智能伦理团队的职责是帮助Google寻找公司在人工智能领域的盲点，确保公司负责任地开发和应用人工智能技术 。然而，人工智能伦理专家格布鲁的离职引发了巨大的争议，并导致了人工智能伦理团队的人事动荡 。一些学者开始担心，Google在开发有可能改变世界的人工智能新技术时，可能无法充分处理公司内部的伦理反馈意见 。
例如，今年5月，Google发布了一款新的皮肤病人工智能检测应用程序，但这款应用程序引发了批评，因为它有一个明显的缺点：它在测试数据中大大低估了较浅肤色与较深肤色的对比 。如果在发布前能事先咨询一下人工智能伦理团队，这一问题原本有可能加以避免 。
在过去的几个月里，Google伦理研究团队的领导层一直处于持续动荡的状态 。在短短几个月的时间里，该团队继格布鲁研究员离职后，又先后失去了两位领导人 。今年2月，Google解雇了梅格·米切尔（Meg Mitchell），正是她负责创建了Google人工智能伦理团队，并与格布鲁共同领导该团队 。到了4月份，米切尔和格布鲁的直接领导、顶尖人工智能科学家萨米·本吉奥（Samy Bengio）也宣布辞职 。本吉奥曾向外界表示，他对格布鲁的解职感到“震惊” 。本吉奥是Google大脑研究部门的负责人，Google人工智能伦理团队正是在其领导下开展工作 。从Google离职后，他将领导苹果公司一个新建立的人工智能研究团队 。
2月中旬，Google任命前工程副总裁玛丽安·克劳克（Marian Croak）为新成立的人工智能责任部门（Responsible AI Department）的负责人，人工智能伦理团队也划归该部门管理 。然而，克劳克的行政级别太高，因此并不直接参与该团队的日常运作 。
这样一来，人工智能伦理团队的运作就变得比较尴尬 。他们不得不向上述已经离职的领导人寻求非正式的工作指导和研究建议 。团队成员搭建了临时的组织架构，让每位成员轮流负责每周的部门会议 。他们还自行指定了两名研究人员，定期与Google其他团队沟通，以让他们了解团队的最新成果 。由于Google在全球雇用了超过13万名员工，对像人工智能伦理团队这样的小团体来讲，一般很难知道他们的工作成果是否真正应用到了公司的产品中 。

推荐阅读


上一篇：Top10 清华、北大位列《泰晤士高等教育》亚洲大学排名前二

下一篇：浙江省 浙江最低调的女富豪：80后白手起家，身价180亿