http://www.shgrsw.com

Jeff Dean团队论文竟遭内部质疑,谷歌解雇43岁AI研究员

新智元报道

编辑:桃子 拉燕

【新智元导读】谷歌解雇风波真是一波未平,一波又起。此前,谷歌大脑的AI研究员Satrajit Chatterjee对Jeff Dean带队发表在Nature的一篇论文提出了质疑。结果是,这名研究员早在今年3月份被开除。

不到2年,谷歌再次解雇了一位AI研究员。

原因很简单,「质疑」成大错!

这位研究人员Satrajit Chatterjee带领的一个科学家团队对谷歌发表在Nature的一篇著名论文提出了质疑。

据纽约时报称,43岁Satrajit Chatterjee已在3月份被谷歌解雇,并且谷歌在一封书面文件中证实了这一消息。

6小时AI设计芯片?

谷歌首席执行官Sundar Pichai曾表示,人工智能是谷歌未来的关键,研究人员更是公司未来的关键。

现在一切表明,谷歌已经容不下敢于质疑的AI研究员?

不如我们先来看看这篇用AI设计芯片的论文。

论文 A graph placement methodology for fast chip design 已在2021年6月发表,称计算机能够比人类更快、更好地设计计算机芯片的某些部分。

论文地址:https://www.nature.com/articles/s41586-021-03544-w

不难看出,这是由谷歌首席科学家Jeff Dean带队完成。

谷歌研究人员利用「基于深度强化学习的芯片布局规划方法」生成芯片平面图,且所有关键指标(包括功耗、性能和芯片面积等参数)都优于或与人类专家的设计图效果相当。

让人震撼的是,只用不到6小时便可设计出芯片!这项技术被誉为人工智能的突破,也是对现有芯片设计方法的巨大改进。

谷歌还表示,公司已经利用这项技术开发了自己的人工智能计算芯片。

多年来,谷歌一直致力于将机器学习技术应用于芯片设计,并在一年前发表了一篇类似的论文。

据知情人士透露,大约在那段时间,谷歌请Chatterjee博士看看这种方法是否可以出售或授权给芯片设计公司。

在一封透露的内部邮件中,Chatterjee对文中一些说法保留意见,而且还质疑这项技术是否经过严格充分的测试。

谷歌拒绝就Chatterjee博士被解雇一事进行详细说明,但对于Chatterjee批评的这项研究,以及谷歌不愿公布他的评估结果,谷歌做出了强有力的辩护。

谷歌研究实验室副总裁Zoubin Ghahramani在一份书面声明中说,「我们彻查了发表在Nature上的原始论文,并支持同行评审的结果。

我们还严格调查了随后提交的一份文件的技术要求,它不符合我们的出版标准。」

关于这项研究的争论还在继续,谷歌已向Nature提交了另一篇论文。

我们可以完整看到,这篇论文提交进程及次数,2022年3月31日提交了一份纠正版本。

知情人士表示,谷歌对之前的论文做了一些调整,删除了2位作者的名字。这2位作者曾与Chatterjee博士密切合作。其实,他们也对论文的主要主张表示了担忧。

当这篇新论文发表时,一些谷歌的研究人员感到惊讶。

知情人士称,他们认为,谷歌没有遵循Jeff Dean所说的出版审批程序。

Jeff Dean负责监督谷歌的大部分人工智能项目。他曾表示,在Gebru被解雇之后,出版审批程序是必要的。

争议遍及社区

论文的两位主要作者之一Anna Goldie说,早期论文的改动不需要完整的审批过程。

研究小组将反驳论文提交给所谓的决议委员会批准发表。几个月后,论文被拒。

研究人员表示,他们想把这个问题提交给 Picha和 Alphabet 公司的董事会。他们认为谷歌不发表反驳意见的决定违反了自身的人工智能原则,包括坚持高标准的科学卓越性。

论文一作Goldie还透露,Chatterjee博士曾在2019年要求管理他们的项目,但被拒绝了。当他后来批评论文时,他无法证实他的质疑点,并且无视我们提供的回应证据。

不管咋说,这解释貌似其中暗含着一些恩怨。

Chatterjee博士的律师Laurie m. Burgess表示,「令人失望的是,这篇论文的某些作者仅为追求科学透明度,试图通过诽谤和攻击 Chatterjee博士,进而阻止科学讨论。

这位律师还对Jeff Dean的领导能力提出了质疑:

Jeff Dean压制所有相关实验数据的发布,还包括那些支持他所喜欢的假设的数据。这种行为应该会给科学界以及消费谷歌服务和产品的更广泛的群体带来更大的麻烦。

在这篇rebuttal paper与谷歌以外的学者和其他专家分享之后,争议在专门研究芯片设计的全球研究人员社区蔓延开来。

芯片制造商英伟达表示,他们已经使用了与谷歌相似的芯片设计方法,但是一些专家不确定谷歌的研究对于更大的科技产业意味着什么。

德国德累斯顿工业大学 Jens Lienig 教授在谈到谷歌论文中描述的人工智能技术时表示,如果这项技术真的运行良好,那将是一件非常了不起的事情。但目前尚不清楚它是否有效。

谷歌大脑是一个人工智能研究团队,被认为是谷歌未来的关键。

Chatterjee博士被解雇是谷歌大脑内部存在分歧的最新例证。

谷歌解雇风波

其实,谷歌的人工智能研究人员之间,从来都不算和睦。

他们之间的紧张关系恰恰从侧面反映了,在科技行业混,可不是件容易事。

因为,人工智能行业涉及到大量AI新技术,还有这些技术可能会导致的社会问题。

正因如此,在谷歌工作的AI研究人员常常被解雇。而且,他们经常觉得对方在研究过程中有不当的行为。

2020年12月,谷歌就曾解雇人工智能研究团队的一位领导人,Timnit Gebru。

Timnit Gebru是一名著名的AI学者和人工智能伦理研究员。当时,Gebru本人曾在推特上表达了不满与抗议。

这在当时引起了科技界的广泛对Gebru的支持与关注。

两年前,Gebru发推表示,她在不知情的情况下被负责谷歌AI部门的Jeff Dean发了封邮件就辞退了。

在被解雇之前,Gebru曾想要发表一篇论文。论文中她表示,谷歌在当时的语言系统可能会从网站上学习到包含偏见和仇恨的言论。

Gebru表示,谷歌消极回应,以及拒绝发表她这篇论文,这让她「十分恼火」。

不仅如此,Dean发送解雇邮件的时候,Gebru正在度假。

很难不让人怀疑,这是一出「调虎离山」。

Gebru在埃塞俄比亚出生,曾在斯坦福大学学习电气工程。

她后续的职业生涯,一直都扮演着「政治正确」的形象。她一直在为黑人应有的权利做努力,是Black Life Matters的坚定拥护者。

Gebru被解雇后,Google陷入外界的批评。甚至还遭美国国家劳工关系委员会(NLRB)提起诉讼。

NLRB指出,谷歌非法监视雇员,报复性解雇有兴趣加入工会的雇员。其实指的就是Timnit Gebru被辞退的事。

迫于压力,在2020年解雇Gebru后不久,谷歌CEO也在一封内部邮件中表达了歉意,但对Gebru被解雇一事并未作更多公开表态。

Jeff Dean也在一封邮件中表示,关于Gebru的去留问题,将在来年再做定夺。

可惜,当时谷歌的员工却一点都不买账。

事后,Gebru的同事Alex Hanna代表谷歌AI伦理研究部门向谷歌的领导呈递了一封联名信。信中一共提出了五个诉求:

· 公司必须进行「结构性改革」,以保证谷歌AI伦理研究工作可以继续进行;

· 不再向谷歌副总裁Megan Kacholia汇报工作,她和Dean还要道歉;

· 「Gebru回归」,并为其提供比此前「更高的薪资」

· 公开承诺「学术诚信」;

· 管理层进行「种族素养培训」

此时之后就不了了之了。然而,时隔一年,Gebru成立了自己的AI研究所,专门研究如何「负责任地」使用AI技术。

Gebru 表示,「谷歌和其他科技公司做不到这一点」。

Gebru的研究机构名为「分布式AI研究所」 (DAIR) 。她表示,「我不想从内部进行斗争,而是想展示一个具有不同激励结构的独立机构的原型」。

DAIR这个名字的第一部分——「分布式(Distributed)」,源自她希望自己研究机构比大多数人工智能实验室更具包容性,不会偏向于白人、西方人和男性,而且会从世界各地招募在科技行业中没那么有代表性的人。

经历过这些,Gebru 表示,DAIR 将允许员工们更自由地质疑 AI 的潜在缺点,并且不会受到学术和出版压力的阻碍。

Gebru 说,DAIR 还将致力于展示其他传统实验室不太可能探索的人工智能新用途,为的是激励其他人将AI技术推向新的方向。

Gebru在推特上宣布了DAIR的成立,并对支持她推进女性和少数族裔权益的努力的人表示感谢。

参考资料:

https://www.cnet.com/tech/google-fires-another-ai-researcher-for-questioning-findings/

https://www.nytimes.com/2022/05/02/technology/google-fires-ai-researchers.html

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

相关文章阅读