《纽约时报》称，Hinton对毕生工作感到后悔和恐惧。

消息震惊业界。
 

Hinton是享誉全球的认知心理学和计算机科学家，近50年来致力于神经网络的研究。正是他的毕生工作，才有了今天AI的突破性进展。

在2018年，他因为深度学习的研究获得图灵奖，被称为“AI 教父”。他的研究最终助力了LLM的诞生，OpenAI的首席科学家伊利亚·苏茨克维也是Hinton的得意门生之一。

Hinton在2013年加入Google，负责谷歌大脑的部分工作，并担任Google副总裁。
 

据《纽约时报》，身在多伦多的 Hinton 在4月向 Google 提出了辞职，已于上周四与Sundar Pichai电话沟通结束，沟通细节并未披露。

Hinton离职的原因，是为了能够“自由地谈论人工智能的风险”，他对自己毕生的工作感到后悔。

“我用一个正常的理由安慰自己：如果我没做，也会有别人这么做的”，他说，“（我）很难想象如何才能阻止作恶者用AI做坏事。”

值得一提的是，GPT-4刚发布时，Hinton对它赞誉有加：“毛虫吸取了足够的养分，就能化茧成蝶，GPT-4就是人类的蝴蝶。”

仅仅一个多月后，他的态度发生了 180 度转弯。

在采访中，Hinton 表达了几点担忧。

1、互联网将被虚假照片、视频和文本淹没，普通人将“无法再知道什么是真实的”。

2、AI会颠覆就业市场，当下ChatGPT等产品能够帮助人类劳工的工作，但他们可能会取代执行固定任务的助理、个人助手和翻译等角色，“它消除了单调乏味的工作”，Hinton说，“这可能只是个开始”。

3、未来，AI 会对人类的存在构成威胁，因为它们通过分析大量数据学习令人意外的行为。现在个人和公司不仅允许AI系统生成代码，并且会实际运行这些代码。他担心真正的自动化武器会成为现实（就像科幻片里的杀人机器人，Hinton当初离开美国就是因为不想接受国防部的投资）。

对于看似科幻的悲观未来，Hinton说：“它可能比人类更聪明，少部分人相信这点。但大多数人认为这样的未来距离很遥远，我曾经也认为很远，可能需要30到50年甚至更久的时间。但显然，现在我不这么认为了。”

4、还有一个核心观点，Hinton 认为，以上这些对未来悲观的预期，目前仍是假设，但可能会导致它们成为现实的情况已经出现：微软和谷歌的剧烈竞争，美国和中国的全球竞赛。

狼性的发展和竞争会导致恶果，到那时一切都无法被阻止。

人们在强调AI危险性的时候，往往会将它比喻成计算机领域的“核武器”。

20世纪，无论是写信给罗斯福的爱因斯坦，还是奥本海默，都在二战之后明确表达了为参与核武器研发和建议感到后悔，更为核武器成为冷战筹码和政治威胁的工具感到强烈不满。

Hinton毕业于英国剑桥大学，在爱丁堡大学获得人工智能博士学位，主攻神经网络方向。

在神经网络备受质疑的时期，他没有动摇对这一技术方向的信念，接连提出了反向传播算法、波尔茨曼机，在数十年后，深度学习取得爆发性进展，他的研究才被更多AI同行认可。

博士毕业后，Hinton前往美国卡内基梅隆大学任教，几年后，他对美国AI研究由国防部赞助感到不满，离开美国前往加拿大，在多伦多大学计算机科学学院任教至今。

研究神经网络40年后，Hinton与学生Alex Krizhevsky和Ilya Sutskever提出卷积神经网络（CNN）架构AlexNet，震撼业界，重塑计算机视觉领域，开启了深度学习的黄金时代。

2012年NIPS大会期间，来自全球的科技巨头向Hinton抛出橄榄枝。Hinton 与两位学生成立公司DNN-research，随后以4400万美元天价卖给 Google。他本人也加入Google，负责Google Brain的部分研究工作，title是Google副总裁和Engineering Fellow。

他的两位爱徒之一，Ilya Sutskever在加入Google两年后离职，加入新创办的研究机构OpenAI。

因为深度学习的研究，Hinton与Yann LeCun和Yoshua Bengio 一起获得2018年图灵奖，英文世界将他们称为“AI 教父”（Godfathers of AI），中文世界习惯将他们称为“深度学习三巨头”。

上文提到，Hinton在GPT-4发布之初还对其赞誉有加。事实上，Hinton也一直在思考AI可能会带来的危险。

在3月初接受CBS采访时，Hinton表示，他对“AI威胁人类”有些担忧，对于“AI是否会毁灭人类”，他“认为这并非不可能”，“但是，令我担忧的是政治局势，确保每一个人都明智行事，是一个巨大的政治挑战”。

“很多个体会追求正确的道路，但企业不一样，利润动机可能不会让它们像为它们工作的个体那样谨慎。”他说，“我只真正了解Google，这是我唯一工作过的企业，他们一直是最谨慎的企业之一。”

然而，Hinton并不是Google的决策层，经历了过去一个多月AI日新月异的发展后，Hinton的想法发生了转变。

也许他已经看清，就连Google内部也不知道谁在决定Google AI的发展方向。

在《纽约时报》发文之后，Hinton很快在推特上回应，称报道似乎意指他离开Google“是为了批评Google”，但实际上，他是为了能够警醒人们AI危险性的同时不伤害到Google（考虑他副总裁的身份），“Google的表现很有责任心”。
 

但一直作为人工智能领先代表的Google ，很明显也在这一局的AI竞争中落入了下风，Bard公开演示的一场失误，让Google市值少了将近千亿美元，而到现在，Google还没有正式推出能与ChatGPT相抗衡的产品。

网络上可以看到各种文章阐释为什么Google Brain没能在AI竞赛中摘得最终的桂冠，然而，这一切还没有结束。

近日，科技媒体The Information最近的一篇特稿梳理了 Google 目前的一些一些问题，以及Alphabet CEO桑德尔·皮查伊（Sundar Pichai）所陷入的困境，我们快速整理了文章的一些要点。