对话科学家：机器何时真正超越人类？-知识分子的财新博客-财新网

编者按：

人工智能当前处于什么发展阶段？机器会进化出情感来吗？通用人工智能的梦想何时实现？它会真正超越人类吗？本月25日的博鳌亚洲论坛上，著名脑科学家、物理学家、人工智能专家和企业家齐聚“人工智能：对话科学家”分论坛，就这些话题做了精彩分享，试图回应人们对于人工智能发展的关切。

责编 | 吕浩然

●　●　●

主持

田薇（中国国际电视台主持人）

嘉宾

Ben Goertzel（Hanson Robotics首席科学家）

鲁白（清华大学教授）

王小川（搜狗CEO）

袁辉（小i机器人创始人、董事长兼CEO）

张首晟（斯坦福大学教授）

张亚勤（百度总裁）

人工智能是否可能代替人类？

田薇：今天的第一个问题听起来非常简单，但实际上却非常复杂：人工智能是否有可能代替人类？

Ben Goertzel：是。我认为人工智能在接下来的几十年将能够完成人们所做的所有工作，并且比人做得更好，所以从经济学的角度来讲我认为人工智能能够代替人类，包括一些简单的纯体力劳动以及管理方面的职务，这是不可避免的。但是，这并不意味着人工智能将主导这个星球。如果我们能够在人工智能当中植入合适的价值，使它能够很好地完成我们现在必须去做的一些事情，那么AI就可以与人类愉快共处。

田薇：鲁白教授作为脑科学家，您的看法呢？

鲁白：一个简单的回答是绝对不会。允许我花一分钟的时间简单讲一下，这个研讨会应该有一些PK才有意思。人脑有五个方面的功能：感觉、运动、记忆，这三个方面不用解释了。第四个功能是情感与情绪，第五是认知。

从情感跟情绪来看，大家都可以理解，人类同人工智能或者电脑产生感情，是一个伪论题。这里面包括了两个方面：一个就是情感的产生与情感的交流，延展一下就是社会性，这是现今的人工智能无法做到的。

另一个方面是认知，我又把它分两个部分：一般的认知连动物都有，人工智能也可以实现这个方面的认知功能，包括工作记忆，逻辑思维，分析、规则学习，概念，做决定之类的事情。而人类还有一些高级认知功能，包括语言、自我意识、想象力、创造力以及人类所特有的人生的目的。这些功能人工智能还无法实现。

田薇：谢谢鲁教授。再问一下王总，您认为人工智能还未达到理想的状态，其间最大的缺陷是什么？

王小川：我和我们的公司都是人工智能的受益者，但是我仍觉得人工智能取代人类在现在来看是绝对不可能的一件事，这要从两个维度来看。第一，人类很笨，机器更笨。上世纪六十年代到八十年代，人第一次把规则交给机器，结果规则导向失败了，人们发现机器很笨；第二次，人把“答案”交给机器，但机器无法认知，也会很笨；2000年开始第三次，人们通过大数据把“套路”交给机器，让机器学习、重复人类所做的事情，但它仍需要重复很多次才能做到。

因此现阶段我们可见的时间里，机器没有走出重复事情，没有见过的事情它们还不会做。就像如今语音识别的机器很灵，但倘若两个人的声音叠加，机器就没有办法识别了，相同的情况还出现在有背景音乐的环境中，人可以很好的区分，但机器却不能。在这个智慧层面上，人工智能现在仍做不到。

田薇：张首晟教授是从理论研究出发的物理学家，您认为在摩尔定律，即每18个月集成电路的性能就要增强一倍的情况下，刚才王先生和鲁教授提到的缺陷有没有可能弥补？

张首晟：人类也是进化的产物，但进化的速度肯定不是每18个月翻一倍。摩尔定律的确是整个社会有史以来最神秘、最奇妙的一个定律，机器通过摩尔定律的推进，近期理性认知的能力超过人类也是毫无疑问的。但人所谓的情感也是根据所有进化历史产生的，现在让机器重复这些人类进化的历史没有什么太大的必要。

图灵测试可以判断AI是否达到或超越人类的水平，让人们对幕后的机器或者人进行对话，如果不能区分是人还是机器，就说明机器达到了人的水平。我认为达到这一点比较难，人类非常感性的部分机器可能学不会，但完全理性那部分，机器不但可以学得会，还可以超过人类。

所以，人们提出了一个新的测试办法：机器能否早于人类做出一项科学发现？现在最前沿的科学发现基本上还是人做出来的，可能借助机器的辅助。未来是不是哪一天，机器大数据的分析可以总结出大自然的规律，或者做一个新的预言？那时，机器才会真正超越人类。

田薇：人们说到人工智能，很多方面还是属于研究大数据的范畴。现在又有一个新的发现，人工智能之间可以产生一种互相沟通的能力，我想请问张总，这是不是一个完全不同的方向，从而在一定程度上挑战张教授和鲁教授提到的有关思想意识方面人工智能所存在的一些局限。

张亚勤：这种沟通一直存在，所有芯片不同的设备软件本来就有这样的互相沟通。首先回答一下人工智能能不能取代人，我觉得现在讲这个问题就是焦虑太早了，有一点像火星上面会不会堵车，就目前人工智能所用的深度学习法是没有可能性的。现在所用的深度学习基本上跟人脑的关系不是很大，总的来讲有“三大”：大数据、大模型、大计算，但其中仍有很多的缺陷。人工智能经历了三个阶段，从最早的逻辑规则、逻辑推理到后面的专家系统，再到现在的以大数据为基础的深度学习，已经发展六十余年，并不是刚刚出现的。

其次，对于人工智能，大家要有理性的态度看，人工智能的威胁论和万能的论述皆应如此。人工智能在很多领域都会超过人类，未来的十年左右任何人可以描述、定义、得到答案的事情，机器都会超过人。

目前，深度学习是人工智能研究的主流，我们有的时候构建了一个很大的神经元网络，几十亿上百亿的参数，出问题之后却并不清楚为什么。

还有，数据的收集、处理、分类以及参数的调制，有的时候需要根据经验而且很难重复。目前，机器学习越来越复杂，刚才讲到大数据、大参数、大计算，数据、计算量越来越大，但很多时候一个描述自然规律的简单公式，我们搞不清楚后面的机理是什么，这本身是有问题的。

人工智能机器学习如今正在往两个方向在走：一个方面越来越大、越来越深；另一个方面却越来越简单：数据量在减小，不需要大模型也可以进行决策，算法也在逐渐简化，落实到实际就是手机也可以用机器学习，汽车也可以不通过云而进行机器学习等等。很多问题我们需要解决，包括很多技术问题，怎样落地、怎样实用更加重要。

田薇：请问张教授，有没有可能实现张总提到的精确和简单？

张首晟：理解非常神秘的事情，机器学习的神经网络系统有不同的层次，一层一层的地推理就是等于了不同层次的理解。我们理解大自然，一开始有一个所谓的微相的理解，很大的公式表达，然后出现牛顿、爱因斯坦等伟大的科学家从第一性原理层次理解，这个过程基本上可以类比为机器学习里面不同的层次。

机器学习随着时间的发展必然达到人类认知的程度，其中关键的在于，现在机器和人好像是一个对比的竞赛，最乐观的一个看法会不会机器使得人更加聪明，机器也越变越聪明。

袁辉：我的个人观点，第一，现在的AI已经在很多方面取代了部分重复的标准人工行为，能源、零售、金融等很多方面已经普遍应用，这是看得见、摸得着的。人工智能本质来讲并不是无处不在的，并不是具体的形象单独存在的。

第二，60年来我们创造并不断发展人工智能的目的是什么？人类最大的一个特点就是不断想象，有不断探索未知真相的欲望，我们创造人工智能也是出于这样的目标。目前，实际上不用太担心当下的人工智能。但是如果从人类的想象力来考虑人工智能的话，我们有一个说法就是人是由碳构成的，碳既然可以经过几千万年的演化形成人类，为什么硅不可以？从这个角度来看，人工智能毕竟是人类创造的产物，如果人类的想象力无尽，那么任何事物确实都有可能发生。

鲁白：现在电脑或者人工智能确实能够实现沟通信息的传导，其实沟通也是社会交流的一个基本部分。从社交意义上来讲，很多社会交互有其特有的规则以及表述的方式，那么其中对于人工智能的一个挑战，就是能不能把情感的因素植入到交流中去。

田薇：Ben Goertzel，这个问题能不能请您简单回答一下？

Ben Goertzel：目前的机器或者人工智能并不能展现自己的情感。情绪也是人的物理条件产生的，大脑里面的分子结构产生了情绪。机器会有自己的情感跟能力，它的结构可能跟人脑不一样，因此它的情感跟人定义的情感是不一样的，但不能说它没有情感。机器产生的同情心或者爱等情感，与人的表现形式是不一样的。

人工智能给人类带来巨大价值

田薇：人类对于新生事物都是有恐惧的，刚才几位也谈到人工智能仍存在很多的限制，没必要过分恐慌。那么，刨除目前的局限，人工智能又在哪些领域做出了贡献呢？

王小川：目前研究人工智能的突破还是基于大的数据算法，是计算力的产物，所以本身而言，就是将重复性的数据给到机器，让它可以学会，如人脸识别。因此，现在做人工智能核心的工作，是将原有世界中的数据标记出来交给机器，但凡需要创造性或者遇到数据样本不够多的情况，机器现在仍无能为力。

面对这种情况我们可以看到，在语言识别、语言合成、图像识别等方面机器可以表现得很好，但这并不代表机器真正的理解了背后的逻辑。就像现在机器可以进行翻译工作，却并不能理解其中的含义，今天人工智能翻译较以往更加流畅了，因为样本很流畅，但很有可能意思不对。

袁辉：以现今一些自动应答机器人为例，语音识别是数据的积累，人工智能可能并不知道声音是何意，但却可以把声音转成正确的文字，进而通过自然语言分析，理解之后再做出响应。通用语言的理解现在或许还不能实现，但在某些特定的领域（例如只跟人聊银行或者爱情），人工智能可能达到以假乱真的地步。

通用人工智能是目前人类的梦想，我们都在努力向这个目标靠近，但是在特定领域，AI已经给人类带来巨大的价值。

王小川：语言是更难的，举一个例子：去年六月，我们去剑桥大学一个做对话的实验室，它代表了当今国际的最高水平。当时演示了一个订餐、订酒店的系统，AI问我：“我需要帮你找一个停车位吗？”，我回答一句话说“我没车”，AI就不懂什么意思了。

车与停车位之间的关系，今天AI是没有能力做理解的。没有车就是不需要停车位，这样的知识对今天的人工智能而言是无能为力的，人们还没有找到建立这样一个垂直认知的突破口。

田薇：有人说人工智能在各个领域，如教育、医疗、生活方式、运输等方面产生巨大的影响，能否举出几个实际的案例。

张亚勤：搜索当中的语音、视频、图像识别已经相当不错了，这个里面用到了AI技术；某些领域的智能客服可以省50%到60%的人力；医疗或者医学方面，IBM在某些癌症方面的检测以及诊断超过了大部分的医生，这方面的数据越多，效果会越好；交通方面可以看到无人驾驶可以以很快的速度往前走。

Ben Goertzel：显然，现在的经济制度正在拥抱AI，实际上我们也看到了一些非常成功的企业，利用人工智能推进其业务的发展，我相信人工智能会在全球经济的方方面面都占据重要的作用，因为通过AI我们能做越来越多的事情，且可以降低成本、提高效率。

所以，我认为AI会在所有行业发展起来。刚才袁总提到了通用的人工智能和窄意的人工智能，目前AI的发展阶段就是从这样的一些窄义、狭义的专业AI向通用的AI过渡的过程。也就是说，人工智能越来越做一些更为广泛多元的工作，未来我们也会看到越来越多的通用的人工智能能够带来更多的经济效益。

比如，人类的医生治疗一个老年痴呆的病人，但医生并不能对病人进行时时的观察，从而进行分析。人工智能有一个很大的优势就是可以把观察和分析结合在一起，所以它的学习效果更好，解决问题的效率也更高。

这个角度来讲，不管窄的还是以通用为目的的AI都正在逐步演变的过程当中，窄意的人工智能最后会综合，迈向一个通用目的的人工智能。下一阶段人工智能的突破会来自于各个方面，物理学、生命科学、大数据等等，所有这些东西融合的越好，未来的人工智能就会发展的越好。

田薇：鲁白教授是《知识分子》的主编，想请问您我们所谓的社会因素、政治因素、法制因素、宗教因素、道德因素等等跟AI之间到底什么样的关系？它们是否真的对AI持一种开放的拥抱态度？

鲁白：的确，各个层面都没有完全准备好如何迎接AI时代的到来，给大家带来了“恐惧感”。我想稍微展开一点来讲。生物的进化有两个最基本的驱动力，一个是生存，另一个是复制，它是通过基因的突变而非常缓慢地演变来的。《人类简史》里有一个观点：人类有了想象力和创造力，使得他（她）可以突破基因演变的限制而快速发展，从而创造了社会、政治、法律、宗教、道德等等来帮助人类的发展。AI也是人类创造出来为人类服务的。人们一定会用这些工具手段来保证AI帮助我们实现人类的目的，而不是让AI来统治人类。

人工智能在中国有何优势？

田薇：各国之间的人工智能发展状况还存在着相互竞争与合作的关系，那么各国在人工智能领域发展的优势以及特点有哪些？中国人工智能技术又发展到了什么阶段？

张亚勤：从人工智能，特别是机器学习的研究技术来看，这些理论基本上是从美国、加拿大过来的，机器学习领域三位领军的科学家，两位是加拿大人，一位是美国人。最近几年，中国，特别是全球的华人在对抗网络以及牵引网络方面做了很多的工作。

整体来讲，中国的企业和科学家由于比较国际化，所以同国外的差距也比较小，技术、产品方面，中国有些方面做得还是不错的。人工智能需要很多数据，需要应用场景跟规模，中国这个方面有优势。不仅如此，中国的互联网发展迅速，这使得一项技术可以很快用到产品里。

袁辉：AI已经过60年的发展，很多基础的东西实际上已经公开，所以从基础算法、技术来讲全球都是一样的。AI中存在着几个关键的要素，第一是算法，第二是高质量的数据，第三是特定应用场景或者规则，从这个角度来讲我们还有很多的优势，总体差距并不大，对于中国的创业企业家来讲，全球基本上站在一条起跑线上。

王小川：对于整个中国人工智能的发展我是相对乐观的。最基础的服务仍在美国，但如果抛开最基础的部分，上面活跃的、做技术转换的创业公司很多都有华人的身影，因此底层研究以外的这股华人力量非常宝贵。

我们的市场空间确实巨大，且原有的、比较落后的体制促使技术可以带来更大的生存空间，比如说连接的媒体、电商等等，都比美国强很多。

所以，在AI进入中国之后，我们可以感觉到中国可能超越美国，成为一个更大的受益者。我们之前看到微信起来，后来又是互联网金融，等等。中国一定比美国跑得快，好多地方确实在中国“淘金”比在美国可能带来更大的价值。

因此在这个过程中，中国资金量会非常大，也会产生巨大的泡沫，今天中国其实有一个浮躁的情况：中国开出的薪水待遇对于创业公司的估值来讲要远远高于美国，这中间会有大量的公司在两三年内因远远达不到预期而失败。但倒过来看，这种泡沫是值得的，中国市场大泡沫当成了一个催化剂可以促成人才的吸引，总的来讲看起会倒闭很多公司，但是最终中国在AI应用上面创造更大的价值。

袁辉：泡沫最大的问题在于方向选择，有的时候它并没有达到你所希望的价值。今天企业跟风做人工智能，首先要掂量一下是不是有足够的能力资源投进去，如果没有，方向选择错误，那么就不是泡沫了，而是倒闭了。

Ben Goertzel：我有不同的观点。中国的大学有非常好的理工科的学科教育，而且产生了大量的工程师、科学家，中国人工智能的产品也领先世界。在美国，公司和风险投资基金非常愿意去承受创业的风险，他们对于这种市场的风险有非常大的容忍度。比如，一个年轻人有一个好的想法，如果想要将想法转变成为一个公司，吸引一笔资金还是非常容易的。像通用人工智能，虽然有很高的技术和商业风险，但美国相对来说风险承受能力比较大一点。

田薇：张教授如何看待人工智能领域竞争与合作的关系？

张首晟：合作非常重要。人工智能非常重要的三个方面：芯片、算法和数据，后两项往往是脱节的，刚才提了加拿大，这个国家根本没有什么数据，人口很少，但算法却做得非常好。而有一些地方是数据做得很好，但算法方面却因为企业压力等因素的制约，使得在企业做算法并没有在大学做算法来得自由。现在人类走向下一步需要数据和算法之间的合作，也就是公司和大学的合作，在美国这个方面做得很不错。

再深一点来看，为什么工业界不愿意一下子把数据交给大学，因为里面存在很多商业机密。今后肯定会出现一种技术使数据可以完全加密，然后使你的算法可以作用在加密的数据上进而产生新的算法。就这样，相互不信任的机制可以用一个技术办法解决。今天博鳌论坛其实就是想让这个领域中的学术界和企业界进行对话、合作，并且是要深度的合作。

鲁白：不仅是学术界与企业界的合作，脑科学与人工智能之间的合作也非常重要。人工智特别是深度学习是得益于脑科学当中的一个理论，但脑科学里面还有很多的理论其实可以用到人工智能当中。所以，我今年在清华开了一门课，叫做“脑科学与人工智能”，请了不少人工智能的专家，包括企业界人士，让他们跟大学的教授、学生进行互动交叉，我们现在希望通过这样的一个形式来促进脑科学与人工智能之间的交流互动，从而推动二者之间的合作。

田薇：我感觉到在过去的一个小时当中我们浓缩地感受到了台上的六位智慧，各位非常慷慨跟我们分享，人工智能让我们向往，人工智能也让我们思考到底我们是谁，非常感谢各位的分享。谢谢各位的真知灼见！

本文整理自论坛实录，未经对话嘉宾审订。标题为编者所拟。

话题：