独家专访《未来简史》作者赫拉利：机器很难有“意识”

 2017年7月6日，由百分点集团、中信出版集团联合主办，中国云体系产业创新战略联盟协办的人工智能领域最前瞻、最高规格的盛会——XWorld大会，在北京隆重召开。此次会议以“未来进化”为主题，聚集了全球最前端的学者、科学家、知名企业家、高精尖创新公司领导者，解读智能科技驱动下的未来趋势，探讨最前沿的行业创新。

全球畅销书《人类简史》、《未来简史》的作者——新锐历史学家尤瓦尔·赫拉利于出席大会，与中国读者交流了他对人类与AI、未来人类的价值在哪里等深度话题。

作为本次大会的首席合作媒体，腾讯科技在会后独家专访了尤瓦尔·赫拉利，就人工智能所将面临的伦理问题，个体如何避免成为“无用阶层”等话题进行了讨论。

采访中，尤瓦尔·赫拉利提出，机器获得“意识”的情况可能性极低，可能只会出现在科幻小说中；但如果在人工智能发展的“黑箱”中，这样的情况恰巧发生了，那需要人与人工智能共同协商双方应当如何共处。

而针对一个数据主义的未来，赫拉利则强调，我们需要避免仅由少数精英团体掌控数据这一未来最珍稀的资源的情况，而要让大众了解人工智能的发展，参与到制定人工智能所需依循的伦理规则的讨论中，并最终要让大多数人能从新技术中获益。

【尤瓦尔·赫拉利接受采访现场对话实录】

腾讯科技：在您的书和今天的演讲中，您为我们描绘了一个非常宏大而复杂的未来图景。在人工智能的开发上，我们目前还处于非常早期的阶段，还有很大可能做出根本性的改变。您认为，在这个开发的过程中，科学家们和开发者们应该遵循哪些原则？

赫拉利：首先，当人工智能这样的新技术出现时，在这些技术发展的早期，我们要考虑的不仅仅是技术层面，还需要考虑社会、经济和政治层面。

第二，要让大多数人能从新技术中获益，而不只是少数精英。

第三，具体到人工智能，我们不能只研究机器的“智能”，同样也要研究机器的“意识”，否则，事情会陷入极度不平衡的状态，即使我们发现人工智能有极大的能量，我们也不知道它有多大用处，或者即使我们用了，也会用的极不“明智”。

腾讯科技：您提到要研究机器的“意识”。就我们人而言，我们其实还不知道“意识“是如何产生的，意识产生的过程对我们而言实际上是一个黑箱。那如果未来机器也有了”意识“，我们是否应当将他们视为等同于人的存在？我们又应该如何与它们共存？

赫拉利：机器产生“意识”其实是很难的，非常难。在科幻小说中，当机器变得非常“智能”时，它们其实也具备了“意识”，但这只是科幻小说，并不是真正的科学。事实上，大多数人对“智能”和“意识”都区分不清，甚至有些计算机科学家也并不清楚两者的区别。

“智能”是解决问题的能力，“意识”是能感知事物的能力。人类和其他的哺乳动物都是通过感知事物来解决问题的，但计算机不是这样。我们在计算机的智能上有了很大的进展，但是在“意识”这一领域上几乎进展为零。

上个月，AI机器人Alpha Go战胜了人类的围棋冠军，围棋是非常需要智慧的游戏，但是却不需要任何的感知能力，在比赛中，机器不会有任何的焦虑感，即使赢了比赛，机器也不会有任何高兴的感受，这其中不涉及任何的意识和感觉。所以我们没有道理认为人工智能在“意识”这一领域真正有进展。

我以前提及过“意识”的重要性，我说了人类有意识，所以人类才能知道，面对这样强大的能量，我们能做什么。让计算机产生“意识”并不是一定能办到的事，我们自己都不是很清楚人类的意识到底是怎么来的，所以要让计算机也学会意识，这很难。

但是如果我们真的做到了，让计算机成为了有意识的个体，能感动疼痛，痛苦。我们要从人工的角度来考虑，如何对待这些有意识的个体，最一开始你不会把它当成有意识的人，而会看做仅仅是物体和工具，因为它们可能会像飞机，汽车一样贵，但是它没有办法感知，它们有的只是一些性质而已，那时它们还没有意识，意识总是伴随着感知而来，然后我们需要从人工方面来创造这些感知。

腾讯科技：那么您认为，谁有权利决定如何对待这些机器呢？是人类和机器之间产生一个协议，还是仅仅人类来决定？

赫拉利：这很难。很多的科学电影创造了一些有意识的机器人，让大众感到困惑，机器人真的有意识了吗？事实上不是的。但我认为，如果这一天真的来了，也应该是人类和机器人双方共同的决定，因为一旦机器人有意识，它们会和我们一样感受到痛苦，那也它们也应该有权利决定自己接受怎样的待遇。

腾讯科技：虽然目前的人工智能还没有您所说的“意识”，但它也已经开始面对一些伦理问题了。最经典的，比如说在车祸中，面对“杀死5个坏人，还是1个好人”的命题时，驾驶系统该如何做选择。那我们应当如何建立人工智能选择的伦理标准？正如您刚才也提到的，人工智能不能只是少数精英的游戏，作为普通大众，我们应该如何参与呢？

赫拉利：首先我认为，我们应该有一个讨论机制。针对人工智能，目前公众并没有特别热烈的讨论，也没有明确的发展路线。现在的决策都只是只是掌握在少数人手里，这些人都来自大企业或者其他组织的工程师、科学家，他们不代表任何个体。所以大众其实根本没有注意到目前到底是发展到什么阶段了。

所以，首先，大家要有所意识，要明白这对我们和我们的后代都是非常重要的。大众要参与讨论，即使每天的日常，可以讨论一下，究竟可以给AI，或者说这些算法多大的权力。即使老年人，也可以多接触计算机、智能手机，要了解才能做出一些决定。

现在大家都有智能手机，你不需要等到政府或者其他的大机构先做出决策，你可以用自己先做决定。你要给你的智能手机多大的权力。你要百度、亚马逊、谷歌等等企业多少的数据。

大多数的人没有意识到，在21世纪，最重要的就是数据。在人类很早期的时候，最重要的是土地；到了工业时代，最重要的是工厂和机器。而现在，最重要的是数据，尤其是个人数据。在我们无意识的情况下，各种机构收集了大量数据，我们免费提供了大量数据。现在大家应该醒悟过来，要意识到，是大家给了这些机构、这些少数人控制世界的权利。

腾讯科技：我们其实也并非在免费提供数据。我们是为了获取这些互联网公司的服务才提供自己的数据的。对普通人来说，如果我们不提供这些数据的话，就必须选择放弃自己想要的服务，而今时今日，对我们而言放弃这些互联网服务几乎无法想象。所以您认为我们应该如何处理这个问题？

赫拉利：你说的对，我们并不是免费提供数据的，我们获得了服务，但是相比我们获得的服务，我们的数据其实更有价值。所以免费提供数据来获得免费的服务，对我们来说是一场不公平的交易。但是我们的确没有选择，大多数服务商都是这么干的。只是消费者其实应该有权力去提出要求，比如说我愿意付一定的费用，但我要控制自己的数据。

我个人来说，比较倾向于通过付费来获取信息（和服务），比如有些资源、书籍，通过付费来获取数据，其实比免费要好。如果你选择免费获得某些资源，你自己可能就在不知不觉反而成为了商品。有些情况下，你的数据才是你最有价值的资产。

我举个例子，在过去，纺织业最重要的资产是机器，谁有了机器和工厂就能生产鞋子和衣服。但现在最重要的资产是数据。首先是产品的数据。比如说，未来一家工厂要生产衣服，他们不需要把货品运送到世界各地，只需要知道衣服对应的一组代码就可以了，而你从这家公司购买的就是这组代码。你可以自己把这组代码输入3D打印机，然后就可以打印自己想要的衣服了。

另一个重要的资产是你的数据——你的着装尺寸、你的衣服喜好。客户个人的数据是最重要的。客户穿多大？客户喜欢穿什么？这些数据决定了一家服装企业是否能够跑赢市场。

从这个角度来看，现在人们免费公开了自己的数据，但其实是丢掉了一些重要的权利。

腾讯科技：您在书中还提到了一个“无用阶层”的概念，认为在未来，会有一部分人因为工作被机器代替等种种原因，成为“无用阶层”。选择放弃这些数据的独有权，是否会加速我们在未来成为“无用阶层”的过程？

赫拉利：是的，这是非常危险的。因为在这种情况下，只有少数精英拥有了数据、拥有了权利，而大众却没有。那些拥有了数据的人，可能比你自己更了解你，可以预测你的行为和决策，操作你的选择和想法，他们为你做决定！

当然，这不全然是坏的，也有积极的一面。

最基本的过程是，我们收集数据，并以此发展计算机算法。不过，你参考一下世界上的大公司，你根本不知道他们会用这些数据干什么，但他们竟然全力收集到了这么多数据。比如说亚马逊这家公司，他到现在都还没盈利，却不留余力都在收集客户的数据，20年来收集了这么多数据，然后你发现原来他们的计算能力这么强，堪称是世界上最强大的公司。这就是数据所给他们带来的。

腾讯科技：我们是不是可以认为目前我们所享受到的这些免费的服务，实际上是科技公司为了积累未来的资产，而做的长线投资了？

赫拉利：是的，我们现在看到的很多事情都是科技公司在下注，赌的就是收集到海量数据未来可能能获益，虽然你现在可能甚至都不知道要怎么去用这些数据。

要利用这些数据，首先是要创建一个非常大的数据库，然后需要非常强的计算能力去分析这些数据，通过获得的分析结果，一家公司就能掌控很多事情。所以即使目前他们是在亏损，没有盈利，他们也要做这件事。很多大公司都是如此，比如推特，比如YouTube，他们可能甚至都不清楚要怎么盈利，但他们就是要收集数据，因为可能再过十几年，数据就会成为了最重要的资产。

腾讯科技：那么，作为普通大众，在人工智能的潮流中，怎么避免自己变成“无用阶层”？我们怎么保有自己的数据，保全这个最重要的资产？

赫拉利：我的建议是，希望大家能少接收一点信息。

以前大家总觉得信息越多越好，其实不是的。现在我们周围充满了各种信息，让我们觉得眼花缭乱，甚至都无法集中精力了。有时候周围这些无意义的信息，占据了你的大量时间，比如无意识地一直看小猫小狗的视频。最后，你会没办法长时间集中精力在一件事情上进行深入的研究。

所以我觉得大家需要的其实不是这些海量的信息，更需要的应该是集中力。你需要分辨出对你来说真正重要的东西来。我担心再过几十年，大家会完全丧失高度集中注意力的能力，所以我建议大家，要关注对自己真正重要的事情上，然后集中深入地去完成这些事。