【九鼎投资未来论坛重磅】“算法技术”将何时统治世界

2017-05-29

演讲人:尤瓦尔·赫拉利,以色列知名作家,《人类简史》、《未来简史》作者。

本文为尤瓦尔先生2017年5月25日在第三届九鼎投资·未来论坛上的主旨演讲(有修订)。


我今天想谈谈人类历史上的下一次革命。

纵观历史,技术、政治、 经济革命迭出。尽管历经革命洗礼,但有一点没有变——人类本身。我们仍然是与数万年前相同的动物。我们同中国古代或石器时代的祖先一样,仍有相同的身体、大脑和心灵。

直到现在,尽管人类已经学会如何控制外部世界,但对内心世界的掌控依然很少。我们知道如何修建大坝阻挡河水流过,但我们不知道如何阻挡身体衰老。如果蚊子在耳边嗡嗡作响、干扰睡眠,你知道如何杀死蚊子;但如果思想在你的头脑中轰鸣,干扰你的睡眠,你却不知道如何杀死这些令人讨厌的思想。

下一次革命将会改变这一点。这场革命改变的不只是工具、政治和经济,还将会改变人类本身。它将改变我们的身体、大脑和心灵。我们将可以掌握我们的内在世界。二十一世纪经济的主要产品将不会是车辆、武器或食物,而是身体、大脑和心灵。我们将学习如何设计和制造它们。这意味着我们可能是最后一代智人。一两个世纪内,地球的统治者将变为和我们不同的实体,他们和我们的差异将比我们与尼安德特人的不同更大。

如果我们成功地设计制造了身体、大脑和心灵,这将不只是历史上最伟大的革命,也会成为生物学上最伟大的革命。40 亿年来,生活游戏的基本规则并没有发生任何根本变革。40 亿年以来,不论是变形虫、恐龙、番茄或是智人,都是有机化合物,通过自然选择进化而来。而在二十一世纪,自然选择将由智能设计取代,生命可能打破有机领域的局限,进入无机领域。我们可能会开始生产电子人和完全无机的生命形式。经过 40 亿年自然选择塑造的有机生命,将进入由智能设计塑造的无机生命时代。

这场革命将如何发生?其基础是生物技术与信息技术的融合。一方面,我们对生物学、遗传学、身体和大脑的理解将逐渐加深;另一方面,我们将生产性能更好的电脑、拥有更强的计算能力。将两方面发展放在一起,便能得到破解有机体的能力。如果拥有足够的计算能力和关于人的生物特征数据,便可以创建比人类更了解自身的算法。

这将完全改变经济。今天我们相信顾客永远是正确的。顾客的欲望和选择是经济学中的最高权威。但很快我们会相信该算法是对的。算法将塑造我们的欲望,为我们做出选择。

它从简单的事情开始,如选书购买和阅读。以前,你依靠你自己的感觉或了解你本人和品味的亲友推荐。现在人们越来越依赖于亚马逊为他们选书。当我进入亚马逊虚拟商店时,一个算法便出现,并告诉我: “我了解你 ! 我知道你过去喜欢哪些书。有相似爱好的人也倾向喜欢爱这本或那本新书.“ 

这仅仅是个开始。目前亚马逊的算法是基于粗略的数据,很容易受到误导。例如,你可能会听到一些人称赞新的畅销书,于是就买了它。读了 50 页之后你停止阅读,但你不想看起来很蠢,于是告诉大家你真的很喜欢它,甚至就在亚马逊网站上给它 5星。这导致亚马逊将向你和另外数以百万计的顾客推荐类似的不太讨喜的书籍。然而,亚马逊的 Kindle 等设备会尽快改正这种错误。Kindle 能够在你实际阅读图书时,不断地收集你的数据。你的 Kindle 可以监视哪些部分你读得快,哪些部分阅读缓慢,你哪一页停下休息,在哪个句子前你放弃了这本书,再也没重新捡起来。即使你告诉全世界,这本书是一个无与伦比的杰作,但Kindle 知道你永远没读完第 50 页。

还有更多的惊喜。工程师正在开发可以基于眼睛和面部肌肉运动检测人类情感的软件。为Kindle配备这样的软件和摄像头,Kindle就会知道是什么让你笑、什么令你难过,又是什么让你生气。接下来,将Kindle连接到你身体上或体内的生物传感器上,它将知道你读的每一句话如何影响你的心率、血压和脑部活动。很快,在你读书的同时,书也会读你。此外,你可能很快会忘记大部分所读的内容,计算机程序却永远不会忘记任何一件事。在你读完托尔斯泰的《战争与和平》后,你已经忘了大部分内容,但亚马逊会知道你究竟是谁,是什么人格类型,以及如何触发你的情感按钮。这样的数据能让亚马逊为你精准无误地挑选书籍,也能让亚马逊为你做出人生中最重要的决定,比如和谁结婚。

算法不仅可以帮我们做出决定,而且会在越来越多的任务中胜过人类,并且取代人类。以运输业为例。十年前,无人驾驶汽车的想法只是科学奇想,如今即将成为现实。计算机很快就会比人类更快、更好地驾驶车辆。每年约有130万人在车祸中丧生,这是在战争、犯罪和恐怖主义中遇害总人数的两倍。大多数车祸由人为失误造成——例如,酒驾、在开车时发短信、甚至睡着。无人驾驶汽车不会有这些问题,因此会大大减少车祸的数量。

更重要的是,无人驾驶汽车可以彼此互联,形成一个单一的网络。当今,每辆车都是一个独立的个体。当两辆车从不同方向接近十字路口时,它们无法互联,仅依靠非常有限的信号来告知对方它们的意图,有时一旦错过了信号,两者都会进入十字路口,随之发生意外。但通过计算机将所有车辆都连接到这个网络中,任何车辆不再是独立的个体,也不再需要简陋的信号。每辆车都会知道周围其他车辆的行动,这将进一步大大减少车祸的发生。

当然,这也意味着,卡车司机、公共汽车司机、出租车司机甚至交通警察等数百万人将失去工作。当所有的车辆都实现自动化时,也不需要交通警察。计算机永远不会违法,除非你编程操控它们去违法。

自动化不仅可以取代出租车司机和纺织工人,还可以取代老师、律师和医生等。大多数医生的首要任务是正确诊断疾病,然后提出最佳治疗方法。如果告诉医生我有发烧和腹泻的症状,我可能是食物中毒。但胃病、霍乱、痢疾、疟疾、癌症或一些未知的新疾病也可能导致相同的症状。因为我的健康保险有限,医生仅有几分钟的时间来做出正确的诊断,只够回答几个问题,或者进行快速体检。然后,医生会综合参考我的病史以及人类现有所有的疾病信息。遗憾的是,即使是最勤奋的医生也不会记得我以前的所有疾病和检查。 同样,没有医生可以熟悉每一种疾病和药物,也不会阅读每篇医学杂志上发表的每篇新文章。最重要的是,医生有时候会疲倦、饥饿、甚至生病,这会影响他的判断力。这就不可避免地出现误诊或者治疗方法不太理想的情况。

今天的IBM、微软和苹果等公司都想做出AI医生。AI医生比人类医生有巨大的潜在优势。首先,人工智能可以在其数据库中记录历史上所有已知疾病和药物的信息。然后,它可以每天更新这些数据库,不仅包括最新的研究成果,还可以从世界上每个诊所和医院收集医疗统计数据。

其次,AI医生不仅可以迅速了解我的整个基因组和日常病史,还可以掌握我父母、兄弟姐妹、表兄弟、邻居和朋友的相关基因组和病史。它会立即知道我最近是否访问过一个热带国家,是否有胃肠感染,我家族是否有人患过肠癌,或者今天上午是否镇上每个人出现了腹泻症状。

第三,AI医生永远不会疲倦、饥饿或生病,并且会一直为我所用。我可以舒服地坐在家里的沙发上,回答数百个问题,告诉它我的感受如何。事实上,AI医生甚至不需要等到我感到痛苦就知道我病情。它可以通过生物识别传感器每天24小时监测我的血压、心率、血糖和大脑活动。因此,它们可以在初期就诊断出流感或癌症,并且能够非常容易地以低成本消除病魔。

但目前仍有许多棘手的技术问题阻碍人工智能取代大多数医生。虽然这些技术问题十分困难,但一经解决,一劳永逸。然而,人类医生的培训是一个错综复杂、成本高昂的过程,它需要数年的时间。培训完成后,还需经过十年左右的学习和实习,才能培养出一位医生。如果想要培养两名医生,那么必须从头开始再次重复整个过程。相比之下,如果解决了AI医生的技术问题,您会获得无数位的医生,在世界各地提供全天候服务。因此,从长远来看,即使花费1000亿美元来解决这些问题,也比培训人类医生便宜得多。

一些人认为,即使一个算法在职业技术方面能够胜过医生和药剂师,它也永远无法取代后者的人文关怀。如果你的CT显示你得了癌症,你愿意从一台冰冷的机器那里接收消息,还是从一个关注你情绪状态的医生那里得到消息呢?好吧,那从一台根据你的心情和性格类型来定制口令的关怀备至的机器那接收这一消息如何呢?情绪是生物化学现象,而AI医生可以以检测你的肿瘤一样的准确性来检测你的情绪。

另一场可能发生在医疗保健领域的革命是,医学将改变其主要目标。以前,医学的主要目的是治愈病人。将来,医学的主要目的可能是升级完善健康人。这有很多积极的潜力,也涉及到前所未有的危险。人类将会分裂成不同的生物物种,这是一种危险。随着生物技术的进步,人类寿命延长和能力提升将变为可能,但是新的神奇疗法可能是昂贵的,而且可能对全体数十亿计的人类并非都是免费提供。因此,21世纪的人类社会可能是历史上最不平等的社会。有史以来第一次,经济不平等将被转化为生物不平等。有史以来第一次,上层阶级不仅会比其他人类更富有,而且他们也会活得更久,更有才华。

在20世纪,平等是人类社会的核心价值。二十世纪的大部分历史都是围绕着工人阶级、妇女和少数民族争取平等的斗争展开。相比之下,在21世纪,上层社会可能以牺牲平等为代价追求永生。在过去,富人和穷人之间并没有真正的生物学差异。唯一的区别是社会和经济层面的差异。在未来,他们之间可能存在显著的生物学差异。

严重威胁人类平等的是,在21世纪,政府和精英们可能会失去对大众健康、教育和福利进行投资的积极性。在二十世纪,民主国家和独裁政府都对人民的健康、教育和福利投入了大量的资金,因为他们需要数以百万计的健康劳工在工厂里工作,数百万忠实的士兵在军队中服役。甚至纳粹德国也为穷人建立医院、学校和污水系统,不是因为纳粹是好人,而是因为他们知道,如果想让德国成为一个强大的国家,拥有繁荣的经济和强大的军队,就需要数以百万计的德裔穷人在军队里当兵,在工厂和办公室里干活。

但是在21世纪,大众可能会失去他们的军事和经济价值。在军队中,这种情况已经发生了。二十世纪的军队依靠招募数以百万计的普通士兵,而二十一世纪的军队依靠的是为数不多的专业精英士兵,军队因越来越多的无人机、机器人、网络蠕虫和其他自动化武器而得到壮大。如今,大多数人在军事上都是无用的。很快,同样的情况也会发生在平民经济中。

随着计算机在驾驶卡车、诊断疾病和其他许多任务上的表现超越人类,数亿人可能会被赶出就业市场。许多新的工作岗位可能会出现,但这并不一定能解决问题。人类基本上只有两种技能——体力上和认知上的——如果计算机在这两方面都胜过我们,它们可能就像在传统工作中一样,在新的工作岗位中的也会比我们人类表现得更好。

过去,当自动化改变了就业市场,人们总是可以从一项低技能的工作转向另一项低技能的工作。1920年,由于农业机械化而下岗的农场工人可以在生产拖拉机的工厂里找到一份新工作。1980年,一名失业的工人可以在一家超市当收银员,开始重新工作。这样的职业变化是可行的,因为从农场到工厂,从工厂到超市的转变,是从一项低技能的工作转变为另一项低技能的工作,只需要有限的培训。但在2040年,一名收银员或纺织工人由于人工智能而丢了工作,将很难成为软件工程师来设计虚拟世界,重新开始工作。他们没有必要的技能。这一问题在发展中国家尤为严重,因为这些国家的经济严重依赖于低技能的工作。我们今天是否正在培训孟加拉国的年轻人成为软件工程师?如果没有,他们在2040年将靠什么谋生呢?

因此,在未来,人类可能会分裂成一个全新的超人类精英阶层,以及一个巨大的无用阶层:数十亿人不仅失业,而且无法就业。我们没有任何经济模式来应对这样的局面。如何管理这些无用的阶级,很可能是21世纪最艰巨的经济和政治问题。

我们还面临着另一个巨大的危险。当我们学习如何解读和设计身体、大脑和思想时,我们将不仅获得掌控外部世界的力量,还有控制我们内心世界的力量。然而,控制和理解是两码事。几千年来,人类获得了越来越多控制外部世界的能力,但我们不了解生态系统的复杂性,所以我们愚笨地使用了我们的力量,现在生态系统即将崩溃。同样的事情可能发生在我们的内心世界。我们可能会获得控制和重塑我们身体和大脑的能力。但我们远未能理解我们的思想。最大的危险是,当我们试图控制和重塑我们内在的世界时,我们将彻底破坏我们的内部精神系统。正如我们现在面对的是我们外部世界生态系统的崩溃,但50或100年后,我们可能会面对我们自己思想的崩塌。因为我们的心智将无法应付我们所做的所有改变。

最后,我想说的是,我所描述的所有场景都不是预言。它们只是可能性。没有人真正知道50年或100年后的世界会是什么样子。技术从来都不是确定的。我们可以利用同样的技术突破来创造非常不同的社会和环境。例如,在20世纪,人们可以使用工业革命的技术——火车、电、收音机、电话——来建立出共产主义社会、法西斯社会或资本主义社会。

在21世纪,人工智能和生物技术的兴起必将改变世界,但它并不要求单一的确定性结果。我们可以用它们来创造非常不同的社会。如何明智地使用它们是当今人类面临的最重要的问题。如果你不喜欢我在这次演讲中勾勒的一些场景,你仍然可以对此做出行动。

谢谢大家。