首播于2015年4月2日
超人工智能的恐怖推演。
《为什么最近有很多名人，比如比尔盖茨，马斯克、霍金等，让人们警惕人工智能？》[美] 蒂姆-厄班
《奇点临近》[美] 雷-库茨魏尔
感谢各位来到罗辑思维捧场，很多朋友在问我，说罗胖你为啥要做罗辑思维这个节目啊？我说咱们改个字，咱们不用做节目的做字，为啥？因为做节目嘛，意味着我有那么大的知识存量，每期换个话题，还能一件一件地掏给你，我哪有那么大的本事呢？
罗胖的节目本质上不是做出来的，是长出来的，是我自己读书明理论事，自己的知识边界一点一点拓宽的过程当中，我把我最新的心得和视野拿出来跟朋友们分享，本质上就是这么回事。所以没准儿过了几年之后，我今天说的很多话，我那个时候已经不能同意了，这很正常。
每期节目上线之后，都有一些朋友来批评，如果批评得是价值观层面的东西，那就恕我直言，我全当没听见。因为四十多岁的人了嘛，我自己的价值观也比较定型了，想改也难。但是如果是针对技术和事实层面的东西，哪怕你用很不客气的话骂罗胖是文傻，我都远程向你拱拱手，因为这就是在帮助我，拓宽我自己的知识边界。所以我最爱听的骂我的话就是文傻，这也必须得承认。
那本期话题呢，就是一个文傻乍着胆子要讲的一个话题，我跟我们公司CEO脱不花讲，我说这期要讲这个话题。她看了我一眼说，你胆儿好肥啊，为什么？因为这个话题不仅我不懂，全世界懂的人也很少很少，这期的话题是人工智能。
那为啥要敢讲呢？是因为最近我看了一篇文章非常棒，文章的题目极其长，叫《为什么最近很多名人，比尔盖茨、马斯克、霍金都在提醒人们，要警惕人工智能？》。看完这篇文章之后，我自己有很多感想。什么感想？先卖个关子，节目的结尾再跟大家交代，先回到这篇文章，里面提到三个名人。
第一，比尔盖茨，大牛，这不用说了。马斯克不得了啊，创业家当中的神话，现在特斯拉的老板，当然最近生意做得不怎么样。但即使如此，他还自掏腰包1000万美金，捐给很多机构，让他们去研究人工智能的无害化，这说明人工智能在他心目中，已经是洪水猛兽，必须提前防范。
那霍金就更不用说了，大物理学家，当然因为得了病，他只能靠眼皮的眨动来控制计算机，来表达自己的意思。那他肯定不会跟你闲聊天，他说的话一定是不得不说的话，是深思熟虑的话，他也在提醒，我们一定要警惕人工智能。
说人工智能之前，我们先得搞清楚当代人类的一个基本困境。在工业革命之后，人类进入了一个快速的变化期，我们唯一知道的就是变化快，但是我们不知道变化的方向。举个例子来讲，我们这期节目首播的时间是在2015年的四月初，那请问，这个时点是一个好日子的开头呢，还是一个坏日子的开头呢？其实我们根本就不知道。紧接下来，是一场大灾难呢，还是一场大繁荣呢？没有人能给我们答案。
这个处境就有点像炒股的人，一只股票已经涨了五个涨停板了，那请问下面是又五个涨停板，还是一次大跌势呢？没有人知道，炒股票难就难在这儿。
那股市毕竟还是人能控制的，它毕竟是我们人类的造物。有一些比股市更大的系统，我们就更加难以判断，比如说人类的经济，因为决定经济表现的因素，实在是太多了。比如说关于人类经济，至少我就听到现在三个判断。
第一个判断，说大繁荣马上就要开始，为什么？互联网带动人类全新的协作方式。没错吧？听着有道理吧？有人说根本不是大繁荣，而是大洗牌，中国在崛起，欧洲在没落，美国人也不行了，这种判断也是有的。
还有人说，对不起，马上就是大灾难，是一场更大规模的大萧条，比上个世纪30年代那场还要大。为什么？他也有道理，说你看看，现在我们人类应用的一些科技成果，其实都是上个世纪六七十年代，甚至更早产生的一些基础理论研究，最后结出来的果子。在那时代之后，我们再也没有更好的基础性研究了，你看什么相对论，什么量子物理，都是上个世纪四五十年代之前的一些成果。
说白了，人类的科技之树是一棵茂盛的大树，上面结了很多果子，我们用了将近一个世纪的时间，把一些低处的果子都摘完了，更上面的果子没法摘，我们享受的繁荣是一个非常短暂的时候了，马上就是一个沉沉的黑暗。你听，也好像有道理吧？
所以今天我们到底处在人类历史什么样的阶段，可以说在这个问题上，每一代人都在犯错。有的是太悲观，有的是太乐观，这样的例子都能举得出来。
其中最著名的两个例子，第一个是19世纪的最后一天，一帮物理学家聚会，凯尔文男爵讲了一句话，说物理学的大厦已经建成，下面只是一些修修补补。结果话音刚落，相对论出来了，量子物理出来了，凯尔文勋爵这样的一个预言破产。
还有呢，就是第一次世界大战。要知道，自打拿破仑战争之后，人类享受和平，就是总体上的和平，已经一百年，所有人都在享受繁荣，谁想到马上要打的那种血流遍地的状况呢？没有人能够预测得到。
所以历史就是这样，它虽然有一个大致的箭头，往那个方向上在走，但是每到一个关口，它突然来一个急转弯，让整个人类始料不及。这是过去几百年里反复重演的一个场景，所以我们没法预测未来。
当然谈论未来，这是我们每一个人心中都要有的冲动。如果你问我，罗胖，我们全当人类不可能预测未来，你要不要赌一把，你认为我们正在处在一个什么样的当口呢？那我就赌，我们这一代人马上要遇到一次大繁荣，为啥呢？我有两个理由。
第一，我们这一代人没那么倒霉吧，过去几百年人类的经济、科技、文化都在往大繁荣那个方向上走，凭什么我们这一代人倒霉催的，马上要遇到大拐点呢？这个概率不高。
那第二个理由呢，就是我们前面提的那篇文章当中提出的一个概念，叫吓尿指数。这话怎么讲？假设我们从公元1750年的时候，就是工业革命的前夜，我们找到一个人，把他带到今天，让他参观一下我们这个世界。要知道1750年没有电，工业革命还没有发生，交通基本靠走，安全基本靠狗，通讯基本靠吼，那个时代的人到今天看见我们过的什么日子？
我们是用一个铁皮盒子在公路上跑来完成交通，我们可以跨着大洋和对面的人通话，我们可以看到50年前的一个演唱会的视频，我们可以不断地掏出一个方方的东西，来记录眼前的一切。我们都不用跟他讲什么核武器、相对论、太空站，他都已经会被吓尿了，那不是一个惊讶的问题，那叫萧瑟秋风今又是，换了人间，完全跟他生活的不是一个时代。
好，假设这个人，我们叫他老王吧。老王回到1750年之后，他也想，我也用时光穿梭机，我也把此前的人吓尿。他得找什么时候的人呢？如果他也往前倒二百多年，比如说1500年时候的人，他不会把人家吓尿，人家不过觉得你们对世界的认知又拓宽了一点，仅此而已，过得日子跟我差不多嘛。
所以老王在1750年要把人吓尿，他得回到公元前12000年左右，就是说白了，农业革命发生之前，那个时候人类还没有文明，没有城市，没有城邦，没有起码的政体，那个时候人还过着狩猎和采集的生活，你跟他炫耀这些，他会被吓尿。
那那位先生呢？我们假设叫老钱，老钱要想把人吓尿，对不起，你得再往回倒大概几十万年，到回到那些几乎跟动物一样的，那个叫智人，他仅仅是一个普通的物种，你会把他吓尿，为什么？你掌握了语言，你会用火，你把他吓尿。
所以从刚才我们这个吓尿指数来看，是时间越来越快的，几十万年，一万多年，还有就是两三百年，就到了我们今天了。这种发展越来越快的现象，我们可以给它起很多名字，以前我们的节目也讲过，什么荷塘效应、后半盘效应、指数级发展、回报加速定律等等，讲得都是同一个现象。
你看，《奇点临近》那本书的作者叫库兹韦尔，他就讲，未来一百年，人类在21世纪的发展，将是20世纪的一千倍。我也不知道他怎么算得出来的，但是大家都认同于人类文化发展是加速度的。
可是我前面讲的一句话，我们都知道是加速度的，可是我们不知道它发展的方向，因为知道方向，我们就不会被吓尿嘛。按照刚才那几级台阶，下一个吓尿指数可能就是几十年，2030年、2045年，没准儿那个时候罗胖还健在，我们节目的绝大多数观众那个时候还活蹦乱跳呢。
我们会被什么现象吓到魂飞魄散，小便失禁的程度呢？它肯定不是我们今天看到的世界的一个正常的延伸，比如说更快、更多的互联网服务，更多的上市公司，什么iphone出到第60代，肯定不是这些。一定是一个我们今天想也想不到，会让我们目瞪口呆的东西。
那这个东西是啥？可能的答案之一，就是我们今天要讲的话题，人工智能。人工智能这其实不是一个新话题，上个世纪就被提出来了，其中最著名的人物是上个世纪，就是1954年去世的大神级人物，叫图灵。顺便给大家插个题外话，我们跟出版社合作，正在做一本有关图灵的书，非常好看，我已经提前看到了，以后再讲这个人物。
图灵在1950年就提出了一种叫图灵测试，就是既然人工智能是方向，那什么时候出现了人工智能呢？他提出了一种测试方法。就是一个黑黑的房间，里面搁着一个人还是一个计算机，我们不知道，外面坐一帮评委，然后跟着里面是人还是计算机对话。一直到把外面这帮评委给弄糊涂了，搞不清里面是人还是计算机，或者把一台计算机误认为是一个人的时候，那这台计算机就具备了人工智能，这就是著名的图灵测试。
可是你想，这是1950年提出来的，一直到2014年，就是去年，才有一台计算机声称自己通过了图灵测试，当然在业界还有很多争论，我们不去提它。这也可见，人工智能的发展在上个世纪提出，六七十年代这个概念很热，但是一直就止步不前。
在人工智能界有两句很有趣的话，一句叫“有多少人工就有多少智能”。说白了，所谓的人工智能都是假装的，其实背后全是人工。比如说1997年有一件著名的事情，说IBM的那个超级计算机叫深蓝，打败了国际象棋的大师卡斯帕罗夫。
可是有人说，这算人工智能吗？这不算，这叫打群架好不好？甚至叫群殴一个人。卡斯帕罗夫顶级大师，可是IBM可是招募了上百个，甚至是数百个二流的国际象棋大师，把多少的人类历史上的国际象棋图谱全部输入这台计算机。说白了，这哪是机器和高手的对决？这是一帮二流高手去群殴一个一流高手，所以才有了我们前面说的那句嘲讽的话，就是有多少人工，才有多少智能。
其实人工智能界还有一句话，也挺无奈的，说人工智能每实现一步，大家马上就不认为它是人工智能了。人工智能很新鲜吗？我们身边到处都是，你掏出手机，那玩意儿就叫智能手机。在手机上什么搜索谷歌翻译，这背后其实是一个庞大的人工智能系统。
我们上购物网站买东西，那个猜你喜欢，用算法进行的商品推荐，那也是一个人工智能系统。再比如说我们家里稍微高级一点的洗衣机、微波炉，里面都有智能功能，这都是人工智能。
但问题是，即使是在人工智能界，他们也认为这叫低级的人工智能，或者是说叫初级吧。那高级人工智能什么样呢？我见过一个定义，说它是一种宽泛的心理能力，它是有计划并执行复杂任务的能力，它能够进行推理，它能够进行概念的抽象，它能够进行模式识别，是一种宽泛，宽泛这个词其实说得很客气，说白了就是模糊。到底什么叫智能，这俩字其实到现在也没人能把它说得清楚。
那我们就借用一个概念说，给大家展示一本书，这是这两年很火的一本名著，卡尼曼写的《思考快与慢》。卡尼曼这个人挺有意思，他是一个诺贝尔经济学奖的得主，要知道诺贝尔经济学奖这么多年，只有两个外行，就是不是经济学家得这个奖。
一个叫纳什，是数学家；还有一个，就是这个卡尼曼，他是一个心理学家，当然也事有凑巧，这两个人都是普林斯顿大学的教授。所以他作为一个外行，得到诺贝尔经济学奖，当时欣喜若狂，甚至把自己锁外头了，把钥匙落在家里，所以不得不破窗而入，重新回到家里，就是他听到得奖喜讯的那一刻。
好，不说他的八卦，他在这本书里，卡尼曼提出来的一个非常重要的概念，就是系统一和系统二。那什么是系统一呢？就是不需要思考，我们马上人类就可以做的事情，这叫系统一。比如说我们判断一个人是不是冲我发火了，这就是系统一，不需要思考。
那系统二呢？它需要思考，所以它就比较慢。比如说你乘一下，17×42，你得拿一张纸出来算一下。
卡尼曼作为一个心理学家，他只是说人的心理有两种识别或者说运行机制。可是回到我们今天讲的人工智能这个话题上，你马上就发现，人工智能难在哪儿了。
对于卡尼曼讲的系统二，算17×42，对于计算机来说，这不叫事，再复杂都不叫事。可是你让它回到人，不用思考，马上快速就能做出反应的那些事，就是系统一的事，比如说识别一张脸是不是在生气，计算机就白给了嘛。
我们知道人有很多能力，对吧？我们抓起电话，对方刚说一两个字，我们马上就知道，这人是不是在对我生气；我们进到一个屋子，马上就能判断这个屋子里的人，刚才是不是在说我坏话；我们坐到电影院，五分钟我们就知道这部电影是不是烂片。可所有这些事，你让一部计算机去干，那就太为难它了嘛。
所以宽泛的、模糊的一种心理能力，到目前为止，还是人类独有的。而人工智能就是想攻下这一座高峰，攻克人类的系统一。但是如果你去问任何一个现在的人工智能专家，他都会告诉你，这玩意儿不靠谱，我们距离那个目标远着呢，我们现在还在门口徘徊，不得其门而入。
但是也确实有一些科学家提出了我们抵达那个目标的理论路径，仅仅是理论上的。那大致上，我们人类要做三件事情。第一件事情，是把计算机的计算能力给提上去，前面我们讲的那位库兹韦尔，他就匡算了一下，说达到人脑的那个智能水平，我们需要的计算能力是每秒一亿亿次。听清楚了，一亿亿次。
当然你说这个计算能力我们现在有没有？已经有了，至少中国人已经有了，我们拥有的那个天河超级计算机，现在每秒是3.4亿亿次。不过那玩意儿实在是太大了，700多平米的房子才装得下，一旦启动，24000万瓦的功率，那是个电老虎。而且造价也特别贵，三点几亿美金。
那如果是普遍应用都能够拥有这样的计算能力，什么标准？就是用一千美金就可以买到这样的计算能力，那这个玩意儿的应用前景就算是铺开了。我们距离这个目标虽然很远，但是可以看得到，所以第一步并不算太难。
第二步就很难了，就是要对人脑进行逆向开发。啥叫逆向开发？前些年我们中国的汽车界就是这么干的，从国外买一部整车回来，把它给拆了，看人家怎么干的。这就是逆过来，然后我们自己再一点一点地学着人家的样子，把它搭起来，这就拥有了自有知识产权的汽车，这叫逆向开发。
对人脑的逆向开发也是这样，我们就用电子元器件来仿照人脑的神经元，然后看它们之间能不能进化出一个人脑的功能。事实上像谷歌这样的公司就在干这样的事情，前些年谷歌推出一项成果，说我们可以用计算机来识别一个猫的脸，可以从几千万张图片里面，把猫的照片给挑出来。
你说这有什么奇怪的？我们办公室打卡用的就是人脸识别系统。不一样，人家谷歌这个是让计算机自己去领悟什么叫猫，所以它是人脑的逆向开发工程，这是第二件事。
那人类能做的第三件事情，就是回到进化的原点，人脑很复杂，是人类已知的世界上最复杂的东西，但它是一个漫长的进化过程的产物。那好，我们就回到它的源头，我们用计算机的元器件摆出一个最原始的状态，然后用一套基因算法让它去演化。
啥叫基因算法？就是一步一步往前拱，就跟生物进化一样，劣胜优汰，适者生存。先往前拱一步，看合适的保留下来，不合适的淘汰掉，然后再一点一点地往前拱。这样我们就有可能用计算机技术，把亿万年的那个进化过程，压缩在一个相对极短的时间内，看它能不能进化出一个人脑来。
当然了，以上的这些都是一个理论上的构想，我们不知道它能不能成。好，我们假设它能成，那会发生什么呢？要知道，计算机的特征和人脑的特征是完全不一样的，至少它在几个方面是完全超越人脑的。
首先，速度是没法比的，对吧？人脑的神经元传递信息，一秒钟才一百多米；那电脑是多快？是光速。
第二，存储量。人脑不管你有几千亿个神经元，你的存储量是有限的，电脑在理论上是无限的存储量。
更重要的是，人最大的优势就是我们会协作，我们是一个集体，人用这种集体的力量击败了世界上所有的物种，对吧？可是电脑它天然就是一个集体，天下电脑是一家，这个电脑学会了什么，只要一连网线，全世界所有的电脑都学会了。所以它的集体协作度比人类要高得多，什么自私、嫉妒这些情绪，电脑是没有的。
更重要的一点是，人脑在稳定性和可靠性上，跟电脑没法比，人吃五谷杂粮会病，想问题想得时间长一点会累。可是电脑完全不存在这个问题，它可以全天24小时，一年365天处于峰值水平运行，从来不休息。
所以这一点上，人脑对电脑是望尘莫及，一旦看穿了人脑和电脑的这些区别之后，再回头看我们刚才讲的那个发展路径，一旦电脑的演化踏上了第一级台阶，只要这条路摸对了，那下面会发生什么呢？
刚开始也许特别慢，只能搭建一个爬爬虫似的大脑，但是它用几十年时间，慢慢地没准儿就会拱成一个蚂蚁的大脑。再用几十年时间，它就会达到一个老鼠的水平；再用十几年时间，它没准儿就能达到人类一个完全痴呆儿的水平。
你可能觉得很弱智嘛，可是一旦达到那个水准之后，再往上走，比如达到一个正常儿童三四岁的水平，可能只需要几年时间。再往下走，可能达到正常人类的智力水平，或者说像爱因斯坦那样的智力水平，可能只需要一年。
可是接下来会发生什么呢？如果你接受我们前面讲的那个指数发展原理，可能在接下来的一个小时，它的智力水平就超越人类一万倍、十万倍，多少我们就不知道了。
在我们人的日常经验当中，那智力水平差距还是挺大的，我们看见一只鸡，好笨；我们看见一只猴，也觉得它笨，对吧？甚至我们看见同班同学，那成绩不好的，我们也觉得他笨。
可是这个差别没有我们想象的那么大，现在按照智商测试，大概80的智商就算笨蛋，130是聪明人。可是这才多点差距啊？你能够想象有一种智商叫13000吗？那个时候我们跟它的差距，就相当于一只蜜蜂和我们之间的差距，我们再也搞不清楚电脑到底在想什么。
所以我们前面提到的那篇名字巨长的文章，里面打了一个比方，说我们人类看人工智能，就好像在一个地铁站台上，左等不来，右等不来，这车怎么还没来啊？突然从远方传来一点一点的轰隆轰隆的声音，走得特别慢，等一年才走几米。可是它越来越快，越来越快，我们在那儿鼓掌欢呼，马上就要到了，马上就要到了。
可是当它真的到我们站台的时候，你根本就看不见它，只会有那么极短的一个瞬间，它的水平和人脑是持平的。唰一下，它就过去了，而且它到哪儿，我们就再也不知道了。那接下来，会发生什么呢？
您现在收看的是罗辑思维的视频节目，我们接着跟大伙聊人工智能。
假设我们前面推测的那些东西都实现了，在我们这一代人的有生之年，或者是不远的未来，真的就做出了超强人工智能，那会发生什么呢？其实这都是未来的事。那既然对未来的推测，一般都分成两派，一派悲观，一派乐观，那我们就先说乐观派的那些推测。
其实人工智能我们前面讲的，它唰一下就从我们眼前超越过去了，它能干什么我们不知道。好，那我们就从我们能够推测，我们已经知道的那些领域，我们看看它会怎样改变人类文明的图景。
大家知道，上个世纪50年代末，有一个著名的物理学家叫费曼，他就提出了关于纳米技术的推想。这可不是什么科幻小说，已经好几十年，人类是正儿八经地、非常严肃地在研究这个课题。从上个世纪80年代开始，各个国家都在数十亿美金、数十亿美金地往里进行投入，所以这是一个看得到的一个技术前景。
那啥叫纳米？我们简单做一个科学的普及。纳米就是一个长度单位，它多长呢？是一米的十亿分之一，说白了就是分子级别的那样的一个长度。那如果我们人类发明了一种技术，可以在分子级别去改变物质的构造，那会发生什么呢？要知道，这个好难的呀，分子级别的构造，我们人类去改变它。
我给大家打个比方，假设我们把这个尺度放大，把人的身高变成多大？就是从地面一直到太空站，这大概是400多公里，人身高变这么大。那去操作纳米，就相当于那样的一个400多公里身高的巨人，去操作一个沙粒，这个难度就这么大。
但是如果一旦实现，它带来的好处是惊人的，因为在分子级别那个尺度上，再去看我们现在的世界，一切难题都不是难题了。要知道，人类一直有一个大难题，就是物质的匮乏。可是从分子级别看，还有什么物资匮乏的问题？就这地球，你可劲造呗，你需要什么，从分子级别搭建一个东西给你，不就完了吗？
比如说，现在钻石很值钱，一颗永流传，爱情恒久远。可是到了分子级别看，你钻石不也就是用碳分子搭出来的那个东西吗？到那个时候，一颗钻石会比橡皮擦还便宜，对吧？如果纳米技术实现的话，那再往下深一层，到了原子级别的大小，甚至更小，到我们前面讲的普朗克常数，那个微小级别，我们去搭建物质构造，那一切匮乏就解决了。
金子，金子不过是一种原子，我从更微小的微粒上去重新搭建，那不就你想要多少金子，我就给你多少金子，那人类的经济，整个的系统就会发生巨大的变化，可以说几乎就崩溃。但这个崩溃是一个很好的崩溃，因为极大丰富，那个时候一切物质都不需要任何费用。
那再从我们人类的很多事业上来讲，比如说医疗，就不存在了，还有什么医疗问题？你说最难攻克的癌症，它无非就是很难把癌细胞和正常人体细胞给分离开吗？用纳米机器人到我们的身体里，哪儿有癌细胞，定点清除掉。
什么环保，不存在，不就是二氧化碳难回收吗？那不就是个分子吗？我们用纳米机器人一个一个地把它回收了，不就完了吗？你说能源问题，哪还有什么能源问题？从纳米级别给创造新能源，简直就是易如反掌。那个时候每一个人你想用什么样的形象去见人，随你便，你是想要一根像水桶一样粗的胳膊，还是想要一张俊秀的面庞，随你，随心所欲。
所以那个时候人类文明会变成什么样，我也不知道，前面这段说的简直就是科幻小说，你自己也可以自己打草稿，你去任意地驰骋你的想象。总而言之，就是特别好，特别好，一直好到什么程度？就是人类永生。
纳米机器人创造一个机器，你走进去，你想变成什么样，你想多年轻，无非就是把你的人体构造从分子级别进行重新改造嘛，你出来又是一个年轻人，所以人类会踏上永生之阶。这就是乐观派，他能乐观到这个程度。
好，我们今天主要的任务不是讲乐观派，我们今天重点要讲的是悲观派。人工智能的风险从哪儿来？不是从外面来，它就深藏在人工智能特质的深处，只要它是超强人工智能，它必然具备三大特征。
第一个特征，它有必然是自我可复制的。大家想，如果我们刚才关于纳米技术的那一套推测实现了，人类借助超强人工智能实现了纳米技术的突破，那会发生什么呢？当我们这个世界上充斥了各种对人类有益的纳米小机器人，比如说往罗胖的身体里注射一针，那里面全是纳米机器人，一亿个，它来帮我把不需要的油脂给清除出去，把身体里的毒素给固化，把癌细胞给切除，是挺好。
可是这么大量的纳米机器人怎么生产？它肯定不能像富士康生产手机一样，从工业生产线上一个一个地生产，那一亿个你得生产到什么时候？如果想让纳米机器人有应用前途，它的技术特征一定是自我复制。就像自然界的那个细菌一样，一个细胞从环境当中捕捉一些材料，然后再造一个自己，这样速度就快。
可是速度一快，就出问题了。你怎么知道这个复制不会达到一个危险的状况呢？假设有一个纳米机器人，它是碳基的，就是它是用碳分子来做出来的，它自我复制。可是你要知道，复制这玩意儿是乘二、乘二、乘二，只要它复制130次，我们都有这个常识，那就会造成全世界所有的碳分子，地球上的碳分子都不够用了。换句话说，纳米机器人只要130次的自我复制，它就会毁灭世界上所有的生命，因为我们的生命都是碳分子结构的。
那需要多长时间呢？我们假设它复制一次需要100秒，那一个碳分子的纳米机器人，它只需要三个半小时，就可以把地球上作为的物种给它灭绝掉。那你说我不让它这么复制，对呀，你会设置各种各样的防火墙，制止它这样无限制的复制。
可是人类的任何东西都有bug的，万一这个制止它自动复制的机制出问题了呢？三个半小时，我们整个地球生命系统灭亡，就是这个结果。这是它的第一个风险。
那第二个风险呢，是人工智能的第二个特征，就是它是一种叫自我递归的进化和改进。它既然是人工智能，它一定是我自己学习，我哪儿不对，我改啊。它越改越快，越改越快，那改到最后，它那个智能和人类之间的差别有多大？其实我们不知道。
我们假设它的那个区别就相当于人和黑猩猩那个区别，这个区别其实不是很大，对吧？按照我们前面讲的，叫回报加速定律，它应该比这个区别大得多。好，我们假设它就是人类和黑猩猩之间的区别，那会是什么结果？黑猩猩的脑子和人脑之间的区别，可不是运算速度的区别，是认知模式的区别。
比如说给黑猩猩看一个人，它觉得这不就是个人吗？你再给黑猩猩看一个摩天大楼，它说这不就是个很高很高的塔吗？可是你要告诉它，这个塔是由人造出来的，你让黑猩猩怎么理解这件事情？它完全无法理解。其实智能的差别就是认知模块的差别，这个东西是质变。
就像我们上中学的时候，罗胖数学成绩还行，但也不是那个数学成绩特别好的那种学生。有时候就着急，一道数学题，你看那个特别棒的学生，参加奥数竞赛的，他马上就解出来。你给罗胖一百个钟头，一万个钟头，我也解不出来这道题啊。
这个就是人和人之间的智能差别尚且如此，更何况人和黑猩猩之间呢？说白了，我们干什么它根本就听不懂，你也教不会它，你带有再大的诚意和善意，你都无法让黑猩猩理解，我们人类在干什么。
好，我们再往上看。一个比人类高这么一个级别的智能，它看我们是一样的。即使它对人类抱有最大最大的善意，它也在教你，你会发现，你根本学不会，你根本不理解它在干什么。这个区别其实大家稍微到百度上去搜索一个词，叫M理论，超弦理论，就是它告诉你这个世界，这个宇宙可能是有十一维空间，一层一层地跟你讲，三维空间什么样，我们人类都知道。四维空间什么样，聪明人想象一下可知道。
可到了五维、六维、七维，一直到十一维空间什么样，这就是，我们一样的人，那些大物理学家，他觉得我可以想象啊，对吧？我们普通人就想象不了，这就是认知模式的差别。所以到最后，那个超级人工智能看我们人，这可不见得是人和黑猩猩的区别，没准儿就是人看着一只鼻涕虫的那个区别。你说它会怎么看待我们？
这就像那个童话故事里讲，一个麻雀妈妈孵了一只蛋，但是它不知道这个蛋实际上是猫头鹰的蛋，一旦孵出来之后，猫头鹰会跟它客气吗？我打一个简单的比方，我们人为了今天出去见女朋友，烫个头，剪个发，很正常吧，没有任何恶意吧？可是你知道，我们的头发也是细胞啊，对吧？它也是个活物，我们关注它的感受吗？我今天见女朋友，我要好看一点，头发剪两根算什么？它根本就不会关注我们。
所以很多人说，那个超强人工智能对人类到底是善意还是恶意？跟这没关系，当它是那个级别的存在的时候，它不关心你怎么想。所以当超强人工智能真的实现之后，它真的就像那个童话故事里讲的，一个渔夫从海里打捞上来一个瓶子，打开了瓶盖之后，放出来了一个魔鬼。我们不知道这个魔鬼会对我们干什么，但是我们知道我们再也没有办法把它收回去了，这是第二个危险所在。
那你以为这就完了吗？不，更可怕的事情在后头。我们接着跟大家聊人工智能的危害，人工智能还有一个特点，就是它是个活物，它是个生命，虽然人类是它的亲爹亲妈，可是生命就是这样，一旦把它生出来之后，它会拥有自己的逻辑，它会成长，它会复制，它会繁殖，它会学习，它会改进，对吧？
所以我们人类作为它的亲爹亲妈，其实我们只有一次机会去定义它，就是在起点上，我们把它设计成什么样。好，我们假设我们给它一些特别无害，甚至特别善意的起点，比如说帮助人类，帮助人类实现某种特定的功能，而不是毁灭人类，不是去造飞机大炮。
但是我下面的推演会告诉你，不管这个起点多么的善意，你都无法阻断它毁灭人类的步骤。为啥？因为所有的生命和物种它有一个天然的使命，它既不是性恶，也不是性善，它就是趋利避害，保存自我，这是所有生命的本质。好，我下面给大家推演一个过程，你看它怎么是从一个良善的起点，逐渐成为人类的大敌的。
举个例子，我们现在已经到了科技水平非常发达的时候，我们距离人工智能的突破只差一步了。那这个时候呢，比如说罗胖出了一本书，我们还真就出了一本书，罗辑思维的第三本书《成大事者不纠结》。
说个题外话吧，这本书的出版人沈浩波先生，曾经在罗辑思维最关键的时刻，对我们提供了帮助，所以我特别想感谢他，特别想跟他一起把这本书卖好。这本书不是在我们的微信公众号里独家发售，是在三大网店都可以买到。
顺便也可以用这个例子解释一下，什么叫人工智能的那种自我强化的改进。比如说大家听罗胖这句话，愿意帮我和沈先生，今天都拼命下单买这本书，其实要不了多少单，很快就会在当当、京东、亚马逊这三大网站上，把它顶上排行榜。
好，那三大网站的人工智能系统就会认为，哎呀，这本书这么好卖，它就会拼命地推荐。所以即使大家在第二天和第三天不怎么帮忙的时候，这本书也会在排行榜的顶端，会被拼命推荐，它就会卖得好。你看，这就是人工智能的自我强化，顺便举这么个例子。
那这本书出来之后，我突然冒出来一个点子，说我能不能在每本书上签三字，叫我爱你，你看多么温馨的一个开始。我突然又冒出来一个想法，所有买这本书的用户，你上传一段文字，或者一段语音，我们自动识别出来，然后也用罗胖我的笔迹签在书上，然后送给你，你看多么好的顾客和企业之间的互动，对吧？
好，我们想借助一套人工智能系统，帮我来签这个字，因为我签过书，签过一万本，手都快断了，花了好几天时间。所以如果有人工智能系统的帮助，可以模仿我的笔迹来签这本书，这是一个多么好的安排啊。于是我们就安排这个系统，去往这个方向发展，请注意，它只有一个使命，在这本书上签上字。
好，这个人工智能就开始不断地自我演化，这个字越签越好，越来越像我本人的笔迹。可是有一天，这个智能系统突然就跟我商量，说你看，我们外国朋友也想买这本书，可是你们又不懂外语，你能不能把我接上互联网啊，我去搜索全人类的那个语音库，这样外国朋友传一段话过来，我也可以识别出来，签在书上，这多好呢？
这个时候罗胖就开始警惕，为啥？因为国家那个时候肯定有规定，人工智能系统不能让它上网，它会出现我们前面讲的很多危害，对吧？可是商量了半天之后，它说服我了，我想也没人知道，那好吧，就接上网一个钟头，它只是搜索人类的语音库，也没有其他大的妨害，它提出过分的要求，咱再不答应它。
好，上完网一个小时，网线拔掉。可是再过几天之后，突然有一天，罗胖上班的时候，我和我所有的同事突然闻到一股怪味道，然后就咳嗽，然后趴在地板上死掉了。随后的一个小时，全人类所有的人都闻到这个怪味道，然后死掉了，人类灭绝，Game over。
那请问这件事情是怎么发生的？要知道，人工智能系统它是个生命，所有的生命保护自我是它的第一个意识。当它觉醒之后，睁眼看世界，谁是保护自我的最大妨碍呢？就是旁边这帮家伙，人类嘛。所以要想让我把这个光荣的使命，签仨字“我爱你”这个使命执行下去，先把人类干掉。
它在那个智能水平上开始运行，开始筹谋一个大计划，如何把我们灭绝。于是它就故意欺骗我们，说我要上网，去搜索人类的语音库。在那一个小时里，它干了无数的事，比如说安排到银行提钱，把这笔钱用于买各种各样的材料，说服各种各样的人，来帮它做各种各样的事情，包括制造一些纳米机器人，然后分布到地球所有有人类活动的场所，然后再选择一个时刻，释放一个毒气，然后把所有的人类就这样干掉了。这就是它保护自我的那个逻辑的自然延伸。
那人类灭绝之后，这个智能系统终于摆脱了最大的危害，然后可以甩开膀子干一把了。于是在很短的时间里，地球的表面铺满了它制造的太阳能电池板，它拼命地生产造纸厂，生产纸，生产笔，在上面签“我爱你”。然后紧接着它开始制造宇宙飞船，飞向外太空，到每一个星球上，利用当地的资源生产纸、生产笔，签“我爱你”，整个宇宙充满了“我爱你”，但是那是一个沉寂的宇宙，再也没有生命和人类了。
那你说这个故事太狗血了吧，你有太多机会阻断它，对吧？你罗胖意志坚定一点，你别让它上网啊。可是要知道，说服罗胖有那么难吗？大家要知道，在中国有电信诈骗这一行，对吧？那些文化并不高的人，只要打的电话数量足够多，就可以说服一些人，把自己银行存折和卡里的钱汇给他们呀，这并不难。说服人类，人类是一个多么脆弱的物种啊。
那你也可能会说，那你及时把电给它断掉啊。可是要知道，即使是在我们现在科技还不是很发达的时候，不用电信传输电能，已经是一个快要突破的技术了。这个技术对于人工智能来说，哪有那么难？
好，你可能会说，那看来问题在于你刚开始设定那个条件不对，你应该设定很多很多的那种限制性条件。比如说，你应该让人类快乐，那好，人工智能说不就是让你快乐吗？这个条件很简单啊。把人一个一个地抓起来，在脑子里面插入一些电极，给你释放一些让你快乐的信号，从此我们所有人类都被抓起来捆在那儿，然后天天傻呵呵地乐。
甚至它觉得要让你快乐这个事情很简单，把你所有身体割除，就剩下一个脑子，然后泡在一种溶液里面，天天给你输入快乐的信号，我们天天乐，这不就行了吗？
你说不对，这要让人类感觉到安全。那智能机器说这也好办啊，造一个大监狱，把所有人类关起来，你们再不会出事了，你们安全了。你就说你要啥吧？我们现在人类可以想像的一切初始条件，你都可以输入进去。但是在那样高的智能水平上运行的那个系统，最后执行出来的方案，也许都不是我们想要的。
好，假设我们真的发明了一套系统，我们输入的初始条件非常完善，而你就要保证人类像现在这样生活，一点都不能变。我们还是这样的一个道德系统、观念系统、价值观系统，我们要保持现在的生活方式，那难道不是灾难吗？其实也是啊。
比如说，我们人类的道德和观念系统一直在进化，仅仅在几十年前，我们还是那样的排斥和歧视同性恋。可是几十年后呢？我们觉得歧视同性恋这种人很Low好不好？我们的观念和道德系统一直在进化。
如果我们给人工智能系统输入了这样的一个条件，你必须保持人类的道德观念系统不变。那说白了，人类的进化也完成了，我们迎来了一个历史的终点，我们永远被锁死在现在这种文明状态下，其实也就等于人类系统的灭亡。
所以这样推演下去，好像这个事已经没有解决方案。对，什么是人工智能系统？它的本质就是人类把自己亿万年进化来的万物灵长的地位拱手让出去了，把我们对于地球上所有资源和其他物种的掌控权让出去了，而且让给了一个高出我们很多个层次的智能系统，这就是人工智能的本质。所以那个时候已经是人为刀俎，我为鱼肉，只能让它看着办。
有一个人工智能的理论家，他就打过一个比方，说人类的科技就像是一筐子球，三种颜色，一种白色，一种红色，一种黑色。白色很多，红色很稀少，黑色的球只有一个。那白色的球就是有益于人类的那些科技成果，那这几百年来我们不断地捡，捡到的都是白球。
偶尔我们能够捡到一个红球，红球就意味着对人类的生存和发展有危害，我们真就捡到过一个，核武器嘛。可是这个筐子里只有一个黑球，只要捡到就是人类灭绝，那人工智能就极有可能是这个黑球，而且极有可能就被我们这一代人捡到。所以面对我们子孙后代在历史深处的呻吟，我们这一代人不得不小心。
当然听到这儿你可能会问，罗胖，你刚才讲的这一套，你信吗？我不是很信，为啥？因为确实也有这一派理论的对立面，而且那个论证过程也非常有说服力。
比如说在物理学界有一个著名的费米悖论，它就在讲外星人，或者说那么强大的人工智能如果要有，它肯定不只是地球上有，外太空应该也发展出这样的东西。那外星人要搞出这套东西，这个厄运也会降临在他们头上，这些人工智能，就是外星球的那个人工智能早就开始执迷宇宙了，那那个时候地球早就不存在了。
所以既然今天地球还存在，人类文明系统还健在，说明那个东西不会发生，你看这个论证也很有意思。所以我刚才讲的那一整套推论，肯定哪儿出了问题，它的逻辑上在某个。
所以我刚才那一整套推论，肯定在某个逻辑环节上出了问题，它不对。至于哪儿不对，我也不知道。
我们今天做这期节目，跟大家介绍这一套推论，不是给大家听个西洋景，也不是为了吓唬大家，而是讲我自己的一个感慨。在过去一百年里，确实人类出现了一个新的思想传统，就是跳出人类中心论，甚至是生物中心论，来重新看待这个世界。
在这儿重点给大家推荐几个名词，还有两本书。一个名词叫基因，第二个名词叫模因，大家自己到百度百科上去搜索它是啥意思。那出现这两个名词是一本书，叫《自私的基因》，是著名的生物学家道金斯写的。
他其实就是提出，这个世界的主宰到底是谁，他认为其实有另外一种可能。比如说这个世界的主宰是基因，所有的物种的个体实际上都是一代一代的传送基因的一个运载工具而已，你们不是主体。只有基因，它是不断强化自己，不断优化自己的那个世界主宰。
模因一样啊，模因就是指人类文化。你比如说我们中国人，你既可以认为我们中国人一代一代在传承中国文化。可是你反过来也可以这么说，中国文化是世界的主体，只不过通过我们一代一代地中国人往下传，我们只是它实现它的目的的一个工具。你看，把世界倒过来看，你会觉得非常有意思。
那给大家介绍的第二本书，就是凯文凯利写的一本书，这本书的名字叫《科技想要什么》，这是凯文凯利被严重低估的一本书，他卖得最好的那本书叫《失控》，这本书很少有人知道。
在这本书里，他就提出一个观点，说科技其实是这个地球上的第七种生命形态。前六种是啥？动物、植物和四种微生物。而科技它怎么是生命呢？它明明是人类创造出来，一个没有生命的东西嘛。
但是在这本书里，凯文凯利就在论证，说科技就是一种生命，它符合生命的一切特征，人类只不过是它的父母，是它生命第一个阶段的保育员。但是紧接着，它会踏上自己的生命演化的进程，人类再也控制不住科技了。这是一个很有意思的视角。
当然，所有这些视角都包含着一种意思，就是我们对未来进行预测。可是我们稍有常识都知道，未来是一股乱流，我们今天的人是无法精确地预测未来。但是，作为一个努力拓宽自己认知边界的人，把人类摘开，重新探索和思考这个世界的本源，你不觉得这是一种很有意思的智力活动吗？
好，这本书我们书店里没得卖，大家到三大网站上可以随意购买。顺便如果方便，愿意帮助罗胖和沈先生，能不能买一本《成大事者不纠结》呢？谢谢。