馕蹲拍阄业暮蟠脖幌稹Ｄ墙侨死嗬飞献畲蟮脑帜眩蛭僖裁挥欣妨耍僖裁挥腥死嗔恕Ｈ死嘁步晌厍蛏显嬖诘衙鹁哪�99％的物种之一。
因此，对于地球主义者而言，宇宙主义者是魔鬼附身，比希特勒、日本帝国主义或者其他任何杀害亿万人类的政权都坏得多，因为受害的范围将大得多。现在我们谈论的不是几百万人的屠杀，而是整个人类，即几十亿人的灭绝。
但是对于宇宙主义者来说，在这个无关紧要的小行星上谈论人类生存与否是微不足道的。因为这个行星围绕的恒星也只是我们这个星系上约2 000亿个恒星中微不足道的一颗，已知宇宙中同样的星系也有这么多（也是以10亿计算的），并且在这个多元宇宙中可能还有很多其他宇宙（根据一些最近的宇宙理论）。我称他们为“宇宙主义者”也正是基于他们的看法是宇宙范围的。他们更注重“大局”，意思就是说，在一个无关紧要的小行星上，灭绝超原始的、非人工智能的物种（也就是人类），对于人工智能机器的“上帝”来说是不重要的。
本书将会用两章来陈述地球主义者和宇宙主义者各自的观点。他们双方的论证都很有说服力，意味着他们之间不可避免的冲突将会随着未来几十年人工智能辩论的白热化而更加敌对。
我对未来潜在冲突的激烈程度感到担心，对这两种观点（地球主义者/宇宙主义者）支持的人数将不相上下。举个例子，当我对关于宇宙主义者/地球主义者/人工智能机器的情景进行讲座的时候，我经常请听众对他们自己是地球主义者或者宇宙主义者进行投票。我发现投票的结果不是我以前所预计的（10％是宇宙主义者，90％是地球主义者），而竟然是50︰50，60︰40，40︰60。人们对这个问题的看法分成了对立的两派。
让我更沮丧的是，人工智能问题在21世纪将会非常热门。基本上可以肯定地说，在这个问题上的观点分歧会在21世纪后半段在地球主义者和宇宙主义者之间引发一场大战。如果你把从19世纪初期（拿破仑战争）到21世纪末期的历次重大战争的死亡数字列举在图表上的话，你会发现，这场战争带来的死亡数字可能是令人沮丧的几十亿，就是我所说的“大规模死亡”。
地球上的人口数量只是几十亿而已，因此，我们得到了一个悲剧性的结论，那就是为了避免人类被人工智能机器种族灭绝，人类不得不进行内部的战争，并且（或基本上）杀完自己。
这场我所谓的“人工智能战争”将会是历史上最波澜壮阔的，因为从来都没有如此高的赌注，那就是整个人类的生存。战争将用21世纪的武器进行，因此伤亡数字也将是21世纪的数量级。
悲哀的是，对于这个令人沮丧的情形，尽管我尽了很多的个人努力仍然无法找到脱离困境的办法。我夜不能寐，试图找到可以避免“大规模死亡”的现实办法。我没有成功，这让我感到非常的悲哀。事实上，我是如此的悲观，以至于我很高兴我现在还活着，至少我会寿终正寝。但是我很为我的后代担心，他们可能正好处于这样的恐怖时代，而且随时有可能会被毁灭。
对我这样的年纪来说，我可能会在30～40年后死去，这段时间可能看不到人工智能战争—— 这个潘多拉盒子的开启。我认为，可能需要更长的时间来让人们掌握那些制造超智能的人工大脑或者人工智能机器所必要的知识。然而，我这辈子可以看到的也就是围绕本书所提出的人工智能问题展开的激烈争论。
越来越多像我一样的研究者和教授们开始意识到这个问题，他们在媒体或书本上向大众声称21世纪将会看到超级人工智能机器的出现。但是至今我是唯一一个预言超级人工智能会带来大战的人，也就是所谓的“人工智能的战争”。
因此，这个观点开始引起世界媒体的注意，像美国、英国、法国和荷兰都开始关注这个问题。事实上我认为，几年之后，这些问题就会脱离学术范围的局限，而逐渐被普通大众接受，引起政治、宗教、国防等领域的关注。
“人工智能的战争”看起来像科幻小说，是对未来的预言，好像多数人都不会太担心，但是随着机器变得越来越聪明，对此的恐惧将越来越深。
那么我对这个问题的态度呢？我为什么要写这本书呢？在内心深处，我是一个宇宙主义者。我认为如果人类不制造人工智能机器，那么将是宇宙的悲剧。为了解释我为什么是宇宙主义者，先让我来讲一个小故事。
试想一下，你是一个拥有神一样能力的ET（
外星人），你30亿年前来到了地球。你观察那个时候地球生命的形式，发现它们还是处在非常原始的单细胞阶段。你挥舞一下手中的魔力小棍，改变了地球上所有细菌的 DNA，以至于（根据某个论点）让它们永远都不能进化到多细胞生物。因此，永远都不会有植物、动物，没有人类，没有爱因斯坦，没有贝多芬第九交响曲。那不是灾难是什么？当多细胞生物出现在地球，无数的细菌将被它们吃掉。地球上多细胞生物的进化没有对细菌表示任何怜惜。
我希望你理解这个类比。如果我们制造人工智能机器导致人类最终被灭绝，拥有神一样智慧的机器人会创造出怎样的、类似贝多芬第九交响曲一样的奇迹呢？作为人类，我们太愚蠢了，以至于想象不出。我们是如此的低等以至于没有能力去鉴赏这些。就像让老鼠来研究爱因斯坦广义相对论一样，人类根本就不可能去理解，因为我们根本就不具备理解这些所必需的神经电路。
但是你会问，如果我内心里是一个宇宙主义者，那我为什么写这本书呢？答案是，我不是 100％的宇宙主义者。如果我是个纯粹的宇宙主义者，那么我将会安安静静地从事我的人工大脑制造研究，而不会去向公众敲响人工智能问题的警钟。当我临终之时，我会为我被认为是“人工大脑之父”而自豪，但是如果历史谴责我是“大规模死亡之父”的话，那么这个前景真的让我很害怕。我第二任妻子的母亲仍然对奥斯维辛集中营的纳粹生活非常后怕。我清楚大屠杀给人类情感上带来的阴影是会伴随人一辈子的。
我写本书的目的是给出一个警告，我认为在宇宙主义者的工作发展到一定程度前，应该给予人类机会去选择停止他们的工作，如果那是大多数人的选择。我应该停止我的人工大脑研制工作吗？答案是否定的。我认为制造近于人类程度的人工智能机器是非常困难的事情，需要几十年的时间去解决。在未来30～40年内，
机器人的人工智能将发展得足够高，而变得对人类非常有用。机器人将负责大多数的工作，它们会从事很多枯燥、肮脏和危险的工作。人类将会从这些工作中解脱出来，转而去从事更有回报的工作，去做更有趣的事情。
现在停止人工大脑的研究是很不明智的。然而，当人工大脑真正开始变得聪明起来，并且非常迅速地变得非常聪明以至于（在处于一个“拐点”的时候）成为威胁时，人类就应该准备决定是否继续。在这个关系到整个人类生存与否的问题上做出正确的决定是非常重要的，而对人工智能问题的必要讨论则应该越早越好。在人工智能时代来临之前，应该有足够的时间去理解这个问题的复杂程度。
在公开场合，我是地球主义者，我在试着警告大家。私底下，我又是一个宇宙主义者。就像我在本书中提到的，这个问题困扰着我，让我左右为难。当人工智能的辩论真正开始后，数十亿人将会和我有同样的感受。从地球主义者的视角看，作为一个宇宙主义者就像一个“种族怪物”一样（物种杀手），他会接受人类将被消灭的风险。这是这个形式的固有本质。是否要制造这些人工智能机器只有两个答案—— 制造或者不制造。决定制造它们的同时就是接受它们可能会把我们消灭的风险。另一方面，不去制造它们就是决定不去制造“神”，一种弑杀“神”的行为。从宇宙主义者的观点出发，地球主义者是“弑神怪物”。
之前，有些人认为，通过把人类自己变成人工智能机器，可以化解宇宙主义者和地球主义者之间的冲突。我们可以给人类的头脑等加一些成分，使他们成为“半机器人”（半机器生命体，比如，一部分是人，一部分是机器）。我个人觉得这样的看法很幼稚，除非整个人类向人工智能人的转化是一样的快，然而这显然是不可能发生的。
一颗糖粒大小的人工脑潜在的计算能力可能比人类大脑的计算能力要高几十亿倍。对于地球主义者来说，让这样的一个颗粒融入人脑而使之成为半机器人，是“伪装成人类的人工智能机器”。地球主义者会像对待人工智能机器一样仇恨半机器人，并且会把它们两者都消灭掉。有一个人类的外表，并不会让地球主义者觉得半机器人的威胁会减小。
让我试着用一种更形象的方式来解释地球主义者对半机器人的憎恨，可能女性会比男性更有体会。举个例子，一个刚生了孩子的年轻母亲，决定把自己的孩子变成半机器人。她只需把“一颗糖粒”放在孩子的脑子里，就能把孩子变成人形的人工智能机器。“孩子”将只有万亿分之一思想是人的思维方式，其余的脑容量（也就是大脑的99。999 999 999 9％）都是人工智能机器的思想（无论是什么）。结果，这个母亲“杀死”了她的孩子，因为它再也不是人类了。它只是“伪装成人类的人工智能机器”，是和她不同的。
因此对于我来说，选择半机器人不能解决宇宙主义者/地球主义者的冲突。任何轻举妄动，都可能加剧冲突，因为这会让地球主义者因难以区别人类和半机器人而更加偏执和多疑。
过去的十年里，我一直比较骑墙和中立，一直用“一方面，另一方面”的方式来表达我的观点和解释两种看法，一边支持地球主义者，另一边又青睐宇宙主义者。经过一段时间，我的朋友开始指责我是“伪善者”。“德·加里斯，你指望人类在地球主义者与宇宙主义者之间进行选择，但是你自己都没有这样做。”“很公平，”我想，“那么我就选择吧。”在我内心深处，我是宇宙主义者，我将在讨论宇宙主义者观点的第4章陈述我支持宇宙主义者的感受和论据。在那一章我将说明为什么我和其他宇宙主义者会如此热情地支持制造人工智能机器，我们准备接受人类可能会灭绝的可怕威胁。
在论述地球主义者观点的第5章，我将解释为什么地球主义者会觉得制造人工智能机器是一场灾难。
在本书的第6章，我将展现给大家一个画面，那就是我怎样看待冲突的酝酿和可能产生的后果。
现阶段，你们中的某些人可能很难想象，机器怎么可能比人类更有能力并且聪明几万亿个万亿倍。这看起来简直就像科幻小说，不会被人类认真对待。
这类事情的发生已经不是第一次了。
1933年，一个叫利奥·西拉特的匈牙利裔犹太物理学家，正在伦敦的一个旅馆里读报纸上关于著名新西兰物理学家、原子核发现者卢瑟福爵士演讲的报告。一个参加演讲的新闻记者询问卢瑟福是否相信那一天会到来—— 原子核里释放的不可思议的高能量被用于工业上。卢瑟福的著名回答是“妄想”，也就是“没门”、“不可能”、“废话”。西拉特对此表示怀疑，认为肯定有办法。
当西拉特在伦敦街上漫步的时候，突然产生一个灵感。这年是1933年，发现中子的第二年。他意识到中子是一种非常好的子弹，它不会被原子核的电荷偏转出去，因为根据定义，中子没有电荷，它的名字也是因此而得。
西拉特知道铀是化学元素表里最不稳定的核子。西拉特的办法是用中子轰击铀原子核使它变得不稳定，因此原子核可能会裂变成两个更小的原子核。而原子核越小其包含的中子越少，也就意味着裂变时有些中子会被发散出去从而去轰击其他的铀原子核。
因此，西拉特是世界上第一个想到核链式反应的人。作为一个物理学家和爱因斯坦的同事朋友，他能够计算出，如果发生这样的链式反应大概可以释放多少能量。他知道两个原子核和发散出去的中子的质量之和将会小于原先的铀原子核和中子的质量之和。那么不见的质量跑到哪儿去了？
他知道这些质量将会被转化成巨大的能量释放出去。一个西瓜大小的铀，经过链式反应释放出的能量有多大呢？经过计算，发现这个能量将足以毁掉整座城市。
西拉特是一个犹太人，说德语，他读过希特勒
慕尼黑暴动失败后在监狱里写的书—— Mein Kampf （《我的奋斗》），所以他知道希特勒对犹太人有一个“Endlosung”（“最终解决办法”），那就是，要把犹太人全部消灭。1933年，希特勒掌握了德国的大权。
因此，西拉特不仅是世界上第一个想出核链式反应概念的人，也是第一个害怕希特勒首先“拥有核弹”的人。这个想法使他惊恐万分。德国在20世纪20年代是世界上物理学最先进的国家—— 拥有众多杰出的科学家，如爱因斯坦、普朗克、海森堡，等等。因此，西拉特觉得德国非常有可能成为世界上第一个拥有核弹的国家。
他跑到美国华盛顿，开始向五角大楼坚持不懈地宣扬自己的观点。五角大楼那些人认为他是疯子。仅仅一颗炸弹就可以摧毁一座城市的概念让他们觉得荒谬之极。在20世纪30年代，威力最大的炸弹仅仅可以炸毁一个大型建筑物。
西拉特志在使美国成为世界上第一个发明出核弹的国家，但这个目标没有实现，所以他改变了策略。他找到当时住在美国的老朋友爱因斯坦。爱因斯坦马上就明白了这个理论，因为是爱因斯坦发现了这个理论的大部分内容，尤其是那个著名的、西拉特用来计算能量的公式E = mc2 。由于爱因斯坦也是德�