第29章 可避免的冲突(3)

　　它可约略分成两大地区。地图左方是格兰河以北的整个北美洲，右方则包括当年苏联的全部疆域。这两个地区加在一起，代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠，它像是该界域舔向欧罗巴的舌头。而在地图的顶端，扭曲放大成怪模怪样的，则是澳大利亚与纽西兰，两者同样是这个界域的成员。<\/p>

　　过去数十年的一切变化，皆未能改变“北方”是全球经济主宰这项事实。<\/p>

　　因此，在拜尔莱所见过的官方界域地图中，唯有麦肯日的版本画出了整个地球，仿佛表示“北方”无惧于竞争，无需特别强调自己的显着地位。这个事实，几乎便是一个夸耀的象征。<\/p>

　　“不可能。”麦肯日一面喝着威士忌，一面以倔强的口吻说，“拜尔莱先生，我相信，你没有受过机器人技师的训练。”<\/p>

　　“没错，我没有。”<\/p>

　　“嗯。这个嘛，秦修林、勾马和齐葛思苏斯卡也都没有，在我看来这实在是大不幸。地球居民有个太普遍的看法，认为总协只需要具有组织的长才、兼容并蓄的胸怀，以及和蔼可亲就行了。但如今这个年头，他也应该了解机器人学——请别介意我这样说。”<\/p>

　　“我不介意，我同意你的说法。”<\/p>

　　“比方说，根据你刚刚讲的那些话，我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么，但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”<\/p>

　　“会怎么样，麦肯日先生？”<\/p>

　　“这个嘛，”这位苏格兰人挪了挪屁股，叹了一口气，“搜集来的所有资料，都会通过一个复杂的筛选系统，由人工和机器做双重检查，所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错，也容易堕落，普通的机械装置则容易出现机械故障。<\/p>

　　“问题真正的重点，在于我们所谓的‘错误资料’，是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据，对机体而言也是一样。比方说，假如你命令它，根据七月平均气温为57华氏度的资料，指导爱荷华州的农业活动，它是不会接受的，它不会给出任何答案。并非由于它对那个特殊气温有任何成见，或不可能得出一个答案；而是因为，根据历年来输给它的所有资料，它知道七月平均气温为57度的机会趋近于零。因此，它拒绝接受这个资料。<\/p>

　　“唯一能将‘错误资料’强行输入机体的办法，是把它藏在一组自圆其说的完整资料里面，其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来，就是在机体的经验范围之外。可是前者超出人类的能力，后者也几乎如此，而且随着机体的经验一秒秒增加，后者的机会也就越来越小。”<\/p>

　　史蒂芬·拜尔莱将两根指头放到鼻梁上。“这么说，机体不可能被人动手脚——那么，你又如何解释最近这些错误？”<\/p>

　　“亲爱的拜尔莱，我看得出来，你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子：在棉纺业这一行，负责采购棉花的人员个个经验丰富。他们检验棉花的手续，是从许多捆里面随便挑一捆，再从那捆中抽出一簇。然后，他们用眼睛观察那簇棉花，用手抚摸它，用舌头舔它，还把它梳得起毛，说不定这时还会倾听那阵噼啪声。经由这些手续，他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格，以及棉絮的混合比例，都是根据他们的检验结果而定。好，目前为止，机体还不能取代这些采购员。”<\/p>

　　“为什么？相关资料当然不会太复杂吧？”<\/p>

　　“或许不会，但你指的是什么资料？没有任何织品化学家知道，当那些采购员抚摸一簇棉花时，他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目，他们凭借多年的经验，下意识地一一衡量。但这些检验的定量特性却都是未知数；甚至某些检验的本质或许也是未知数，因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断，他们只能说：‘这个嘛，看看它，你看不出来它是某某等级吗？’”<\/p>

　　“我懂了。”<\/p>

　　“像这样的例子无穷无尽。毕竟机体只是工具，它替人类分担一些计算和诠释的重担，以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料，发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”<\/p>

　　“他们反对机体？”<\/p>

　　“假使他们生活在古代，他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中，能干的人仍是珍贵资源；我们仍然需要那些拥有足够智慧的人，想出和提出一些适当的问题。说不定，我们若能找到足够的这种人，总协，你忧心的那些脱序现象就不会发生了。”<\/p>

　　地球（包括无人居住的南极大陆）<\/p>

　　面积：54，000，000平方英里（陆地面积）<\/p>

　　人口：3，300，000，000<\/p>

　　首都：纽约<\/p>

　　石英板后面的炉火孱弱无力，已不情不愿地燃烧到尽头。<\/p>

　　总协一脸忧郁的表情，他的心境恰如逐渐熄灭的火焰。<\/p>

　　“他们都尽量将事态淡化。”他以低沉的声音说，“不难想象他们都在嘲笑我吧？可是——文生·西佛说机体不可能出毛病，而我必须相信他。希兰姆·麦肯日说它们不会接受错误资料，我也必须相信他。但机体不知怎地出了问题，我同样必须相信这个事实。所以，仅仅剩下最后一个可能。”<\/p>

　　他瞟了苏珊·凯文一眼，后者闭着眼睛，乍看似乎睡着了。<\/p>

　　“那是什么？”她却立即作出回应。<\/p>

　　“啊，机体的确接受了正确的资料，也的确送出了正确的答案，但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”<\/p>

　　“在我看来，齐葛思苏斯卡夫人做了这种暗示，她泛指的是北界人。”<\/p>

　　“是的。”<\/p>

　　“违背机体又能达到什么目的呢？我们来考虑一下动机。”<\/p>

　　“我看动机很明显，你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时，地球上不可能有严重的冲突。反之冲突倘若存在，某些人便能为了自身利益而攫取更多的权力，全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心，令它们遭到废弃，那么丛林法则将再度出现。而四个界域，个个脱不了有此打算的嫌疑。<\/p>

　　“东方界域境内拥有全世界一半的人口，热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰，而且两者都有一段受北方欺侮的历史，想要作非理性的报复乃是人之常情。另一方面，欧罗巴拥有唯我独尊的传承，它一度真正统治了地球，而权力是最令人难忘的一样东西。<\/p>

　　“然而，换个角度来看，这却是难以置信。东方和热带目前都在自己境内大肆发展，两者皆以不可思议的速度蹿升，它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想，它的军事实力等于零。”<\/p>

　　“所以，史蒂芬，”苏珊说，“你只剩北方了。”<\/p>

　　“是的，”拜尔莱中气十足地说，“没错。北方是如今最强盛的界域，若将其成员的历史包括在内，这个局面已经持续近一世纪。可是现在，相较之下它正在走下坡。热带界域可能即将攻占文明最前线，那会是法老时代之后的首例，有些北界人害怕这个事实。<\/p>

　　“你也知道，‘人本协会’主要是一个北界组织，他们不讳言不想要机体——苏珊，他们人数很少，却都是有权有势之辈。这个组织的成员包括：不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖，此外还有野心分子，以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。<\/p>

　　“总而言之，那些人只要一起拒绝接受机体的决定，便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。<\/p>

　　“苏珊，一切都吻合了。世界钢铁公司有五名董事是它的成员，而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司，是一个属于北界的企业。我们仍在调查它的名册，但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥·威拉法兰卡，我们已经知道他是会员——而拉玛·巫拉萨耶拿也是，发现这点时我毫不惊讶。”<\/p>

　　苏珊心平气和地说：“这些人，我应该指出，表现得都很差……”<\/p>

　　“但自然如此，”拜尔莱插嘴道，“不听从机体的分析，就是不遵循一条最佳化的路径，得到的自然是较差的结果，那是他们付出的代价。他们现在日子难过，但在终将来临的混乱中……”<\/p>

　　“你究竟打算做什么，史蒂芬？”<\/p>

　　“显然不能浪费任何时间。我要把‘人本协会’列为非法组织，将一个个会员从重要岗位上换下来。从今以后，所有行政和技术人员的职位，申请者必须具结一份非该会员的誓词，否则绝不录用。这将代表放弃某些基本人权，但我确信世界议会……”<\/p>

　　“行不通的！”<\/p>

　　“什么！为何行不通？”<\/p>

　　“我来作个预测。你若尝试任何这样的举动，将会发现寸步难行——你将发现这个命令不可能贯彻，你将发现相关措施通通都会陷入困境。”<\/p>

　　拜尔莱吃了一惊。“你为什么这样说？我满心希望你会赞成这件事。”<\/p>

　　“只要你的行动建立在错误前提上，我就绝不会赞成。你承认机体不可能出错，不可能接受错误资料。但你认为‘人本协会’可以违背机体，现在我要对你说明，那也是不可能的事。”<\/p>

　　“这点，我完全看不出来。”<\/p>

　　“那就听好。任何主管的任何行动，倘若并非切实遵循机体的指示，那个行动就会成为下批资料的一部分。因此，机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析，也就是说，判断出不服从的确实程度和方向。它的下一组答案，便会刚好有足够的偏颇，让那位主管在故意违背后，会自动将那组答案修正到最佳化的方向。机体一清二楚，史蒂芬！”<\/p>

　　“你不可能确定这一切，你只是在猜测。”<\/p>

　　“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测，史蒂芬。”<\/p>

　　“但若是这样，那还剩下什么呢？机体本身是正确的，它们根据的前提是正确的，这些我们已经同意。现在你又说，没有人能违背它们的意思。那究竟是哪里有问题？”<\/p>

　　“你自己已经回答了。根、本、没、有、问、题！稍微想想那些机体，史蒂芬。它们是机器人，它们服从第一法则。可是机体并非为任何一个人工作，而是为全体人类服务，所以第一法则变成：‘机体不得伤害人类整体，或因不作为而使人类受到伤害。’”<\/p>

　　“好啦，那么，史蒂芬，什么会伤害人类整体呢？经济脱序最有可能，不论它的导因为何。你不同意吗？”<\/p>

　　“我同意。”<\/p>

　　“未来最有可能导致经济脱序的又是什么？回答这个问题，史蒂芬。”<\/p>

　　“我会说，”拜尔莱不情愿地答道，“是机体被作废。”<\/p>

　　“我也会这么说，而机体也会这么说。因此之故，为了我们，它们的首要考量是保全自己。所以，它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船，试图令机体遭到毁灭，你一直把这一幕看反了。我们应该说，是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉，因为机体认为他们的行动会危害到人类整体。<\/p>

　　“所以巫拉萨耶拿失去了他的工厂，在他无法为害的地方找到另一份工作——他没有受到严重伤害，没有失去谋生能力，因为机体对人类所造成的伤害必须尽可能轻微，而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权；威拉法兰卡不再是一项重要计划的总工程师；而世界钢铁公司的那些董事，则正在失去钢铁业的支配权——或说即将如此。”<\/p>

　　“但你不算真正看透这一切，”拜尔莱激动地坚持道，“我们怎能冒险假设你是对的？”<\/p>

　　“你必须这样做。你还记得当你对机体提出这个问题后，它自己的回答是什么吗？它说：‘这件事不可解释。’机体并未说根本没有解释，或说它能断定没有解释，它只是不容许出现任何解释。换句话说，假使公布这个解释，就会对人类造成伤害，所以我们只能猜测——一直猜下去。”<\/p>

　　“假设你是对的，苏珊，但那个解释怎能对我们造成伤害呢？”<\/p>

　　“啊，史蒂芬，假如我是对的，那就代表机体为我们筹划未来的方式，并非只是针对我们直接的问题提出直接的答案，而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过，可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。<\/p>

　　“史蒂芬，我们又怎么知道人类终极的幸福会伴随着什么？机体掌握着无限多的因素，我们却无从掌握！让我举个不算不熟悉的例子：整个的科技文明所带来的不幸和悲惨，说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明，说不定反而会更好。若是这样，机体就必须朝那个方向前进，而且最好别让我们知道，因为根据我们无知的偏见，我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定，一个完全都会化的社会，或者一个完全阶级化的社会，或者一个完全无政府的社会，才是真正的答案。我们不知道；只有机体知道，而它们正带着我们走向那里。”<\/p>

　　“但你是在对我说，苏珊，‘人本协会’是对的；人类对未来已经失去自己的决定权。”<\/p>

　　“其实，人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布，此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素，不会被任何一项所阻止，因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器，那就是对全球经济的绝对控制权。”<\/p>

　　“多么可怕！”<\/p>

　　“或许是多么美好！想想看，如今，所有的冲突终于能避免了。从今以后，只有机体是不可避免、不可或缺的！”<\/p>

　　石英板后面的火焰熄了，只留下一缕轻烟作为它的遗迹。<\/p>

　　“故事讲完了。”凯文博士缓缓起身，“我从头到尾看了个仔细。一开始机器人还不会说话，最后他们挺立于人类与毁灭之间。我看不到什么了，我的生命已到尽头。你将会看到下一波的发展。”<\/p>

　　此后我再也不曾见到苏珊·凯文。她于上个月逝世，享年八十二岁。<\/p>w w w.x iaoshu otx t.NETT××xt×小×说××天×堂