NanoST 版 (精华区)

发信人: wxl (小亮), 信区: NanoST
标  题: 第十二章 战略与生存
发信站: 哈工大紫丁香 (Fri May 13 08:47:06 2005), 转信

　　不愿意采用新的补救方式就会产生新的邪恶，因为时间是最伟大的改革者。
　　——弗朗西斯·培根

　　在前面的章节我的讨论贴近于技术可能性的牢固基础。这里，我将冒险深入到政治和人类行为领域。这个基础是比较软一些的，但是技术事实和进化法则仍将在这个领域提供可靠的支持。

　　被进化的压力推动的技术竞赛，正把我们带向未知的危险，我们需要寻找到对付它们的方法。因为我们在前面已经看到了面临的巨大的危险，所以考虑停止盲目的奔跑是有意义的。但是我们能做些什么呢？


　　个人克制

　　作为个体，我们可以克制自己不去做可能导致危险能力的研究。的确，大多数人会克制，因为大多数人不是第一线研究人员。但这个策略也不能阻止进步：在我们的多元化的世界，总有其他人会把研究工作向前推进的。

　　
　　地方抑制

　　个人克制的策略（至少在这件事情上）带有简单的无所作为的意味。但地方政策的策略又如何呢？比如游说议员提议并通过抑制某些研究的法律？这其实也是一种个人行为，目的是强迫集体无所作为。虽然这种策略可能在某个城市，行政区，国家，或联盟内抑制研究，但也不能帮助指导我们的方向，而只会使某些不受我们控制的力量取得领导地位。这种类型的公众运动只能在人民掌握权力的地区停止研究，并且最大的成功可能也仅仅是打开了使一个更专制的国家成为领导力量的大门。

　　在考虑核武器的情况下，争论通常围绕着单方面裁军和非暴力（至少是非核化）抵抗。核武器可以被用来摧毁军事设施和使恐怖气氛蔓延，但是不能用来占领地区或者控制人民——不能直接地。核武器也不能抑制游击战争和社会动乱，所以一个裁军的策略和抵抗运动具有某种程度的参考意义。

　　从另一方面来说，单边抑制纳米技术和AI，将在反抗不起作用的情况下导致单方面裁军。一个好斗的国家会利用这些技术来攻占和统治（或消灭）象甘地的印度那样的国家，或者武装起来的为自由而献身的战士。

　　这值得强调。没有一些新的方法来改革世界上的专制性国家，简单的压制研究的运动就不能取得完全的成功。而没有完全的成功，任何主要的成功都意味着民主国家的灾难。即使不能得到，这种类型的努力也将吸引激进的人们的热情和工作，使稀缺的人类资源浪费在无意义的策略上。更甚者，抑制策略将会使研究者互相疏远，挑起盟友之间的争斗并浪费更多的人类资源。这种无意义和分裂的前景使这一策略应该被避免。

　　虽然如此，压制是不可避免会被提出的，因为它简单而直接“危险来了？让我们停止它！”，还有地方立法的成功可以保证短期的效果：“危险来了？我们可以现在就地停止它，在开始的时候。” 危险在开始时可能会失败，但是可能不会引起每个人的注意。简单压制的念头似乎会诱发很多想法。毕竟，地方政府压制本地的危险是个传统，例如，通过阻止本地的污染者，减少本地的污染。通过地方抑制来阻止全球危险似乎也是类似的，不管可能有什么差别。我们将需要地方组织和政治压力，但必须建立在一个可用策略的基础上。

　　
　　全球抑制协议

　　在一个更有希望的途径上，我们可以用地方压力通过磋商来达成可证实的，世界范围的禁令。一个类似的策略可能能控制核武器。但是停止纳米技术和人工智能将造成问题的顺序位置不同，至少因为以下两个原因。

　　第一，这些技术不象核武器是明确定义的：因为目前的核技术需要某些稀有的同位素，这和其他技术是有区别的。它可以被定义并且（原则上）被禁止。但是现代生物化学逐步走向纳米技术，现代计算机技术逐步走向AI。没有一条自然分界线。由于每个小的进步都将带来医学的、军事的、经济的利益，我们怎样才能达成一个世界性的禁止协议呢？

　　第二，这些技术比核武器更有效：因为反应堆和武器系统都相当大，通过观察就可以限制秘密力量的规模和强度。但是危险的复制机是很微小的，AI软件是无形的。我们怎么能知道某个实验室已经达到了突破的边缘了呢？最后，我们怎么能知道某个地下室中的黑客已经达到了突破的边缘了呢？通常的查证方法已经不管用了，这也使得世界范围内的磋商和禁止变得几乎不可能。

　　面对正确的国际协议的压力将使我们的道路更安全，但是协议只是简单地抑制危险的步伐。再一次，地方压力成为可用策略的一部分。


　　强制性全球抑制

　　如果和平协议不起作用，人们可能会考虑用军事力量来抑制危险的进步。但是因为存在验证的问题，单独使用军事压力是不够的。强迫压制进步的需求会转变为一种征服和占领敌对势力的力量——好像不是个安全策略。还有，战胜的力量本身会成为一个主要的技术力量，拥有巨大的军事力量和使用它的意愿。这种力量能保证会压制自己的进步吗？而且即使可以，它能永远保持全球性的警惕吗？如果不能，威胁就会秘密滋生，在一个活性盾的开放性研究被阻止的环境下。结果将会是灾难性的。

　　民主国家中的军事力量有巨大的用处，但是军事力量本身不能解决我们的问题。我们不能通过一个征服和压制研究的策略来得到安全。

　　这些停止研究的策略——不管是通过个人无作为，地方无作为，磋商协议，或是征服世界——都似乎注定会失败。但是反对进步的观点仍然将扮演一个重要角色，因为我们需要选择，聪明地制定推迟威胁到来的目标，直到我们可以做好准备。警惕者的压力是因该有的，但是应该是帮助引导进步，而不是停止它。

　　
　　单边领先

　　如果尝试压制AI和纳米技术的研究是无意义和危险的，那么相反的过程——一个单方面的努力又如何呢？这是太紧迫的问题了。在民主国家中将不能在完全保密的情况下产生战略性的突破。这需要太多的人和太多的时间。由于苏联领导人能知道我们的努力，他们就会相当关注，而我们的突破会被他们视为威胁。如果纳米技术被作为一个秘密的军事项目的一部分来开发，他们的情报分析家将会担心某种小而有力的武器，或许是基于一种可编程的“微生物”。根据这种情况，我们的对手可能会抢先采取主动进攻。所以民主国家在此技术上保持领先是重要的，而如果我们采用明显的非威胁政策再加上这种力量我们就会非常安全。

　　
　　力量的平衡

　　如果我们按照上述任何一个策略行动都将引起激烈的冲突。压制纳米技术和AI的尝试会触及到研究者、企业、军事组织、和病人的切身利益。尝试通过这些技术来获得单边优势会引起我们和我们对手的竞争。所有的策略都会引起冲突，但是有必要使所有的策略都引起西方社会的分裂或者使世界变得恶劣吗。

　　为了寻求一条中间道路，我们要寻求一种建立在技术平衡基础上的力量平衡。这看起来会延伸四十年来的和平状态。但是这里的关键词是“看起来”：即将到来的突破将会很突然并动摇旧的平衡状态。在过去，一个国家可以承受几年的技术落后并保持大致的军事平衡。有了快速的复制机或先进的AI，一天的落后都是致命的。稳定的平衡看来就是不可奢望的了。


　　合作开发

　　在原则上，存在一种方法可以保证在民主国家和苏联集团之间取得技术平衡：我们可以合作开发技术，共享我们的工具和信息。虽然这也存在明显的问题，但至少是更实际一些。

　　合作谈判是可能的吗？武器限制条约谈判的失败会马上浮现在脑海，而合作看起来更复杂和更困难。但是真是这样吗？在武器限制谈判中，每一方都试图阻挠另一方的行动，这加深了他们的对抗关系。更有，它也引起欢迎武器限制的集团和制造武器的集团之间的冲突。更糟的，磋商围绕着措辞和含义的争论，每一方都有自己的语言并歪曲它本身的含义。

　　从另一方面来说，合作使两方面朝着一个共同目标前进，这可以减缓对抗的关系；还有，它也可以减轻每个集团间的冲突，因为合作的努力会建立项目而不是消除项目；最后两方会用一种共同的语言来讨论——一种科学的和工程上的使用数学和图表的语言。并且，合作有清楚的边界和可见的结果。在1970年代中期，美国和苏联开展了一个联合太空计划，在政治关系紧张之前他们已经在为一个联合太空站作了一些试验性计划。这不是孤立的事件，在太空或在地面，联合计划和技术交换已经进行了很多年了。尽管有问题，技术合作也可保证至少和武器限制一样容易——也许更容易，考虑到后来的更大的努力。

　　在AI和纳米技术被关注的情况下，合作和有效的武器限制将是相似的。要核实武器控制条约需要持续地亲密地由一方的专家去观察另一方的实验室——一种和可想象的最完全的合作接近的关系。

　　但是合作会出现什么结果？它可能能保证平衡，但是平衡不能保证稳定。如果两个面对面的持枪的枪手互相都高度恐惧，他们的力量是平衡的，但是首先开枪的一个可以消除另一个的威胁。在技术开发中的合作，除非仔细计划和控制，将会给每一方提供可怕的武器而却不提供防护。谁能保证其中的一方能突然打击而不受伤害？

　　即使有人能保证这一点，那么其他力量的问题呢——还有爱好者呢？以及意外事件呢？

　　在上一章我描述了这些问题的一种解决方案：开发，测试，并构造活性盾。它提供了对新问题的一种新的补救方法，还没人能提出另一种可供选择的方案。如果有人提出了，我们应该首先考虑怎么建造和是否它们能让我们采取可用的对策。


　　战略的综合

　　个人克制，地方抑制，选择延迟，国际协议，单方增强，和国际合作——所有的策略都能帮助我们去努力开发活性盾。

　　考虑一下我们现在的情况，民主国家在科学和技术的大部分领域处于世界领先地位已经几十年了，我们今天在计算机和生物技术方面处于领导地位，因此，我们是领导力量。看起来也没有理由说我们不能保持这种领先地位。

　　象上一章所讨论的，领导力量将能使用几种策略来掌握组装机突破。这包括使用密封组装机实验室和受限的组装机，并保守初始组装机开发的秘密。在我们使用这些策略的同时，我们可以开发活性盾技术。这种技术反过来又可以帮助我们实现一个安全的，多样性的未来。

　　这一策略的第二部分和目前的敌对力量之间的政策相关。这里，我们必须保持主动并把威胁降到最低。技术平衡不会起作用，我们也不可能放弃领先地位。这使得力量和领导成为我们的仅有的真正的选择，并使得非威胁姿态更难实现。这里我们再一次需要稳定的、可信赖的机构：如果我们能使它们专心地朝向目标，那么即使我们的对手也将在一定程度上信任它。

　　为了使我们的对手（和我们自己）安心，这些机构应该尽可能地开放，并与他们的任务一致。我们也能建立一个机构扮演与苏联合作的角色。通过邀请他们参与，即使他们拒绝我们提出的条件，我们也可以传达我们的意图使他们放心。如果苏联愿意接受，他们就能得到联合开发的一个立足点。

　　如果民主社会在突破到来时依然强大，如果我们能避免威胁到任何政府控制它的版图，那么我们的对手可能就不会觉得攻击有什么好处。因此，我们就可能不通过合作来完成，如果需要的话。

　　
　　活性盾 vs 太空武器

　　考虑我们会怎样在更传统的领域应用活性盾是有用的。在传统上，防御需要使用和进攻一样的武器。这也是“防御”意味着“制造战争的能力”的一个原因，和为什么对“防御”的努力也使对手害怕的理由。目前提出的太空防御将扩展这种形式。几乎任何可以摧毁导弹的防御系统都可以摧毁对方的防御——或加强空间的封锁，阻止对方抢占制高点。这种“防御”有进攻的味道，所以军备竞赛会导致另一种危险的飞跃。

　　进攻和防御是这样不可分的吗？从历史上来看是这样。城墙在有战士防守的情况下才可以阻挡入侵者，但是战士也可以去入侵别的国家。当我们想象武器的时候，通常也会想象出使用它的手和使用它的意愿——历史教育我们要想到最坏的情况。

　　而今天，历史上第一次，我们开始学习怎样建造和武器有本质不同的防御系统。考虑在太空的例子，我们现在能设计可以传感（看起来象一千枚导弹刚刚发射），处理（好像是企图首先打击），和动作（摧毁那些导弹！）的装置。如果一个系统只能反击一堆导弹，那么它就不能被用来进攻或做太空封锁，更好的，它可以被设计成不能区别进攻方。虽然设计者可能有战略意图，它也不听从任何将军的命令。它只能把太空变成进攻导弹的危险区域。象海洋和山脉限制了早期战争一样，它会为每一方都提供一些防护。

　　虽然会用到武器技术（传感器，跟踪器，激光，制导装置，等等），但这种防御并不是武器系统，因为它的角色根本上是不同的。这种类型的系统需要一个有区别的名称：它们，事实上，是一种活性盾——一个用来描述任何非威胁性的自动或半自动防御系统的词语。通过为各方提供防御又不威胁对方，活性盾可以减弱军备竞赛。

　　由活性盾引起的技术，经济，和战略的话题是复杂的，它们可能或不可能被应用于前组装机时代。如果它们是实用的，就会有几种可能的建造途径。一种途径是，合作的民主社会单方面建造。为了让其它的国家能检验系统可以和不可以干什么，我们可以允许多方视察关键性的设计、组件、以及生产过程。我们不必泄露所有的相关技术，因为知道什么和知道怎么去做是不一样的。另一种不同的途径，我们可以合作开发防护系统，通过有限的技术转让和最低限度的合作和检验的需求。

　　我们在禁止太空武器方面比禁止纳米技术方面有更多的机会，这也许是最好的减少近期风险的路子。在选择控制军备竞赛的长期战略上，我们必须考虑更多的几步。在本章中我的简单分析暗示了传统的基于谈判和可证实的限制的军备控制方法，不能用于纳米技术。如果这是关键，我们就需要发展不同的途径。活性盾——最终——会提供一个新的，稳定的办法来解决太空军备竞赛。通过探索这种方法，我们可以探索所有活性防护系统的基本原理。如果我们开发出了它们，我们就可以获得经验，并可以制定制度来保证我们的生存。

　　活性盾是一个基于新技术的新选项。要让它们能工作需要工程上的创造性、各学科间的综合、和国际上的战略。它们提供了能让我们避免过去出现的僵持状态的新选择。它们显然也提供了一个解决非威胁性保护问题的答案——但不是个简单的答案。
　　

　　力量、邪恶、无能和懒惰

　　我已经概要描述了纳米技术和先进AI系统将会带给领导力量多大的威力——可以被用来摧毁生命的威力，或者延长并解放生命。由于我们不能停止这些技术的发展，那么我们就必须应对这种历史上从来没有过的浓缩的威力巨大的力量。

　　我们需要一个相应的组织机构体系，为了能安全地掌握复杂的技术，这个体系必须具有判断事实的各种方法；为了能安全地掌握力量，它必须能综合有效的检查和平衡，它的目标和采用的方法必须对公众开放并接受公众审查；最后，因为它能帮助我们为新世界奠基，所以它最好由我们的共同兴趣指引，并限制在某些原则的框架内。

　　我们不能从凑合开始，我们要依靠现有的机构。它们是不同的，不是所有的机构都是官僚主义的并都躲在巨大的灰色建筑中的；它们包括象自由出版，研究团体，和先进的网络这样的充满活力的机构；这些分布广泛的机构帮助我们控制灰色的、官僚主义的机器。

　　部分来说，我们面对的是一个关于限制滥用权力的古老而又普通的问题的新的版本。这不会带来巨大的和根本的新奇变化，并且有几个世纪历史的自由民主的法则和机构也告诉了我们怎样解决它。民主政府已经掌握了可以摧毁陆地和可以抓住，监禁和杀死人民的物理能力，但是我们可以在这种能力下存活因为这些政府相当温和和稳定。

　　即将到来的时代将会给我们的机构带来更重的担子。关于有代表性的政府、自由言论、权力作用、法制、保护人 权的原则依然是至关紧要的。为了承担新的责任，我们需要扩展和振兴这些原则和支持它们的机构。保护技术方面的言论自由也是至关紧要的。虽然我们面对一个巨大的挑战，但是我们还是有理由希望去面对它。

　　当然，还是有明显的理由怀疑我们能迎接它，但是绝望是传染性的和令人讨厌的，并且会使人沮丧。另外，绝望也是未被证实的，尽管是熟悉的问题：邪恶——我们太邪恶而不能做正确的事了吗？无能力——我们太笨而不能做正确的事了吗？懒惰——我们太懒而不去做准备吗？

　　虽然预测未来是玫瑰色的有点轻率，但是这些问题看来也不是不可解决的。

　　民主政府是大的，臃肿的，并且有时造成暴行，但它们总体上来说并不邪恶，虽然它们容纳那些可以被称为邪恶的人。事实上，它们的领导人主要通过公开赞成那些传统的好的想法来获得权力。我们的首要危险是那些看起来好的但是会引起灾难的政策，或者真正好的政策没有被建立，公布和实现效力。民主遭受懒惰和无能的痛苦多于邪恶。

　　无能当然是不可避免的，但是是致命的吗？我们人类生来就是愚蠢和无知的，但我们常常设法组合我们的能力和知识的碎片来完成伟大的事情。没人知道怎么到达月球，也没人学习过，然而已经有十二个人在月球表面漫步过了。我们在技术方面成功是因为我们学会了建立帮助人们生成和测试想法的机构。这些机构从冗余中获得可靠性，它们产生的结果的质量依赖于我们关注和努力的程度。只要我们集中足够的注意力和资源在可靠性方面，我们就常常能成功。这就是为什么登月计划能成功而没有发生灾难，以及为什么没有出现核武器被偶然发射和引爆的原因。这也是为什么我们可以以足够的细心去掌握纳米技术和先进AI系统的原因。行为不确定的、能力有限的人可以联合起来形成一个稳定的，有能力的组织机构。

　　懒惰——智力上的，精神上的，和身体上的——可能是我们最大的危险。我们只能用最大的努力来面对最大的挑战。会有足够的人付出足够的努力吗？没人知道，因为没人能代表其他的每个人。但是成功并不需要一个突然的，普遍的动员和启发。它只需要一个不断扩大的团体去努力发展，宣扬，和实现可能的解决方案——于是他们就有了一个好的增长成功的方法。

　　这不是不可信的。关心技术已经成为普遍现象，同样加速改变的想法将需要更好的远见。懒惰不会抓住每个人，被误导的思想家也不会误导每个人的努力。致命的伪解决方案（例如阻止研究）会在人们的争论中被揭露。虽然我们面对巨大的挑战，成功将使我们伟大的梦想的实现成为可能。巨大的希望和恐惧会激起足够的人去帮助人类克服障碍。

　　充满热情的关心和行动是不够的，我们也需要某些政策。这将需要不仅仅是好的意图和明确的目标：我们也必须跟踪我们所做和所得之间的轨迹。在我们接近未知的复杂的技术转折点时，尝试改善我们判断重要技术事实的机构是有意义的。还有什么其他的方法能指导领导力量和减少无所作为的危险吗？

　　机构在进化。为了进化更好的实事求是的机构，我们可以复制，改变，扩展我们过去的成就。这些包括言论出版自由，科学的社团，和法庭。所有这些都是优点，而这些优点都可以被组合起来。 

--

※ 来源:·哈工大紫丁香 bbs.hit.edu.cn·[FROM: 202.118.232.13]