互动科普

打造自我复制的机器

鸟类能繁殖，蜜蜂也能繁殖，但机器能繁殖吗？新的计算机模拟提示，这个问题的答案是肯定的。

Moshe Sipper，James A．Reggi

俗话说，龙生龙，凤生凤，但机器能生机器吗？现今即使是建造一台简单的机器也需要相当精巧的制造设备。我们能否赋予人造装置靠自身繁殖的能力呢？自我复制很早以来就被认为是使生物有别于非生物的基本特性之一。我们对生物繁殖机能的认识历来是相当肤浅的，这使得生物的繁殖问题披上了一层神秘的面纱，也使我们觉得人造的东西要想实现自我繁殖似乎是永远不可能的事情。据传说，笛卡尔向瑞典的克里斯蒂娜女王大谈什么动物只不过是另一种形式的机械自动装置时，女王指着一只钟对他说，“那你让它也生个后代来看看。”

20世纪40年代后期，杰出的数学家兼物理学家John Von Neumann的出色工作把机器自我繁殖的问题从哲学领域带到了科技与工程领域。某些研究人员还真的造出了能复制的物理装置例如，40年前，遗传学家Lionel Penrose和他的儿子、著名物理学家Roger Pellrose用胶合板造出了一些具备简单我复制功能的小装置(参看《科学美国人》1959年6月号Lionel Penrose所著《Self-Reproducing Machines》一文)。然而，事实证明自我复制是一个极为棘手的课题，因此大多教研究人员都采用Von Neumann所发明的抽象工具——二维单元自动机——来研究它。

在计算机上实现的单元自动机能够模拟一大类各种各样的自我复制物。它们栖息在计算机创造的简陋“宇宙”中，其物理法则与我们这个真实宇宙的物理法则大不相同。这样的模型使研究人员不必为一些事务性的问题(如能量和物理构造等)操心，从而可以集中全力考虑关于信息流的根本问题。为什么生物能够不靠外力独立自主地进行繁殖，而机械装置却必须靠人来建造？生物个体一级上的繁殖是如何从组织、细胞与分子的不计其数的相互作用中产生的？达尔文式的进化如何打造出具有自我复制能力的有机物？

这些问题的答案正在不断完善，它们启发研究人员开发出了能够自我修理的硅芯片(参看30页附文《能修复自身的机器人》)以及自动催化的分子(参看本刊1994年11月号Julius Rebek. Jr. 所著《合成的自复制分子》一文)，而这些成就可能仅仅是开始。纳米技术这一领域的研究人员早就提出，自复制将是制造分子尺度机械的关键所在，而空间探索的支持者们认为这技术的宏观形式是在其它行星上就地取材实现移民的一种手段。最近的进展使这些听起来似乎相当玄妙的设想更加令人可信。同其它科学分支(包括遗传学、核能以及化学)一样，研究自复制问题的科学家们面临着双重挑战——方面他们要开发出具有自复制功能的机器，另一方面他们又要避免自复制机器的发展失控，出现可能严重危害人类社会的局面。我们所获得的知识将有助于我们分清有用的技术和有害的技术。

游戏生命

科幻故事常常把赛伯式的自复制过程描述为现今技术的自然发展趋势，但这些故事掩盖了自复制提出的一个深刻问题：如何避免无休止的回归。一个系统可能利用一张蓝图(也就是关于该系统的自我描述)来尝试建造其克隆。但这一自我描述也是该机器的一个组成部分，对吧？既然如此，这个自我描述本身又是用什么来描述呢？而描述的描述又靠什么来描述呢？这个例子中的自复制，有点像要求一位建筑师作出他自己的设计室的一幅完美蓝图这张蓝图上必定绘有该蓝图的一个微型复本，而这个微型蓝图中必定又有一个更小的微型蓝图，如此类推。没有这一信息，施工队将无法完全精确地重新建造出这个设计室。蓝图所在的位置将是一片空白。

Von Neumann以他非凡的远见卓识，提出了如何打破这一无休止的回归怪圈。他意识到可以通过两种截然不同的方式来应用自我描述。第一步是把自我描述当作指令，而对这些指令的阐释说明了应该如何建造该装置的一个完全相间的复本；其次是把自我描述当作一般的数据，将其拷贝后不加阐释地放进新打造出的子代装置中，使其也具备自复制的能力。有了这一分两步走的过程，自我描述就不需要包含对其自的描述了。拿上面那个关于建筑师的比喻来说就是，蓝图中将载有建造一台复印机的设计方案。一旦新的设计审和复印机建造出来，施工队只需复印一张蓝图，把它放进新的设计图里便万事大吉了。

活细胞恰好就是通过这两种方式来应用它们的自我描述(生物学家们称这种自我描述为基因型)在活细胞中这两种方式分别称为转录(即对DNA基本上不加解释地进行拷贝以形成mRNA)和翻译(对mRNA进行解释以建造蛋白质)。早在生物学家弄清楚转录与翻译之间的区别前几年，Von Neumann便已经知道二者的不同了。他的研究成果对于了解自然界中的自复制现象曾起到至关重要的作用。

为了验证这些想法，Von Neumann和数学家Stanislaw M. Vlam提出了单元自动机的构想。用单元自动机进行的模拟是在一个棋盘似的方格网上完成的每一方格（即单元或者是空的，或者由若干种可能成分中的某一种成分占据。每隔某一确定的时间，每个单元便观察它自己的成分以及它的相邻各单元的成分，以确定它是否要变成另一种不同的成分。各单元在作出此决定时依据的是一些相简单的规则，而且这些规则对于所有单元是完全一样的。这些规则就构成了单元自动机世界的基础物理学。每个单元作出决定及采取行动部是发生于局部的过程，也就是说各单元对于它们最近的四邻之外所发生的事情毫无所知。

单元自动机看起来很简单，实际上却并非如此。表面上的简单绝不意味着设计单元自动机是轻而易举的事，也不意味着它缺乏复杂的行为。最有名的单元自动机是John Horton Conway的“生命游戏”，它能产生多种复杂得令人瞠目的图形。有关单元自动机动态行为的许多问题都是形式上不可解决的问题。要观察某一图形如何产生并发展起来，必须对它进行完全的模拟(参看《科学美国人》1970年10月号及l971年2月号Martin Gardner的数学游戏专栏以及本刊1994年1月号Ian Stewart的“数字游戏”专栏文章)。单元自动机模型有其自身的行为方式，它的复杂性可能并不亚于真实世界.

复制机

在单元自动机内，自我复制就是一组部件——即机器一——经过一系列步骤后在附近复制出它自身Von Neumann的机器以一种“通用建造机”(Universal Constructor)为基础，后者只要得到适当的指令便能产生任何一种模式。通用建造机由散布在几十万个单元上的许多类型的部件构成，需要编制一本书那样厚的说明。由于这种机器极端复杂，因此至今尚未对它进行过完整的模拟，更不用说真正建造出这种机器了。生命游戏中的建造机将更为复杂，因为在Von Neumann的模型中由单个单元执行的功能——例如传送信号或生成新的部件等——在生命游戏中必须通过复合结构来完成。

自我复制的另一个极端就是某些简单的使人觉得无聊的复制过程，而这类自我复制的例子是不难找到的。例如，假定某个单元自动机只有一种类型的成分，用“+”来表示，而每个单元只遵循一条规则：如果它的4个相邻单元中正好有一个单元被“+”所占据，那么此单元也将被“+”占据。其它任何情况下此单元将是空的。依据此规则一个“+”将产生另外4个“+”，而这4个“+”的每一个又将以类似的方式生成另外的“+”，如此类推。

这种如野草疯长般的增殖对于阐明复制的原理并没有多少帮助，因为不存在什么具有重大意义的机器。当然这就提出了一个问题，即如何区分“意义重大”的机器与那些只是十分无聊地迅速增殖的单自动机。至今还没有人找到一个满意的答案。然而，已经清楚的是，能够自我复制的结构在某种意义上必须是比较复杂的。例如，它必须包含多个各种各样的成分，而这些成分的相互作用合起来就导致了自我复制，即俗话所说“总体必定大于其各部分之和”。多种不同成分的存在使自我描述能够存储在自我复制的结构内。

在Von Neumann的开创性研究之后的若干年间，许多研究人员探索了复杂的自动机与平庸的自动机之间的领域，开发了一只需要较少的成分较小的空间或较简单的规则的复制机。1984年，当时在密执安大学的Chrisiopher G. Langton取得了一项重大进展——他观察到环状存储器件(这类器件已经构成了早期自复制机器的模块)能够在适当编程后自动进行复制。这些器件通常由两部分组成。一部分是环本身，它包括一串环绕个矩形循环流动的成分；另一部分是构造臂，它从矩形的一个角上伸入周围的空间中。循环流动的成分构成了环的一个行动方案，例如“向前移动3个方格，然后朝左转”等等。它到达构造臂时，单自动机的规则就生成此行动方案的一个拷贝。这样该行动方案现在就有两个拷贝，一个继续绕着环流动，另一个则沿着构造臂移动，在构造臂上它被解释为指令。

在放弃了“万能建造”这一要求后——万能建造的概念是Von Neumann的构想的核心——Langton证明，一台复制机可以由7种独特的成分构成，这些成分只占据86个单元。本文作者之一（Reggia)及其同事设计出了更小、更简单的自复制环（见附文《建造你自己的复制机》）。由于这些环具有多种相互作用的成分并包括了自我描述，因此它们不是过于简单因而没有什么意义的环。值得注意的是，非对称性在其中起了出乎意料的作用：如果环的各成分不具有旋转对称性，那么支配复制过程的规则常常就比旋转对称的环简单。

自然发生的复制

所有这些自复制结构都是其发明者依靠自己的智慧通过反复试验与摸索而设计出来的。这一过程不但费时费力，而且常常一无所获，令人失望之极。对某条规则稍加修改，就可能产生完全不同的整体行为，极有可能是所讨论的结构完全解体但是，新的研究工作已经超越了直接设计的模式。研究人员不是修改规则使之适合于一定类型的结构，而是对各种各样的规则集合进行试验，用一批随机选择的成分(即“原始汤”)来填满单元自动机的方格网，并检查是否有自复制机从这样的原始汤中自然地产生。

1997年，Hui-Hsien Chou——现在在依阿华州立大学——与Reggia注意到，只要自由漂浮的成分的初始密度超过某一阈值，就肯定会有一些小的自复制环出现。相互碰撞的环发生湮灭，因此单元自动机经历着一个既有诞生又有死亡的不断发展的过程。随着时间的推移，环的数量越来越多，尺寸越来越大，并通过“突变”而进化(这些突变是由以前的碰撞产生的碎片所引发的)。虽然单元自动机的规则是确定性的，但由于整个系统非常复杂，而且开始时各成分所在的位置是完全随机的，因此这些突变实际上也是随机的。

这样的环应该看作抽象的机器，而不是任何真正的生物的模拟物。但是把这些环与生物分子结构比较一下是十分令人感兴趣的。一个环大致可比作细菌中的环状DNA，而构造臂的作用则相当于催化DNA复制的酶。更重要的是，复制的环揭示了复杂的整体行为是如何从简单的局域相互作用中产生的。例如，尽管规则中没有对运动作任何规定，但各成分却绕着一个环运动。实际上发生的过程则是各个单元不停地复活死去或变形，从而使某一模式从一个位置上消失而在另一个位置上重现出来，这样的过程给我们的感觉就是运动。一言以蔽之，单元自动机的行动是局域性的，但却似乎具有纵观全局的思考能力。分子生物学的情况也差不多。

在最近进行的一项计算实验中，Jason Lohn(现在在美国航空航天局艾姆斯研究中心）与Reggia对不同的规则集合(而不是不同的结构)进行了实验。他们从任意一组4个元件开始进行实验，结果发现最终能够确定一个使该组成分具备自复制能力的规则集合。他们是通过遗传算法(即模拟达尔文式进化的自动化过程)来发现这些规则的。这次工作最具挑战性的一个方面是确定所谓“适配函数”(Illness Function)。适配函数的作用是为评估规则集合提供评判标准，从而可以把好的规则集合与较差的规则集合区别开来，推动有助于自复制过程的规则集合的进化。表面上看来这个问题很好办：哪些规则集合能够使一个结构进行复制，那么给这些规则集合规定一个较高的适配度就行了。但实际上却没有这样简单，因为初始的规则集合没有一个看来有希望产生复制作用。较好的解决办法是设计一个适配函数，该函数是3个指标的加权和：生长指标(每一种成分使该成分的数量增加的程度)、相对位置指标（相邻的成分聚集在一起的程度）及复制指标(为实际存在的复制机数目的函数)。有了适的适配函数后，进化过程就会逐渐使复制能力较差的规则集合进化成复制能力较强的规则集合。这一过程通常需要150代或更长的时间。

通过这种方法发现的自复制结构，其运行机制与自复制环有根本的区别。例如，这类自复制结构可以移动并在移动的过程中沿选留下拷贝。这与自复制环不同，后者基本上是静止不动的。虽然这些新发现的复制机由多种局域相互作用的成分组成，但它们并具有可识别的自我描述，即没有一目了然的“基因组”。不依靠自我描述而能进行复制，这样一种能力或许与最早的生物复制体是如何产生的问题有关。在某种意义上研究人员看到的是一个从非生命结构向生命结构过渡的连续统一体。

除传统的单元自动机以外，许多研究人员也尝试了其它一些计算模型。例如，在所谓非同步单元自动机中，各单元的内容不是同时更新的，而非均匀单元自动机的规则可以随单元而异。另外大类模型总体上称为“磁心之战”模型(Core War，见本刊1984年9月号A. K. Dewdney的计算机游戏”专栏)，包括它的一些后继形式，如生态学家Thomas S，Ray的Tierra系统等。这些模拟中的“有机物”就是争夺处理器的时问和存储器等资源的计算机程序。Ray观察到上述模型产生了一些吸收其它生物的自复制代码的“寄生虫”。

走向现实

那么这些机器有什么用处呢？Von Neumann的万能建造机除了复制之外还能进行计算，但它并不实用。开发出简单而有用的复制机是这个领域的一项重大进展。1995年，瑞士洛桑联邦理工学院的Gianluca Tempesti简化了环的自我描述，使它能够交叉插入一个小程序中(本例就是一个能拼写Tempesti所在的实验室的缩略名“LSL”的小程序）。他的独到之处在于发明出些使环能够分两步复制的规则。首先，与Langton的环一样，Tempesti的环生成自身的一个拷贝，一旦复制完成，子代环就向其母本发送回一个信号，此时母本就发出拼写这几个字母的指令。

拼写字母只是演示一下而已。第二年，Jean Yves Perrier，Jacques Zahnd与本文作者之一(Sipper)设计了一个具有通用计算能力的自复制环，也就是说该环具有通用图灵机——即一种高度简化但却具有全部功能的计算机——的计算能力。这种环有两条“纸带”(即长串的单元)，一条用于程序，另一条用于数据。除了自复制以外，这些环也可以执行任意一个程序。在某种意义上可以说，它们的复杂程度不亚于模拟它们的计算机。它们的主要缺点是，程序完全不变地从母环拷贝到子代环上，因此所有的环都执行完全相同的一组指令。

l998年，Chou和Reggia克服了这一缺点。他们证明，携带不同信息——而不是携带克隆出来的程序——的自复制环可用来解决一类所谓“可满足性”问题。这些环可用来确定一个逻辑表达式中的变量能否被赋与适当的值，使整个表达式的赋值为“真”。这个问题是NP完备的，换言之，它属于一类极为棘手的难题(包括著名的旅行推销员问题），这类难题迄今尚无有效的解法。在Chou和Reggia的单元自动机宇宙中，每一个复制机都接收到一种不同的部分解法。在复制过程中，这些解法发生突变，那些携带着有发展前途的解法的复制机得以发展壮大，而那些其解法不起作用的复制机则一命呜呼，最终灭绝。

虽然各研究小组已创造出用电子硬件实现的单元自动机，但这类系统可能浪费太大以致于没有什么实际用途。人们从未想要真正地直接实现单元自动机。单元自动机的作用是揭示复制的根本原理，并从而启发更具体的研究开发工作。而环则为研究人员设计由晶体管或化合物构成的并行计算机提供了一种新的模式(参看本刊1998年11月号Leonard M. Adleman所著《用DNA进行计算》一文)。

1980年，美国航空航天局以Robert Freitas. Jr.为首的一个研究小组建议在月球上设立一座工厂，该工厂将就地取材，利用月球本地的原料来复制自身，使越来越多的工厂滚雪球般地在月球上的大片地区建立起来。事实上，Tulane大学的物理学家Frank J. Tipler认为，一种类似的探测器可以像这样不断增殖而占领整个星系。而在近期内计算机科学家和工程师们则对自动设计机器人进行了试验(参看本刊2001年3月号《科学与大众》专栏的《新人类隐约出现？》一文)。虽然这类系统并不是货真价实的自我复制系统——它们的后代比其母本简单得多——但也算得上是为实现瑞典女王的要求这一目标而迈出的第一步。

如果用硬件构成的自复制机器得以实现，那么它们及其相关的技术将向我们提出一些十分棘手的问题，包括电影“终结者”所描述的情景——人造生命将胜过天然生命。我们则倾向于相信更乐现的——而且可能性也更大的——一种前景，即人类将利用复制机来为自己谋福利(参看本刊1995年2月号Marvin Minsky所著《机器人将继承这个地球吗？》一文)。关键在于要接受14世纪英国哲学家我、William的忠告：万物增殖以需求为度，切勿过多。

人工自我复制的第一个用途是用于能自我修理的计算机

能修复自身的机器人

没有几位研究人员会鼓动其他人肆意破坪其实验室中的设备。然而，Daniel Mange却愿意让来访者走近他发明的一件装置并按下一个标有“KILL”(毁掉)的按钮。面板上的指示灯一下全熄了，而一只装满电路的小盒子成了人们注意的中心。今年5月初，Mange的研究小组在洛桑的一次科技节上公布了他们发明的最新装置——一只可以让你任意搞坏其元件的像墙那样大的数字时钟。该小组鼓励公众使出浑身解数来尝试一下能否便这一系统陷于瘫痪。

Mange和他的研究小组的目标是设法让电子电路具备像生物一样的自我修复能力，即在遭到一通破坏后仍能运行下去。有血有肉的生物或许不擅长干把π计算到小数点后1百万位，但它们不需要某人按Ctrl+AIt+Del键(电脑死机后重新启动的操作)也能过日子。把数字硬件的精密性与生物的顽强的生命力结合起来是现代电子技术面临的一项重大挑战。

电子工程师一直在研究容错电路的问题(参看《科学美国人》1964年2月号William H Pierce所作的《Redundacy in Computers》一文)。如果没有检错与纠错手段，计算机的调制解调器将仍然以1200波特的速率缓慢地传送数据。在许多场合中，简单的质量管理核查手段(例如额外的数据位)就足以应付了。更复杂的系统则准备了整台的备用计算机以应急需。例如，航天飞机上安装了5台处理器，其中4台处理器执行相同的计算工作，而第5台处理器则检查其结果是否相符。如有任一台处理器与其它不符，则停止其运行。这些系统的问题在于它们全部依靠集中控制。如果中央控制装置出了毛病有怎么办呢？

大自然通过彻底的分散化来解决这个问题。生物体内的细胞基本上部是相同的，每个细胞承担一项专门的任务，自主地完成承担的任务，并且在受到感染或出了毛病时就自杀以便让新细胞接过它的任务。从1993年以来Mange——他是瑞士联邦理工学院的教授——与其他研究人员一直尝试在电路中模拟这些特性；他们的工作是一项名为“Embryonics”(胚胎电子学)的研究项目的组成部分。

Mange等人早期的发明之一是MICTREE(microinstruction tree，即微指令树)人造细胞该细胞由一个简单的处理器和4片数据存储器构成。细胞装在一个其大小与Post-its盒差不多的塑料盒里。盒的侧面有电接头，使得这些细胞能像Legos那样拼接在一起。同单元自动机——即研究自复制理论时所用的模型——一样，MICTREE细胞只与它四周相邻的细胞连接起来。因此，每个细胞承受的通信量与细胞的总数无关。换言之，与许多并行计算体系结构不同，这个系统是很容易扩充的

细胞的“基因组”是用Pascal语言的一个分支编写的程序，细胞的行动遵循该程序的指令。与其生物前辈一样，这些细胞有完全相同的基因组，并根据它们在阵列中的位置来执行基因组的一部分(每个细胞相对于其四邻计算出它的位置)。这样高的冗余度看起来似乎很浪费但它使阵列能够经得起细胞的损失。只要某人一按一个细胞上的“KILL”按钮，该细胞就关闭，而位于它左右两侧的相邻细胞就直接连接起来。右侧的相邻细胞重新计算它的位置，并开始执行已死去的细胞的程序，而它的任务又由位于它的右侧的下一个细胞接过去，直至被列为“备用”的一个细胞开始投入运行为止。

为并行处理机编写程序是相当棘手的，但MICTREE需要一种特别不同寻常的方法，编程员必须设计一些简单的规则以使预期的功能从这些规则中自然产生，而不是编写明确的指令。身为瑞士人的Mange通过制造一只极其可靠的跑表来作出示范。分和秒的显示需要排成一列的4个细胞、每个细胞显示一个数字。基因组安排了两类细胞，一类从零计数到9，一类从零计数到5。一台振荡器将脉冲以每秒一个的速率馈入最右边的细胞，馈入10个脉冲后，该细胞便跳回到零，同时向位于其左侧的细胞发送一个脉冲，如此类推这只表利用由12个细胞构成的阵列的一部分进行运转。如果弄死一个细胞，这只表便移动一个细胞的位置并继续运转下去。不过，这只表的生命力显然有一个限度：最多弄死8个细胞后这个阵列便失灵了。

CTREE细胞的原型是硬布线的，因此无法根据某一具体用途的需要调整其处理能力。但在成品中细胞是用一个现场编程的门阵列来实现的，这个电子元件阵列在必要时可马上重新配置(参看本刊1997年10月号John Villasenor与William H mangione-Smith所著《可配置的计算》一文)。Mange的研究小组目前正在定向设计一个名叫MUXTREE(Multiplexertree，多路树)的门阵列，它可针对人工细胞实现优化；用生物来作比喻，该阵列中的各元件都是构成一个细胞的“分子”。每个元件包括一个逻辑门、一个数据位以及一串决定该门的功能的配置位。

用这样的分子来建造细胞不仅增强了灵活性，而且更经久耐用。每个分子含有门的两个拷贝和数据位的3个拷贝。只要两个门给出的结果不同，该分子便会自杀而成全细胞的整体利益。在临死之前该分子将把它的数据位——由三重存储保存——和配置传送给它右侧的相邻分子，后者再把它自己的信息向其右边的邻居传送，如此持续下去，直到最右侧的分子把它的数据传送给一个备用分子。这第二层容错机制可防止一个错误毁掉整个细胞。

总共有2000个分子分布在4个细胞上，每个细胞有20×25个分子。这些分子构成了“生物壁钟”(BioWal1)，即Mange的研究小组刚刚公开展示的那只巨大的数字时钟。每个分子封装在一个小盒子里，分子上有一个KILL按钮和一个发光二极管（LED)显示器某些分子配置成起计算作用的分子，其它分子则作为时钟显示器上的象素。我拼命地到处乱按KILL键，竭尽全力想弄坏这个系统(对于这种事情通常我是很在行的)。但这只倔强的钟就是不肯低头。的确时钟的显示逐渐显得有点滑稽了——随着象素向右移动数字开始扭曲——但至少仍然能辨认得出来，不像大多数电子信号灯一出毛病就完全没有用了。

虽然如此这个系统的显示仍然出了些毛病，Mange将这些毛病主要归咎于定时问题。尽管处理功能是分散的，但各细胞仍然需要一个中央振荡器来协调它们的通信；有时这些细胞会出现步调不一的问题。Embryonics项目的另一个研究小组——由英国约克大学的Andy Tyrrell领导——一直在研究如何使细胞像生物那样实现非同步运行。此时细胞特产生一些交换信号(handshaking signal)来协调数据的传送；此外现有的系统也不能察觉某些类型的错误，包括配置数据串受损等。Tyrrell的研究小组建议加进一种监视分子(即免疫系统)，这种分子的作用是监视配置有无毛病，同时它们也彼此监视。

这些系统需要极大的总开销，但其它容错技术也是如此。Tyrrell指出，“Embryonics看起来对冗余的依赖很大，但实际上它与其它系统相比并不差到哪里去。此外，MUXTREE也更容易缩小到纳米尺度。这时的“分子”将非常简单，成了货真价实的分子。Manse说，“我们正在为电子器件缩小到与生物同一尺度的情况作好准备。”

在哲学层次上，Embryonics与建造自复制机器的梦想非常接近。有人设想机器人能够自己走到Radio Shack商店，从货架上取下零件，把零件带回家重新焊装起来或造出一个可爱的伙伴，而自复制机器可能还没有这样激动人心，但其效果则差不多。让机器自己决定自己的命运——无论是在芯片上自行配置还是使用神经网络或遗传算法的自行编程——听起来令人惊恐不安，但或许我们应当感到高兴的是机器越来越接近于人类：并非完美，难免出错但却有足够的智慧顽强地生存下去。

——George Musser

【陈兴芜／译 向俊／校】