互动科普

为什么奇点并不近，希望永远有？

撰文 迈克尔·舍默（Michael Shermer） 翻译 红猪

IBM的计算机“华生”是由戴维·费鲁奇（David Ferrucci）和他的25人团队发明，团队任务是研发一个人工智能（AI）系统，在《危机边缘》（Jeopardy）游戏里和人类冠军对抗。2011年2月，“华生”打败了最强的人类冠军肯·詹宁斯（Ken Jennings）和布兰德·鲁特（Brad Rutter）。此后，它又接受了更实际的任务，例如应答医学诊断中的问题。

那么我有一个问题：“华生”知道自己在《危机边缘》中获胜吗？它有没有想到“太棒了！我打败了伟大的阿詹！”？换句话说，获胜后，“华生”是否感到自豪？每当有人问我这场伟大的人机交锋时，我都会这么反问；而对方接下来总是说——不会。他们明白，这种自我意识还不在计算机的能力范围内。在最近的一次会议上，我向“‘华生’之父”费鲁奇提出了这个问题。他的回答令我意外：“是的，‘华生’知道自己赢得了《危机边缘》。”我不相信：这怎么可能？计算机应该还没有这样的自我意识吧。费鲁奇坏笑了一下说：“是我告诉它的。”

当然，你还可以给“华生”编段程序，让它像霍华德·迪恩（Howard Dean）一样发出胜利的欢叫，但那完全不是真心感到胜利时的喜悦。2011年10月15日－16日的那个周末，奇点峰会（在这里，奇点是指机器超越人类智慧的时间节点）在美国纽约召开，一个重要议题是：计算机的自我意识水平以及产生自我意识的时间。数百名奇点学者济济一堂，听取到2045年将取得的进展。这个年份是富有远见的计算机科学家雷·库兹韦尔（Ray Kurzweil）提出的，他认为到2045年，计算机智能将会是整个人类智能的10亿倍，人类将永生不死，技术变革将变得迅速而深刻，届时我们将面临一道智力上的“视界”（event horizon）——“视界”之外，就像天文学上的黑洞内部一样，一切都是另一番景象。

听到这些说法，我的第一反应是既受启发又感到怀疑。如果有人问我在永生问题上的立场，我会回答：“我支持！”然而，人类历史上已有数以十亿计的人，一方面向往永生，一方面得到的又是无法证明的永生方法。每当有“算命先生”把自己和自己的世代写进预言，宣布在自己有生之年会发生人类历史上最重大的事件，我的“鬼扯探测器”就会响起警报。我相信哥白尼的信条——我们没有什么特别。我真的希望，有个未来学家或者宗教先知告诉我，“最重大的事件”会在比如2525年或7510年发生。不过，那样的话对于现在的我们还有什么意义？因此，库兹韦尔和他那帮奇点乐观派人士的观点就格外吸引人了：不管每天冲击感官的坏消息多么令人烦恼，我们都应该始终期待着地平线上即将发生的“最重大的事件”，要沉住气啊。

我们确实应该沉住气，在我看来，AI赶上人类智能，还有好几个世纪那么远。美国加州理工学院的神经科学家克里斯多夫·科赫（Christof Koch）在介绍秀丽隐杆线虫（Caenorhabditis elegans）的神经传导通路时指出，我们完全不了解这种简单的线虫是如何“思考”的，更别说对复杂数十亿倍的人类大脑提出解释（并用计算机模拟）。我们甚至不知道，人脑如何产生有意识的思想，“自我”又在什么地方（如果真有这个地方的话）；更不知道该如何编写程序让计算机也做到这些。比较接近真相的，或许还是流行摇滚二人组“扎格和伊文思”（Zager and Evans）在1969年的那首畅销单曲《远在2525年》中预测的，人类历史上最重大的事件将发生在遥远的未来，从2525年开始，到9595年截止。

在“计算机统治世界，赶超人类思维”的漫天海口中，我却不得不提前在 “社会奇点会议”（关于过去10 000年中政治、经济和社会体制的进步）上发表演讲，原因是美国莱斯大学的计算机科学家詹姆斯·麦卢金（James McLurkin）没法让他那一小群机器人启动起来。这大概是谁的无线麦克，或者房间里的无线网络干扰了那些微型机器人的通信系统，在场的人全都束手无策。真够讽刺的！所以我对奇点的预测是：它还在十年之后，永远的十年之后⋯⋯