科学家：人工智能将终结人类史上大事件

本文是Ken Goldberg教授为《Nature》撰写的书评，对3本关于人与机器人之间关系的书籍做出了评论。他是加州大学伯克利分校人与机器人计划的负责人。那么，他对奇点理论看法如何呢?机器人会取代人类工作吗?

这三本书分别是：

Machines of Loving Grace: The Quest for Common Ground Between Humans and Robots JOHN MARKOFF Ecco: 2015.

Rise of the Robots: Technology and the Threat of a Jobless Future MARTIN FORD Basic: 2015.

Our Robots, Ourselves: Robotics and the Myths of Autonomy DAVID A. MINDELL Viking: 2015

19世纪末期，美国社会充斥着一个种族歧视的词叫「黄祸」(yellow peril)。一种关于中国移民的恐慌在这个国家蔓延开来，因为他们担心在美国矿山和铁路上工作的中国移民会把工作从当地居民手中夺走。今天，他们也有一个类似的恐惧，不过这一次是关于「奇点」——人工智能和机器人的能力超过人类的时刻。

例如，2014年5月物理学家Stephen Hawking、Frank Wilczek和Max Tegmark，以及计算机科学家Stuart Russell，在《独立报》上撰文称：「人工智能的成功将会是人类历史上最大的事件。不幸的是，这也很可能是最后一个大事件。」

如今，人工智能领域获得了很多令人惊异的进步，例如「深度学习」——通过使用数千个数值参数来近似拟合复杂函数的方法。随着3D感应和绘图技术的进步，机器人也在发生进化，但是这些进步也并不如有些人宣称的那样稳定。这里有三部著作从不同方面探索了这个话题，而它们都不约而同地认为机器人的优势面临着巨大的障碍：人类的心理。

一

在《Machines of Loving Grace》一书中，《纽约时报》记者John Markoff强调了人工智能(AI)和智能扩增(IA)之间的区别。他讲述了自1956年这两个术语创造以来，这些领域发生的迷人却又往往对立的演变。

在过去的20年间，Markoff一直与领先的研究人员保持联系。据他描述，虽然早期的研究人员态度比较乐观，但是事实证明，创造人工智能是一件非常困难的事情。机器人也遭遇了莫拉维克悖论：一些对于人类来说非常困难的任务，例如精密点焊机等，对于机器人来说却非常简单;而很多对于人类来说非常简单的任务，例如清理餐桌等，对于机器人来说却非常困难。这主要是由于摩擦力学、碰撞力学和接触力学固有的复杂性决定的。和推动桌面上的咖啡杯相比，对机器人来说计算彗星的精确轨迹相对来说更加容易。

Douglas Engelbart则更偏爱智能扩增(IA)，他致力于通过开发计算机的潜能来扩增人类的能力。这发展成了人机交互领域，为我们带来了鼠标和图形界面。Markoff讲述了一些开拓者的故事，例如计算机科学家Terry Winograd和增强现实专家Gary Bradski，他们都认识到了人工智能的局限性，从而成为了智能扩增的倡导者(IA)。Markoff的著作认为人工智能(AI)的成功将会依赖智能扩增(IA)的进步。

二

软件企业家Martin Ford在《Rise of the Robots》中宣称，人工智能和机器人将会消除大多数工作，蓝领和白领阶层很有可能会因此而失业，而进一步的阅读则表明，支持这种说法的证据非常简略。Ford认同未来学家Ray Kurzweil的言论，并反复强调说，我们已经到达基于摩尔定律(计算能力随时间呈指数增长)的加速发展边缘。然而一些计算机科学家认为这是一个指数谬论，认为集成电路的成功经验将人们对发展的预期抬得太高，远超出了科技历史学家们的预期——他们认为增长曲线不可避免会变得缓和。

历史趋势也并未支持勒德谬误(Luddite fallacy)，该谬论认为全世界的工作量是一定的，因此科技的发展会不可避免地取代一部分工作，从而造成失业。这样的推理没有考虑到补偿效应，即新的工作会产生，也没有考虑到众多的相关因素，例如全球化和劳动力的民主化。Ford在该书中描述了软件系统试图完成律师、项目经理、记者、计算机程序员、发明家和音乐家的工作。但是他给出的证据(这些证据包括软件系统将很快得到完善，并迫使大量裁员)包含的大多是流行杂志的文章以及与初创公司市场主管的对话。

三

在《Our Robots, Ourselves》一书中，远程机器人专家David Mindell指出，自治系统(autonomous systems)其实并不是一个新概念。自从20世纪70年代开始，它们在一些领域使用得非常频繁，例如深海探测和太空探索，并用在几乎所有的飞行器上。

凭借丰富的经验，Mindell解释道，虽然这样的系统已经有所改进但是许多专家却仍然不信任它们。例如，有的学派认为海洋学家必须直接体验黑暗的海洋深处，才能理解潜藏在那里的奇观。然而可通过光纤电缆远程操作的机器人潜艇则更灵活，能够探索更长的时间，而且每次改进之后的验证过程也并不昂贵。

Mindell为我们讲述了一个生动的场景。1977年，马萨诸塞州伍兹霍尔海洋研究所海洋学家Robert Ballard和微生物学家Holger Jannasch坐潜水器遇到了一个海底喷口区。当Ballard想通过裂缝附近的玻璃窗观察时，他意识到Jannasch却背对着玻璃窗。当问及到为什么时，Jannasch说，摄像头转播的电视图像视野更好。那一刻，Ballard意识到，在海面上看转播的视野会更好，在那里，你可以舒适地观看海底拍摄的高清视频。然而，也有许多人认为并非如此。

Mindell研究了大量历史、文化、政治、心理、哲学和公共关系等方面的理由，以便让人类手握控制权。最近的一个例子是2015年6月，由大约3000位研究人员签署的关于禁止自主武器的国际请愿书。

让我们考虑这样一个例子，Google公司宣布发现了其无人驾驶汽车中一个最不可靠的部分：当人类司机试图接管汽车时，它的回应是移除方向盘。Mindell解释了为什么这是一个错误。在他所谓的「完全自主的神话」中，他指出机器可能周期性地自主操作，但是没有机器可以完全独立地工作，因为这意味着人类的意图、假设及参数都需要内置于所有的机器中。Mindell的这种经验使得他得出了和Markoff类似的结论：最重要(也是最困难)的挑战是设计合适的接口，让人类出现在整个决策回路中。

技术进步也具有不确定性。我们已经经历了几次循环，从非理性的热情、到失望、再到研发资金的蒸发，即人们所说的人工智能冬天。和以前类似，最新一轮的期待也被夸大了。

这些危言耸听的言论会加速接下来的低迷状态，从而使得人们忽略更为现实和重要的发展，即多样性。多样性刻画的是一种新兴的系统，在其中，不同群体的人类可以和不同类别的机器一起工作，从而解决一些非常困难的问题，这一点与Markoff和Mindell的观点一样。多样性在人工智能和智能扩增的交界处蓬勃发展，将人类的智慧和云计算的能力结合在了一起。正如设计师和计算机科学家John Maeda所说的那样，这并不是我们和机器之间的对抗，而是我们和机器之间的合作。两者联合才能收获更多。