可以探测其他计算机的“思想”的人工智能研发成功，迈出了机器之间协同合作的第一步

关键信息：Deepmind公司的计算机科学家已经创造出了一种人工智能—ToMnet，它可以探测其他计算机的“思想”和“信仰”，并预测它们的下一步行为，这是机器之间互相协作的开始。研究人员本月在斯德哥尔摩举行的国际机器学习会议上报告上宣布了这一消息。

关键数据：ToMnet由三个神经网络组成。

关键意义：理解他人的想法和信仰，是人类和其他动物心智发展的关键阶段，机器人能做到这一步，是不是离人工智能威胁又近了一步？

与Siri或天猫精灵进行过互动的人都知道，数字助理无法从根本吸引人，因为它们不懂人的思想、需求，无法像真正的人类朋友一样对话，它们需要心理学家所谓的“心智理论”，即对他人信仰和欲望方面的认识。

现在，谷歌旗下Deepmind公司的计算机科学家已经创造出了一种人工智能，它可以探测其他计算机的“思想”，并预测它们的下一步行为。这也是机器之间的协同合作的第一步。

加州大学伯克利分校的发展心理学家Gopnik说：“心智理论显然是一种至关重要的能力。”因为在4岁时，人类的孩子就会明白，另一个人的信仰可能会偏离现实，而这些信念可以用来预测一个人的未来行为。今天的一些程序可以识别出“快乐”或“愤怒”的面部表情，这也是一种与心智理论相关的技能，但它们极少能理解人类的情绪或者动机。

Deepmind新项目始于一项让人类理解计算机的努力。人工智能所使用的许多算法并不是由程序员编写的，而是依赖于依次解决问题时的机器学习，但计算机生成的解决方案通常是“黑盒子”，算法过于复杂，人类的洞察力看不透。

因此，DeepMind的研究科学家Neil Rabinowitz和他的同事们创造了一种名为“ToMnet”的思维AI理论，看它是否能通过观察其他AI知道后者是如何工作的。

ToMnet由三个神经网络组成，每个神经网络由小的计算元素和连接组成，它们从经验中学习，类似于人类的大脑。第一个网络根据AI们过去的行为学习它们的倾向性；第二个网络是理解AI们当前的“信仰”；第三个则从另外两个网络中获取输出，根据具体情况预测人工智能的下一步动作。

在试验中，被观察的AI是一个简单的角色，它在一个虚拟的房间里收集彩色的盒子，ToMnet从上方观察了房间，发现有三种角色：一个看不到周围的墙壁，一个不记得最近的走过步骤，还有一个既看的到周围的墙壁也记得住最近的步骤。

“失明”的角色倾向于沿着墙走，“健忘症患者”会移动到最近的物体上，第三个角色形则成了子目标：以特定的顺序战略性地抓取物体以获得更多的点数。

在经过一些训练后，ToMnet不仅能在几个步骤之后识别出一个角色的种类，而且还能正确预测它未来的行为，研究人员本月在斯德哥尔摩举行的国际机器学习会议上报告上宣布了这一消息。

最后一项测试显示，ToMnet甚至可以理解一个人是否持有错误的信念，这是人类和其他动物心智发展理论的关键阶段。

在这个测试中，一种类型的角色被设定为近视眼；当电脑在游戏进行到一半改变了他们视力范围之外的景象时，ToMnet准确地预测角色会比视力好的角色更能坚持原来的路线，因为它们对新环境的适应能力较差。这项研究是神经网络惊人的学习技能的例子，但这仍然不能使它们与人类儿童处于同一水平。

Josh Tenenbaum是麻省理工学院的心理学家和计算机科学家，他也研究了心智能力理论的计算模型。他说，与他的团队的系统相比，ToMnet更有效地注入了信念。但她补充说，ToMnet的理解与它被训练的环境紧密相关，这使得它在全新的环境中的预测能力变得越来越弱，它系统的所达到的功能可能连小孩子都能做到。

Gopnik指出，在未来结合其他方法，可能会让这个领域出现“非常有趣的方向”，计算机正在发展的那种社会能力不仅能改善与人类的合作，或许还能改善欺骗行为。