谁来给人工智能泼泼冷水

霍金一直在警告人类，要谨慎对待人工智能。人工智能一旦发展起来，将会出现不可控制的局面，例如人工智能发展到一个临界点的时候，诞生了真正的智能潜伏者，一旦拥有足够的权限或者资源，将会控制这人类现有的科技。

所有的信息系统，只要有足够的权限或者漏洞，我们的超级黑客都可以进入偷窃、篡改、破坏甚至毁灭。大至各国的安全系统，金融系统，小至我们的笔记本电脑、汽车驾驶系统以及跟我们生活息息相关的手机，全部被一个人工智能所掌握，全世界都被无形地监控着，我们谁能发现得？

信息时代，会不会有无形的手控制着我们

人工智能如果能够按照人类的设想，不断地为人类做贡献，这是我们研发人工智能的初衷。万一有罪恶分子，利用人工智能去破坏人类社会的发展，甚至想奴役整个人类，我们也防不胜防。这里的人工智能产生欲望，并不意味着人工智能自身产生欲望，而是指有欲望的人+人工智能，就能操作很多事情。哪天银行系统崩溃了，哪天弹道自动发射了，哪天导航把你导到深渊去了…突然想起了那个siri，产生了欲望杀死了主人，我们人类瑟瑟发抖。

是我们操作系统，还是系统操控我们

很多科幻片里面，人工智能的设定是不能违背人类，否则会自爆或者自我毁灭。这是我们对未来世界里面人工智能约束的一个办法。所以，我觉得我们现在就需要建立一些制度，去约束我们的科技忘更文明方向发展，不能让高科技毁灭我们已有的文明。例如，我们国际上对克隆技术的约束，对核能研发的约束，等等。我相信，随着人工智能的发展，对人工智能相关的约束也会有。那时候，霍金老先生的担忧也就没有了。