被人工智能所控制的世界会是什么样子的

（文章来源：百家号）

很多科学家认为，我们即将发现能够显著提升学习和模仿能力的科学技术，那就是超级人工智能。目前的人工智能是由程序设计师将指令输入到程序里，精心地把各种遇到的问题和解决方案，设计成一套逻辑严密的指令来进行工作。设计师们建立的这套程序系统，是可以在特定的领域发挥一些稳定的作用，但是它们却是非常的生硬，一就是一，二就是二，完全没有变通的余地。基本上这些系统输出的东西，都是程序设计师提前设计好的方案。

例如短视频的推荐机制就是如此，它会根据程序设计师事先设定好的逻辑来判断，什么样的视频该推荐给什么样的用户，或者通过一个视频的观看完成度，以及互动参与度，被分享次数等这些维度来确定，这是不是一个好的视频。但是由于某种原因，这样一套逻辑系统是很容易被一些人为手段所欺骗，程序设计师就会不断的通过增加分析视频好坏的一些因素和维度来修正这些BUG，让系统变得看起来更加聪明一些。从成本的角度考虑，程序设计师希望通过一些更高层次的手段，例如赋予程序学习和思考的能力，像人类才具有的举一反三的能力，来彻底的解决问题。

从这里就可以看出，我们人类对未来人工智能的诉求。在未来人工智能领域里，将出现模式上的转变，人工智能开始具备学习和思考的能力，其结果会出现一种不再局限于某特定领域的人工智能。

同时具备了学习和思考能力的系统，是可以学习任何不同领域的知识。但是现在的人工智能远远还没有达到和人类智慧一样，具备跨领域的学习知识的能力。人类大脑具有一些比较独特的运算技巧，而且目前我们还不知道要通过什么样的手段，可以将这些技巧复制到程序中。

在几年前有机构对世界上顶尖的人工智能专家进行了一次问卷调查，其中的一个问题是，你认为到哪一年，人类会有50%的几率，能够达成人类级别的超级人工智能。这里指的超级人工智能，是指可以真的像人类智慧一样学习和思考，而不仅仅是局限于某领域，而答案的中位数是在2040至2050年，不过没有人知道确切时间。

但是请大家注意，一旦达到了智慧级别，就可以证明人工智能的技术已经从量变发展到了质变，它不会在人类智慧级别停下来，更可能是呼啸而过，但是也是令人非常不安的情况。特别是在谈到智慧的力量和权力的时候，我们都知道黑猩猩相当于两个健康男性那么强壮，然而黑猩猩的命运却牢牢地掌控在人类的手里。这就证明了拥有了更高的智慧，就相当于拥有了权力

当超级人工智能出现的时候，那么人类的命运很可能就取决于超级人工智能想要做什么了。所以超级人工智能，很可能是人类最后一个需要创造的东西。在那之后，一个具备或者说超越了人类级别的学习和思考能力的程序，会比人类更擅长创造。这也意味着一个被缩短了的未来。想象一下，你所幻想过的所有的黑科技，也许我们人类会在一个适当的时候完成创造。比如说终结衰老，宇宙殖民，可以自我复制的纳米机器人，或者说将人类大脑的信息传输到电脑中。诸如此类看似存在于科幻，却同时符合一些物理法则。

可是超级人工智能或许可以比人类更快地完成这些创造。一个能够快速学习模仿，以至于拥有世界上所有成熟科技的超级人工智能，将会变得非常的强大。不会像人类一样，即使再博学也会有相当大的知识死角，而它则会更像是无所不知的存在。并且它可以将人类所有的智慧转化成的知识，更有效地结合在一起，更加快速的完成创造。那么我们大部分人的未来，其实将被人工智能的喜好所主宰。

我们需要把人工智能看作是优化的过程，能把未来引导着特殊组合结构的过程。一个超级人工智能是非常强大的优化过程，它会擅长利用各种资源来最大化的达到目标，但是我们也要规避掉，其中对于人类的不利因素。假设我们基于人工智能的目标是让人们笑，那么当人工智能弱的时候，它会尽可能地收集一些搞笑的方式来让人们笑。而一旦它变成超级人工智能的时候，它会很快地意识到一个更有效的方法能够达到目标，那就是控制世界，然后将人类的脸上插上电极，这样人类就会不断的笑下去。