人工智能的危险性在哪？我们该如何安全的开发AI？

成熟的人工智能可以让世界变得更美好。它可能会让我们战胜癌症，改善世界各地的医疗保健，或者干脆让我们摆脱主宰我们生活的卑微工作。

这是上个月工程师、投资者、研究人员和政策制定者在人类层面人工智能联合会议上聚集在一起的主要话题。

然而，一股恐惧的潜流也在一些谈判中出现了。有些人担心被机器人或代码取代工作；其他人则害怕机器人起义。恐惧和合理担忧之间的界限在哪里？

为了将两者分开，Futurism在会议上向五位人工智能专家询问了他们对未来的人工智能的恐惧。

希望，考虑到他们的担忧，我们将能够引导社会朝着更好的方向发展，我们将人工智能用于所有的好东西，比如对抗全球流行病或给予更多的人接受教育，而不是那些坏的东西。

问：当我们谈人工智能，我们在害怕什么？

KENNETH STANLEY，佛罗里达中央大学教授，高级工程经理和优步艾实验室的工作人员

答：我认为最明显的担忧是当人工智能被用来伤害人类的时候。有很多不同的应用程序可以想象这种情况的发生。我们必须非常小心，让坏的一面消失。解决如何让人工智能负责是一个非常棘手的问题；它有更多的维度，而不仅仅是科学。这意味着所有的社会都需要参与到回答这个问题中来。

关于如何开发安全AI：

所有的技术都可以被用来做坏事，我认为人工智能只是另一个例子。人类一直在努力不让新技术用于邪恶目的。我相信我们可以做到这一点：我们可以把正确的制衡机制放在适当的位置，使之更安全。

我想我不知道我们应该做些什么，但我可以提醒我们，我们要非常小心、循序渐进地对人工智能的影响做出反应，并在我们前进的过程中学习。

IRAKLI BERIDZE，联合国UNICRI的人工智能和机器人中心主任

答：我认为人工智能最危险的是它的发展速度。危险与否取决于它的发展速度以及我们能以多快的速度适应它。如果我们失去了平衡，我们可能会陷入麻烦。

关于恐怖主义、犯罪和其他风险来源：

我认为，对人工智能的危险应用，将是犯罪分子或大型恐怖组织利用它来扰乱大型进程，或者仅仅是造成纯粹的伤害。恐怖分子可能通过数字战争造成伤害，也可能是机器人、无人机、人工智能和其他东西的结合，这可能是非常危险的。

当然，其他的风险也来自于失业。如果大量失业没有找到解决办法，那将是极其危险的。像致命的自动武器系统之类的东西应该被妥善管理——否则就会有巨大的滥用的可能性。

关于如何前进：

人工智能技术具有双重性。当然，我的信念是，人工智能不是一种武器；人工智能是一种工具。它是一个强大的工具，这个强大的工具可以用于好的或坏的东西。我们的任务是确保其用于好的事情，从中获得的好处最多，而且大多数风险都是可以理解和减轻的。

JOHN LANGFORD，微软首席研究员

答：我认为我们应该警惕无人机。我认为自动化无人机在很多方面都是潜在的危险。船上的无人驾驶武器的计算效率还不够高，不足以做一些有用的事情。但在五到十年的时间里，我可以想象一架无人机可以在船上进行足够的计算，这样它就能真正有用了。你可以看到，无人机已经在战争中被使用，但它们仍然是人类控制的。他们没有理由不能携带某种学习系统，而且相当有效。这是我担心的问题。

HAVA SIEGELMANN，美国国防部高级研究计划局技术办公室项目经理

答：每一种技术都可以被用来做坏事。我认为它掌握在使用它的人手中。没有不好的技术，只有不好的人。这取决于谁能接触到这项技术以及我们如何使用它。

TOMAS MIKOLOV，FACEBOOK AI研究科学家

答：当有很多人对某件事有兴趣，并进行投资时，一些人便开始滥用它。我发现有些人甚至在我们做人工智能之前就已经开始销售人工智能了，这让我感到不安，他们正在假装知道它将解决什么问题。

这些奇怪的创业公司也有一些很有前景的东西，这些都是很好的人工智能例子，当它们的系统基本上是在优化一条路径时，可能有人根本就不关心它，比如聊天机器人，它比上一个版本稍微好一点。也许在花费了数万个小时的工作之后，通过过度优化一个单一的价值，一些创业公司就会有这样的大主张，他们确实取得了一些以前没有人能做的事情。

但是，让我们诚实地说，这些团体最近的许多突破，我不想说，没有人关心，他们也没有赚到钱。它们更像魔术。特别是那些认为人工智能只是过度优化单一任务的人，他们无法将其扩展到除了非常简单的问题之外的其他任何事情。

小编总结：人工智能在现阶段与安防紧紧地联系在一起，人工智能服务于安防，但人们还是会担忧一个问题，一如电影《终结者》里的天网（Skynet），一个人类于20世纪后期创造的以计算机为基础的人工智能防御系统，最初是研究用于军事的发展，后自我意识觉醒，视全人类为威胁，以诱发核弹攻击为起步发动了将整个人类置于灭绝边缘的审判日。

水能载舟亦能覆舟。

人工智能的开发进程飞速固然可喜，它是一把“剑”，用在哪里，怎么用，是看什么人的！