人工智能危机：弄不好就是人类末日

人工智能(AI)将改变世界，但这是“恶”还是“善”，备受争议。为此，一个专家团队齐聚亚利桑那州立大学(ASU)的“设想和解决不良AI的结果”研讨会，讨论了当人工智能成为人类的一个重大威胁时，人类将处于什么样的困境。

人工智能科学家Eric Horvitz指出，AI具有巨大的潜力，以多种方式影响到社会的各个方面。同时，就像任何技术一样，人工智能有利也有弊。

作为AI乐观支持者的一员，Horvitz表示非常看好人工智能的未来。与此同时，他也认为AI要想赢得公众的信任，那么在技术方面仍要不断努力。为了实现这一点，所有围绕着技术的问题都要被讨论。

专家希望这次对话能够解决有关AI的问题。由科学家、网络安全专家和政策制定者组成的40个人，被分成两队，讨论AI会以哪些方式给世界造成麻烦。

红队的任务是将AI可能导致的灾难性情况都列出来，蓝队则被要求设计相应的解决方案。假设的情况也要基于当前的技术，而不是胡乱假设一通。

若人工智能“失控”

红队假设AI可能存在的风险有以下几种：自动网络攻击(这是一种足够智能的网络武器，在攻击后能隐藏自己，并能防止被毁灭)，股票市场将被操纵，无人驾驶技术无法对关键路标进行识别，AI被用来操纵选举或影响选举结果。

并不是每一个问题都给予了足够的解决方案，表明了人类目前面对AI可能带来的糟糕情况毫无准备。

例如，在智能自动化网络攻击的情况下，攻击者很容易使用不知情的互联网游戏玩家来掩盖自己的踪迹，使用类似于在线游戏来掩盖攻击本身。

将其作为娱乐的人可能认为这些是无稽的末日景象，但实际上这些假设是向认识AI可能构成的威胁迈出了深思熟虑的第一步。

美国国防部高级研究计划署的John Launchbury希望这场讨论能给网络战争、自动化武器和机器人部队制定具体的协议。

研讨会的目的不是为了煽动恐惧情绪，而是合理、现实地预测技术如何被滥用的各种可能性，并希望能在AI防御方面取得突破。