某些情景下的人工智能的确会给人们带来威胁

不少人对人工智能非常忌惮。可以这么说，科幻电影里刻画的那些“错误进化”的冷酷机器影响了公众对人工智能的看法。

但该领域里的三位专家表示，人们感到不安也是有合理的原因。尽管电影《终结者》还没变成现实，但卡内基梅隆大学计算机学院的主任Andrew Moore表示，某些情景下的人工智能的确会给人们带来威胁。Moore很快将成为Google Cloud AI的主管。

去年11月，Moore播放了名为《人工智能和全球安全倡议》的幻灯片，他表示：“如果发生了人工智能引发的灾难，例如无人驾驶汽车因为系统漏洞撞死了人，坦白说我认为这已经发生了，那么某些人工智能系统将被封锁，至少在美国地区是这样。”

“有太多让人害怕的场景，我就不一一叙述了，我们真的很担心这些事情的发生，它们有可能引发机器人研究的全面封锁。”Moore说道。

而Moore发表声明的同时，大量的风险资金涌入了人工智能领域。

谷歌、微软、IBM、亚马逊、Facebook等公司竞相研究这种技术。谷歌首席执行官桑德尔·皮查伊曾表示，对人类发展而言，人工智能的重要性将超过电和火。

尽管如此，也有研究人员表达了这种技术的担忧，警告称人工智能一旦被用于歧途，将带来严重的后果。

上周，谷歌中国的前总裁李开复预测人工智能将为许多行业带来变革，并创造出大量的财富，但这些财富最终会集中到少部分人手里。他声称，有了人工智能的帮助，企业拥有者能省掉大量劳动力，让他们曾经的工作实现自动化。

“因此人工智能会创造出新的富翁和平困人群。”李开复在2018年的旧金山人工智能大会上说道。

在这个大会上，纽约大学AI Now的联合创始人Meredith Whittaker描述了埃隆·马斯克和马克·扎克伯格等技术人员正在寻找人类通过思想控制机器的方法。她预测在不远的将来，这种技术就会出现，它能理解和存储我们的想法。

Whittaker又丢出了第二个问题：那么如果一家公司能搜集它客户的想法并进行记录，将发生什么事情？她认为这种可能“很恐怖”。

同样“恐怖”的是，人工智能系统对人类情感的理解能力逐渐加强。

“直到三四年前，计算机视觉和语音处理的进步，使得机器可以识别人、物体，并将口头语言转换成书面的语句。现在我们已经可以再进一步，手机上摄像头的分辨率已经能看到脸上的瑕疵，并利用它们的运动来追踪整个面部皮肤。”Moore说道。

“通过面部追踪，你可以识别出脸下的哪块肌肉在运动。利用已有的心理学知识，加上肌肉的运动，你可以检测出面部动作和细微的情绪，甚至有时候人类自己都没意识到。”Moore补充道。“这意味着我们能够识别出对象在讲话过程中的激动、喜悦、恐惧和轻蔑。”

不少人对人工智能非常忌惮。可以这么说，科幻电影里刻画的那些“错误进化”的冷酷机器影响了公众对人工智能的看法。

但该领域里的三位专家表示，人们感到不安也是有合理的原因。尽管电影《终结者》还没变成现实，但卡内基梅隆大学计算机学院的主任Andrew Moore表示，某些情景下的人工智能的确会给人们带来威胁。Moore很快将成为Google Cloud AI的主管。

去年11月，Moore播放了名为《人工智能和全球安全倡议》的幻灯片，他表示：“如果发生了人工智能引发的灾难，例如无人驾驶汽车因为系统漏洞撞死了人，坦白说我认为这已经发生了，那么某些人工智能系统将被封锁，至少在美国地区是这样。”

“有太多让人害怕的场景，我就不一一叙述了，我们真的很担心这些事情的发生，它们有可能引发机器人研究的全面封锁。”Moore说道。

而Moore发表声明的同时，大量的风险资金涌入了人工智能领域。

谷歌、微软、IBM、亚马逊、Facebook等公司竞相研究这种技术。谷歌首席执行官桑德尔·皮查伊曾表示，对人类发展而言，人工智能的重要性将超过电和火。

尽管如此，也有研究人员表达了这种技术的担忧，警告称人工智能一旦被用于歧途，将带来严重的后果。

上周，谷歌中国的前总裁李开复预测人工智能将为许多行业带来变革，并创造出大量的财富，但这些财富最终会集中到少部分人手里。他声称，有了人工智能的帮助，企业拥有者能省掉大量劳动力，让他们曾经的工作实现自动化。

“因此人工智能会创造出新的富翁和平困人群。”李开复在2018年的旧金山人工智能大会上说道。

在这个大会上，纽约大学AI Now的联合创始人Meredith Whittaker描述了埃隆·马斯克和马克·扎克伯格等技术人员正在寻找人类通过思想控制机器的方法。她预测在不远的将来，这种技术就会出现，它能理解和存储我们的想法。

Whittaker又丢出了第二个问题：那么如果一家公司能搜集它客户的想法并进行记录，将发生什么事情？她认为这种可能“很恐怖”。

同样“恐怖”的是，人工智能系统对人类情感的理解能力逐渐加强。

“直到三四年前，计算机视觉和语音处理的进步，使得机器可以识别人、物体，并将口头语言转换成书面的语句。现在我们已经可以再进一步，手机上摄像头的分辨率已经能看到脸上的瑕疵，并利用它们的运动来追踪整个面部皮肤。”Moore说道。

“通过面部追踪，你可以识别出脸下的哪块肌肉在运动。利用已有的心理学知识，加上肌肉的运动，你可以检测出面部动作和细微的情绪，甚至有时候人类自己都没意识到。”Moore补充道。“这意味着我们能够识别出对象在讲话过程中的激动、喜悦、恐惧和轻蔑。”