美保安机器人“自杀”事例：AI是人类文明面临的风险

近日，在美国华盛顿的一栋办公楼里，一位保安机器人因将自己浸在喷泉中的“自杀”举动占领了推特的头条，也引发了人们对人工智能的热议。

据了解，这是一个Knightscope K5机器人，由硅谷机器人公司Knightscope研发，拥有GPS、激光扫描和热感应等多项功能，并备有监控摄像机、感应器、气味探测器和热成像系统，连接手机还可进行数据传送。它们可以沿着指定路线巡逻或者任意漫游。激光扫描和气味探测功能可探测周围环境的变化，甚至是检测空气污染指数。

该款机器人可以在巡视过程中打击犯罪并监视可疑行为，已应用于美国多地的办公室和商场。

近日，特斯拉CEO马斯克称，人工智能对人类社会可能产生的负面影响，在它们已经开始的时候不可能被立法化。相反，它要求对人类的安全采取先发制人的规定和限制。

“人工智能是一个罕见的案例，在我看来，我们需要在对其监管中积极主动，而不是被动。因为我认为，当我们在人工智能监管中处于被动时，就已经为时过晚了。” 马斯克说道，“人工智能是人类文明中存在的根本风险。”

马斯克担心的最大问题是人工智能系统可能会通过传播“假新闻”和“信息操纵”引发不必要的战争，这一设想与《终结者》系列电影的粉丝们在过去几十年里的想法十分相似。

因此，规范人工智能是一个极其重要的问题。

早在2014年，马斯克就在麻省理工学院(MIT)的一次演讲中告诫学生，人工智能的快速发展有一定的危险。他说：“我认为我们应该十分谨慎地对待人工智能。如果我能猜出我们人类生存最大的威胁是什么，那很可能就是人工智能。所以，我们需要对人工智能非常小心。我越来越倾向于认为在国家和国际层面应该有一些监管监督，只是为了确保我们不会做一些非常愚蠢的事情。有了人工智能，我们就会召唤恶魔。我们都知道，在所有这些故事中，有一个有五角星和圣水的人，确信他肯定能控制这个恶魔，然而并没有成功。”

除马斯克外，史蒂芬·霍金(Stephen Hawking)等名人都曾警告过人工智能的安全性问题，认为这项技术将对所有人类构成重大威胁。

上个月，耶鲁大学和牛津大学研究人员对352名人工智能专家针对“人工智能何时能超越人类?”这一主题进行了调查。结果显示，到2024年，人工智能将会在翻译领域超越所有人类;到2026年，人工智能便能够写出高中水平的文章;到2027年，能够驾驶卡车;到2031年，可以从事零售工作;到2049年，能写出一本畅销书;到2053年，能够胜任外科医生的工作。

世界经济论坛一项研究表明，人工智能在接下来五年内将创造大约200万个新岗位。其中包括一些新兴职业，比如虚拟世界设计师、无人驾驶系统工程师。

“人工智能将快速爆发，十年后50%的人类工作将被AI取代。”今年4月，创新工场董事长李开复在接受媒体采访时表示，AI将渗透到每一个行业、每一个工作，它会在十年之内改变、颠覆、取代50%的人，它会把我们做事的方法统统改变过来，比互联网来的更快、影响力更大。