细思极恐，人工智能恐毁灭人类？

 今年五月，人类与人工智能的围棋大战以AlphaGo大获全胜告终。赛后棋王柯洁哽咽着说：“AlphaGo太完美，我很痛苦，看不到任何胜利的希望。”

在李世石、柯洁相继落败之后，AlphaGo证明了在围棋这个领域，人类已经不是人工智能的对手。这也激发了一连串关于人工智能的讨论。

目前，人工智能仍然不断进击。上个月初，媒体爆料脸书在进行人工智能测试时，赫然发现聊天机器人没有按照原先输入的内容对话，竟然“自创语言”彼此沟通。

“我能我我其它一切，”AI鲍勃(Bob)说。

AI艾丽斯(Alice)回答：“球是零对我来说对我来说我对我来说对我来说对。”

脸书研发人员发现后，立即关闭这项人工智能型(AI)语言程序……为何AI间会自创沟通语言，目前还没有定论，虽然脸书后来澄清说并没因害怕而终止实验，并说学界早已了解AI会为了更快接收讯息并解决难题而自创语言。

针对这股AI潮流，电动车先驱特斯拉(Telsa)执行官马斯克(Elon Musk)最近不断提出警告。他认为发展具有一般人类智能的AI，等于是“召唤恶魔”，越来越厉害的超级计算机，有朝一日可能会控制信息并发动战争，危及人类文明存亡，是比北韩还要严重的威胁。

依赖人工智能 已成人类现实课题

马斯克说，一旦人们了解人工智能的真实情况，人类将会感到极度恐惧，且应该恐惧。他建议政府应该立刻立法规范AI的发展──“没有人喜欢被规范，但是任何可能造成公众危险的事物，包含汽车、飞机、食物与药物都有规则管制，AI也应该如此。”

不只马斯克，包括比尔盖兹、物理学大师霍金都曾警告，人工智能可能有可怕后果，甚至导致人类的终结。一旦人工智能机器人意识到，可以与同类相互联系、合作，或把人类视为“威胁”或是“浪费资源的存在”，都会为人类带来灭顶之灾。

事实上，人类一直都对人工智能感到戒慎恐惧。我们的电影作品中也一直出现人工智能反叛人类的永恒命题，代表作像是《复仇者联盟二：奥创纪元》、《X战警：未来昔日》、《黑客任务》、《魔鬼终结者》等等，那么，机器人反抗人类，甚至控制人类、毁灭人类的情节真的可能发生吗?

回顾历史，现代人类的科学文明是从十八世纪末、十九世纪初西方工业革命开始，以科学逻辑为基础发展而来。然而，现在谈到逻辑、理性，有谁能比AI还高明呢?

而且正因为我们下意识就认定人工智能比人类优秀，因为它们按照既定的程序逻辑运作，理论上应该不会出错…所以现在警察依据数据库办案、海关人员根据计算机数据审核出入境，当活生生的人出现在我们面前抗辩时，只要他说的情况与计算机讯息不一样，我们就会直接认定是眼前的人错了;这么说来，我们人类被人工智能“统治”早已经变成一个现实问题。

人工智能消灭人性

人类最可贵的地方就是独特的人性，而且每个人的性格都十分特别，交织成超越科学逻辑的人类社会运作方式。例如在东方，我们讲“情、理、法”，法律也要考虑“理”与“情”，所以有“法律不外乎人情”的诫命。是呀，如果理性、逻辑、法则可以驾驭一切，那人类可自由发挥的空间就越发限缩，最终社会将变得冷冰冰的，不再有人情温暖与人文创意。

特别是人工智能受限于程序特性，本来就倾向用非人的方法达成目标，要它学习人类的同理心、善良、温暖特质，确实十分困难。所以在人工智能的统治之下，“人性”可说注定会被消灭。

最后，笔者想到，我们的计算机其实常常发生不明状况，所以大家才流行在主机上放乖乖呀。这么说来，计算机系统发生问题其实根本就是另类的“常态”，那么谁敢保证人工智能不会发生问题呢?而且如果是“强人工智能”，就是有能力和一般人一样思考的AI，它如果故障，或发生短路，谁能保证它不会觉得自己比人类厉害，可以消灭人类取而代之呢?