人工智能是朋友还是敌人

工友们坐一起，畅想人工智能普及后，生产车间的美好未来。以后脏活重活都由机器人来干，工人的任务，就是管理机器人。一两个工人管理一片硕大的现场，领导几十上百个机器人，那种统领天下的领袖风采，一定很爽。机器人效率高，企业效益不会差，到时候待遇会很丰厚。智能时代，工友的美好未来，想想都让人激动。

事实的变化有点突然，工友们盼望来帮忙干活的机器人，至今没研发出来，而机器人管理员，却已在赶来的路上。继亚马逊推出机器人管理系统后，近日沃尔玛也宣布，推出自己的智能现场管理系统。智能管理系统的快速普及，成了大概率事件。据美国媒体报道，亚马逊在使用智能机器进行现场管理后，物流工人的效率提高了15%，一个智能机器人管理几十上百个物流工人，无压力、潜力巨大。

亚马逊使用的智能管理系统，还是初级产品。它通过覆盖现场的监控配合人脸识别，设计了一套智能管理程序，辅以先进的传感器和算法。每个人工干什么、干多少、怎么干一切尽在掌握。需要动手的，你手停下一分钟，工服就会善意提示，“加油，你行的”，一个月下来，别人停手二十次，你停了五十次，或者别人上厕所五十次，你上了一百次。机器人有权利直接开除你，不需请示任何人。这还是初级产品，以后通过数据积累和深度学习，管理机器人更加厉害，那是一定的。

我们盼望的，一个工友管上百机器人的美好场景没出现，一个机器人管理上百工友的场景先实现了。我们还面临随时被机器人辞退的风险，这让人大跌眼镜。以后我们要不要跟机器人做朋友？人工智能，是朋友还是敌人，有待商量。

自动驾驶，会让老司机排队下岗；智能系统会让医生、律师、会计、营业员、收费员普遍下岗；智慧城市会让一半的公务员成为闲杂人员。大家都成为闲杂人员后，遍布城市的监控和人脸识别，会知道你每一分钟在哪里，干什么。智能地图上清晰地划着每个人一天的行动轨迹，实名的手机记录你每天看什么、买什么、说什么。表面看我们每天都会利用智能系统解决问题，而事实上智能系统每天都会利用我们，解决更多问题。

我现在知道，马化腾在最新一届数字峰会上，提出“科技向善”为使命的逻辑了。我们正在进入一个智能时代，人工智能的发展势不可挡。但是跟其它科技进步一样，科技带来的改变一定是多样性的。就像火药可以放烟花也可以造武器、核子可以发电也可以造核弹一样，现在人类拥有核弹已经可以把人类毁灭好几遍。人工智能，到底是朋友还是敌人，是值得全球科学家和精英认真思考的问题，也是全人类要正确面对的问题。科技向善不是一句口号，要通过制度和法律，对这个问题进行科学归纳和管理。否则，人工智能是朋友还是敌人，还有待商量。