-
警惕人工智能事不宜迟
人工智能（AI）研究正在朝着人类级或超人类智能机器的长期目标大步迈进，然而，如果它以目前的形式取得成功，很可能给人类带来灾难性的影响。原因在于，人工智能的“标准模型”要求机器去追求人类指定的固定目标。我们无法完全正确地指定目标，也无法预测或预防追求错误目标的超能力机器在全球范围内会造成的伤害。我们已经看到了一些例子，比如社交媒体算法利用人们的偏好来优化点击量，这给民主体制带来了灾难性的后果。
人工智能（AI）研究正在朝着人类级或超人类智能机器的长期目标大步迈进，然而，如果它以目前的形式取得成功，很可能给人类带来灾难性的影响。原因在于，人工智能的“标准模型”要求机器去追求人类指定的固定目标。我们无法完全正确地指定目标，也无法预测或预防追求错误目标的超能力机器在全球范围内会造成的伤害。我们已经看到了一些例子，比如社交媒体算法利用人们的偏好来优化点击量，这给民主体制带来了灾难性的后果。
