人工智能欠下的智力债谁来偿还

随着人工智能新技术，特别是机器学习的出现，我们的“智力信用额度”被提高了。机器学习系统在数据海洋中识别模式，并借助这些模式来解决一些模糊开放的问题。例如，提供一个有关猫和其他非猫科动物的标记图片数据集，机器学习系统就学会了如何识别猫。同样地，让系统访问医疗记录，它就可以尝试预测一个新入院病人的死亡可能性。

然而，大多数的机器学习系统并没有发现因果机制（causal mechanisms）。基于统计相关性引擎的机器学习系统无法解释为什么它们认为某些患者更有可能死亡，因为它们并不考虑数据的含义，而只是提供结果。当我们将这些系统融入日常生活时，我们将共同承担越来越多的智力债务。

制药领域的发展表明，在某些情况下，智力债务是不可或缺的。那些我们并不理解的干预措施已经挽救了数百万人的生命。很少有人会因为不清楚其作用机制而拒绝服用拯救生命的药物，如阿司匹林。但是，智力债务的增加也会带来不好的结果。随着具有未知作用机制的药物激增，发现不良反应所需的测试数量呈指数级增长。

如果清楚药物的作用机制，就可以预测其不良反应。在实践中，药品间的相互作用往往是在新药上市后才发现的，这就形成了一个循环。在这个循环中，药物先被上市，然后被遗弃，期间还伴随着集体诉讼。通常，伴随着新药产生的智力债务有一定的合理性。但是智力债务并不是孤立存在的。在不同领域发现和部署的没有理论基础的答案，会以不可预测的方式使彼此交错复杂化。

Inception系统显然无法解释究竟是哪些特征使其能够判断一只猫是否真的是猫，因而当提供特制或损坏的数据给系统时，也很难预测系统是否会出现失误。这些系统在准确性上存在的未知漏洞，无疑给了攻击者机会。伴随着机器学习系统所生成的知识的使用，这些差距也就随之产生了。一些医疗AI经过训练后已经能分辨出皮肤肿瘤是良性还是恶性。

然而，就像哈佛医学院和麻省理工学院的研究人员通过改变图片的某些像素骗过系统，让其做出错误的判断，攻击者也可能会利用这些漏洞实施保险欺诈。在人工智能系统预测能力的诱惑下，我们可能会放弃自身的判断。但是系统存在着被劫持的可能，而我们没有什么简单的方法来验证其答案的正确性。

既然如此，我们能否能为智力债务创建一个资产负债表，从而跟踪那些无理论知识的用途呢？如果一个AI生成了一个新的披萨配方，那么你无需多言，尽管享用便是了。然而，当我们要用AI进行医疗健康方面的预测推荐时，我们就希望得到充分的信息。

机器学习系统单独来看会持续产生有用的结果，但是这些系统并不是孤立存在的。这些AI收集并提取整个世界的数据，同时也产生着自身的数据，而其中很大一部分会被其他机器学习系统所使用。就像具有未知作用机制的药物有时会相互作用一样，那些背负智力债务的算法也是如此。

每个卖家策略的设定都很理性。但正是他们算法的相互作用产生了不合理的结果。数以千计的机器学习模型在不受监管的情况下进行互动所产生的结果更是难以预测。早已部署了尖端机器学习系统的金融市场是此类问题的温床。去年秋天，摩根大通（J. P. Morgan）分析师Marko Kolanovic认为金融市场的崩溃很容易再次发生，因为现在的交易大多基于自动化系统。智力债务在这些系统的相互作用下不断累积，尽管有时它们并不是正式关联的。如果没有类似于资产负债表这样的东西，我们就无法预测或者回溯这些智力债务是否值得承担。

智力债务的增加也可能改变我们对基础科学和应用技术的思考方式。与那些由政府支持，由学术研究机构运营的大型资本项目（如粒子加速器等）不同，机器学习工具很容易被私营企业或学术界所使用。

“与这篇论文相比，概念性论文或者提出新理论假设的论文的声望要低得多”，他在接受采访时说到。在机器学习使得发现速度加快的时代面前，那些理论家们显得那么无关紧要，甚至是多余的存在。与创建机器学习模型方面的专业知识相比，对特定领域的知识的重视程度自然也会降低。

金融债务将控制权从借方转移到了贷方，从未来转移到了过去。而不断增加的智力债务也可能转移控制权。一个充斥着不经理解的知识的世界会变成一个没有明显因果联系的世界，而我们只能依赖于我们的数据管家来告诉我们该做什么，什么时候做。例如，一个大学的招生委员会可能会将辛苦和不确定的人员筛选交给机器学习模型。这种方式可能会优化新生群体，不仅是为了学业上的成功，还可以带来和谐的人际关系以及校友的慷慨捐赠。再者，我们理解这个世界的唯一方法可能就是采用我们的AI系统，通过神经网络来微调我们的社交媒体资料，这样我们就能够完全“融入”社会。