当前位置:首页 > 智能硬件 > 人工智能AI
[导读]在工业界中,数据科学或机器学习的主要焦点是更偏“应用”地解决复杂的现实世界至关重要的问题,而不是理论上有效地应用这些模型于正确的数据。机器学习模型本身由算法组成,该算法试图从数据中学习潜在模式和关系,而无需硬编码固定规则。因此,解释模型如何对业务起作用总是会带来一系列挑战。有一些领域的行业,特别是在保险或银行等金融领域,数据科学家通常最终不得不使用更传统的机器学习模型(线性或基于树的)。原因是模型可解释性对于企业解释模型所采取的每个决策非常重要。

在工业界中,数据科学或机器学习的主要焦点是更偏“应用”地解决复杂的现实世界至关重要的问题,而不是理论上有效地应用这些模型于正确的数据。机器学习模型本身由算法组成,该算法试图从数据中学习潜在模式和关系,而无需硬编码固定规则。因此,解释模型如何对业务起作用总是会带来一系列挑战。有一些领域的行业,特别是在保险或银行等金融领域,数据科学家通常最终不得不使用更传统的机器学习模型(线性或基于树的)。原因是模型可解释性对于企业解释模型所采取的每个决策非常重要。

残酷的现实是,如果没有对机器学习模型或数据科学pipeline如何运作的合理理解,现实中的项目很少成功。现实中的数据科学项目,通常会有业务和技术两方面。数据科学家通常致力于构建模型并为业务提供解决方案。但是,企业可能不知道模型如何工作的复杂细节。

数据科学从业者将知道存在典型的模型可解释性与模型性能权衡。这里需要记住的一点是,模型性能不是运行或执行性能,而是模型在决策中的准确程度。有几种模型,包括简单的线性模型甚至是基于树的模型,它们可以很容易地解释模型为获得特定的洞察力或预测而做出的决策,但是你可能需要牺牲模型性能,因为它们总是不能产生最好的结果是由于高偏

差(线性模型)或高方差的固有问题,导致过度拟合(完全成长的树模型)。更复杂的模型,如集合模型和深度学习模型系列通常会产生更好的性能,但被认为是黑盒模型,因为很难解释模型如何真正做出决定。

理解模型可解释性

模型解释作为一个概念仍然主要是理论和主观的。任何机器学习模型的核心都有一个响应函数,它试图映射和解释独立(输入)自变量和(目标或响应)因变量之间的关系和模式。当模型预测或寻找见解时,需要做出某些决定和选择。模型解释试图理解和解释响应函数所做出的这些决定,即what,why以及how。模型解释的关键是透明度,质疑能力以及人类理解模型决策的难易程度。模型解释的三个最重要的方面解释如下。

是什么驱动了模型的预测?我们应该能够查询我们的模型并找出潜在的特征交互,以了解哪些特征在模型的决策策略中可能是重要的。这确保了模型的公平性。

为什么模型会做出某个决定?我们还应该能够验证并证明为什么某些关键特征在预测期间驱动模型所做出的某些决策时负有责任。这确保了模型的可靠性。我们如何信任模型预测?我们应该能够评估和验证任何数据点以及模型如何对其进行决策。对于模型按预期工作的关键利益相关者而言,这应该是可证明且易于理解的。这确保了模型的透明度。

在比较模型时,除了模型性能之外,如果模型的决策比其他模型的决策更容易理解,那么模型被认为比其他模型具有更好的可解释性。

可解释性的重要性

在解决机器学习问题时,数据科学家往往倾向于关注模型性能指标,如准确性,精确度和召回等等。这在大多数围绕数据科学和机器学习的在线竞赛中也很普遍。但是,指标只能说明模型预测决策的部分故事。随着时间的推移,由于环境中的各种因素导致的模型概念漂移,性能可能会发生变化。因此,了解推动模型采取某些决策的因素至关重要。

如果一个模型工作得很好,为什么还要深入挖掘呢?在解决现实世界中的数据科学问题时,为了让企业信任您的模型预测和决策,他们会不断提出“我为什么要相信您的模型?”这一问题,这一点非常有意义。如果一个人患有癌症或糖尿病,一个人可能对社会构成风险,或者即使客户会流失,您是否会对预测和做出决策(如果有的话)感到满意?也许不是,如果我们能够更多地了解模型的决策过程(原因和方式),我们可能会更喜欢它。这使我们更加透明地了解模型为何做出某些决策,在某些情况下可能出现的问题,并且随着时间的推移它有助于我们在这些机器学习模型上建立一定程度的信任。

了解预测背后的原因在评估信任方面非常重要,如果计划基于预测采取行动,或者选择是否部署新模型,那么这是至关重要的。无论人类是直接使用机器学习分类器作为工具,还是在其他产品中部署模型,仍然存在一个至关重要的问题:如果用户不信任模型或预测,他们就不会使用它。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

近日,财政部网站发布消息,经国务院批准,国务院关税税则委员会发布公告,2023年将调整部分商品的进出口关税。公告显示,自2023年1月1日起,我国将对1020项商品实施低于最惠国税率的进口暂定税率,其中提到在适用最惠国待...

关键字: 手术机器人 零关税 机器人

近日,深圳市爱博医疗机器人有限公司(简称:爱博医疗机器人)心脏介入PI葛均波院士团队核心成员利用爱博医疗机器人的泛血管介入手术机器人成功完成PCI检查和治疗的动物实验,此次动物实验主要包括机器人辅助经皮冠状动脉造影术和支...

关键字: 机器人辅助 泛血管介入机器人 手术机器人

如果说机器人是制造业的皇冠,那么医疗机器人就是皇冠顶上的明珠。与传统外科手术相比,手术机器人创口小、恢复快、更高的精确度进行更复杂的操作,无疑是外科手术的一次巨大革新。外科手术机器人最早出现于1985年,美国洛杉矶医院将...

关键字: 手术机器人公司 思哲睿 机器人

以下内容中,小编将对智能制造的相关内容进行着重介绍和阐述,希望本文能帮您增进对智能制造的了解,和小编一起来看看吧。

关键字: 智能制造 自动化 数字化

本文中,小编将对智能制造予以介绍,如果你想对它的详细情况有所认识,或者想要增进对它的了解程度,不妨请看以下内容哦。

关键字: 智能制造 机器人 人工智能

在这篇文章中,小编将为大家带来智能制造的相关报道。如果你对本文即将要讲解的内容存在一定兴趣,不妨继续往下阅读哦。

关键字: 智能制造 自动化 智能工厂

今天,小编将在这篇文章中为大家带来智能制造的有关报道,通过阅读这篇文章,大家可以对它具备清晰的认识,主要内容如下。

关键字: 智能制造 机器人 自动化

在这篇文章中,小编将为大家带来焊接机器人的相关报道。如果你对本文即将要讲解的内容存在一定兴趣,不妨继续往下阅读哦。

关键字: 焊接机器人 机器人 自动焊接机器人

相比工业机器人对制造业和仓储行业的显著推动作用,服务机器人对人类生活质量的提高才刚刚起步,其中医疗机器人对促进人类健康和医疗服务方面的作用日益凸显,目前机器人手术技术在医疗卫生领域中的应用正处于一个转折点,尤其是在远程诊...

关键字: 骨科机器人 手术机器人 远程诊疗

康复机器人是一种辅助人体完成肢体动作,实现康复治疗、康复护理等功能的医疗机器人,是工业机器人和医用机器人的结合。它的研究贯穿康复医学、生物力学、机械学、材料学、机器人学等诸多领域,已成为国际机器人领域的研究热点,在医疗领...

关键字: 医疗机器人 康复机器人 机器人

人工智能AI

11077 篇文章

关注

发布文章

编辑精选

技术子站

关闭