当前位置:首页 > 智能硬件 > 人工智能AI
[导读]可解释性是指人类能够理解决策原因的程度。机器学习模型的可解释性越高,人们就越容易理解为什么做出某些决定或预测。模型可解释性指对模型内部机制的理解以及对模型结果的理解。其重要性体现在:建模阶段,辅助开发人员理解模型,进行模型的对比选择,必要时优化调整模型;在投入运行阶段,向业务方解释模型的内部机制,对模型结果进行解释。比如基金推荐模型,需要解释:为何为这个用户推荐某支基金。

可解释性是指人类能够理解决策原因的程度。机器学习模型的可解释性越高,人们就越容易理解为什么做出某些决定或预测。模型可解释性指对模型内部机制的理解以及对模型结果的理解。其重要性体现在:建模阶段,辅助开发人员理解模型,进行模型的对比选择,必要时优化调整模型;在投入运行阶段,向业务方解释模型的内部机制,对模型结果进行解释。比如基金推荐模型,需要解释:为何为这个用户推荐某支基金。

机器学习流程步骤:收集数据、清洗数据、训练模型、基于验证或测试错误或其他评价指标选择最好的模型。第一步,选择比较小的错误率和比较高的准确率的高精度的模型。第二步,面临准确率和模型复杂度之间的权衡,但一个模型越复杂就越难以解释。一个简单的线性回归非常好解释,因为它只考虑了自变量与因变量之间的线性相关关系,但是也正因为如此,它无法处理更复杂的关系,模型在测试集上的预测精度也更有可能比较低。而深度神经网络处于另一个极端,因为它们能够在多个层次进行抽象推断,所以他们可以处理因变量与自变量之间非常复杂的关系,并且达到非常高的精度。但是这种复杂性也使模型成为黑箱,我们无法获知所有产生模型预测结果的这些特征之间的关系,所以我们只能用准确率、错误率这样的评价标准来代替,来评估模型的可信性。事实上,每个分类问题的机器学习流程中都应该包括模型理解和模型解释,原因如下:

模型改进:

理解指标特征、分类、预测,进而理解为什么一个机器学习模型会做出这样的决定、什么特征在决定中起最重要作用,能让我们判断模型是否符合常理。一个深度的神经网络来学习区分狼和哈士奇的图像。模型使用大量图像训练,并使用另外的一些图像进行测试。90%的图像被准确预测,这值得我们高兴。但是在没有计算解释函数(explainer function)时,我们不知道该模型主要基于背景:狼图像通常有一个下雪的背景,而哈士奇的图像很少有。所以我们不知不觉地做了一个雪地探测器,如果只看准

确率这样的指标,我们就不会看到这一点。知道了模型是如何使用特征进行预测的,我们就能直觉地判断我们的模型是否抓住了有意义的特征,模型是或否能泛化到其他样本的预测上。

模型可信性与透明度:

理解机器学习模型在提高模型可信度和提供审视预测结果透明度上是非常必要的,让黑箱模型来决定人们的生活是不现实的,比如贷款和监狱刑法。另一个对机器学习结果可信度提出质疑的领域是药品,模型结果会直接决定病人的生与死。机器学习模型在区分恶性肿瘤和不同类型的良性肿瘤方面是非常准确的,但是我们依然需要专家对诊断结果进行解释,解释为什么一个机器学习模型将某个患者的肿瘤归类为良性或恶性将大大帮助医生信任和使用机器学习模型来支持他们工作。长久来看,更好地理解机器学习模型可以节省大量时间、防止收入损失。如果一个模型没有做出合理的决定,在应用这个模型并造成不良影响之前,我们就可以发现这一点。

识别和防止偏差:

方差和偏差是机器学习中广泛讨论的话题。有偏差的模型经常由有偏见的事实导致,如果数据包含微妙的偏差,模型就会学习下来并认为拟合很好。一个有名的例子是,用机器学习模型来为囚犯建议定罪量刑,这显然反映了司法体系在种族不平等上的内在偏差。其他例子比如用于招聘的机器学习模型,揭示了在特定职位上的性别偏差,比如男性软件工程师和女性护士。机器学习模型在我们生活的各个层面上都是强有力的工具,而且它也会变得越来越流行。所以作为数据科学家和决策制定者来说,理解训练和发布的模型如何做出决策,从而可以事先预防偏差的增大以及消除它们。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

近日,财政部网站发布消息,经国务院批准,国务院关税税则委员会发布公告,2023年将调整部分商品的进出口关税。公告显示,自2023年1月1日起,我国将对1020项商品实施低于最惠国税率的进口暂定税率,其中提到在适用最惠国待...

关键字: 手术机器人 零关税 机器人

近日,深圳市爱博医疗机器人有限公司(简称:爱博医疗机器人)心脏介入PI葛均波院士团队核心成员利用爱博医疗机器人的泛血管介入手术机器人成功完成PCI检查和治疗的动物实验,此次动物实验主要包括机器人辅助经皮冠状动脉造影术和支...

关键字: 机器人辅助 泛血管介入机器人 手术机器人

如果说机器人是制造业的皇冠,那么医疗机器人就是皇冠顶上的明珠。与传统外科手术相比,手术机器人创口小、恢复快、更高的精确度进行更复杂的操作,无疑是外科手术的一次巨大革新。外科手术机器人最早出现于1985年,美国洛杉矶医院将...

关键字: 手术机器人公司 思哲睿 机器人

以下内容中,小编将对智能制造的相关内容进行着重介绍和阐述,希望本文能帮您增进对智能制造的了解,和小编一起来看看吧。

关键字: 智能制造 自动化 数字化

本文中,小编将对智能制造予以介绍,如果你想对它的详细情况有所认识,或者想要增进对它的了解程度,不妨请看以下内容哦。

关键字: 智能制造 机器人 人工智能

在这篇文章中,小编将为大家带来智能制造的相关报道。如果你对本文即将要讲解的内容存在一定兴趣,不妨继续往下阅读哦。

关键字: 智能制造 自动化 智能工厂

今天,小编将在这篇文章中为大家带来智能制造的有关报道,通过阅读这篇文章,大家可以对它具备清晰的认识,主要内容如下。

关键字: 智能制造 机器人 自动化

在这篇文章中,小编将为大家带来焊接机器人的相关报道。如果你对本文即将要讲解的内容存在一定兴趣,不妨继续往下阅读哦。

关键字: 焊接机器人 机器人 自动焊接机器人

相比工业机器人对制造业和仓储行业的显著推动作用,服务机器人对人类生活质量的提高才刚刚起步,其中医疗机器人对促进人类健康和医疗服务方面的作用日益凸显,目前机器人手术技术在医疗卫生领域中的应用正处于一个转折点,尤其是在远程诊...

关键字: 骨科机器人 手术机器人 远程诊疗

康复机器人是一种辅助人体完成肢体动作,实现康复治疗、康复护理等功能的医疗机器人,是工业机器人和医用机器人的结合。它的研究贯穿康复医学、生物力学、机械学、材料学、机器人学等诸多领域,已成为国际机器人领域的研究热点,在医疗领...

关键字: 医疗机器人 康复机器人 机器人

人工智能AI

11077 篇文章

关注

发布文章

编辑精选

技术子站

关闭