当前位置:首页 > 智能硬件 > 人工智能AI
[导读] (文章来源:教育新闻网) 在此特别的来宾功能中,Zest AI的CTO Jay Budzik讨论了Google推出的开发人员工具集,这些工具可让数据科学家创建可解释的ML模型,以及这些新

(文章来源:教育新闻网)

在此特别的来宾功能中,Zest AI的CTO Jay Budzik讨论了Google推出的开发人员工具集,这些工具可让数据科学家创建可解释的ML模型,以及这些新工具的现实性以及它们如何影响财务服务市场。Zest AI是一家软件公司,可帮助银行和贷方建立,运行和监视完全可解释的机器学习承销模型。作为首席技术官,Jay负责Zest的产品和工程团队。他对发明新技术(尤其是在数据挖掘和AI中)的热情在他的整个职业生涯中发挥了核心作用。周杰伦拥有博士学位西北大学计算机科学专业。

算法模型因为容易受到不公平偏见的黑匣子而受到不好的说唱。如果您有正确的工具来解释他们的决定,他们就不是。

这就是为什么Google的新的基于云的可解释AI(XAI)工具套件为希望采用AI的公司朝正确方向迈出了一步。这些工具可以解密和捍卫特定数据因素如何促进在复杂神经网络之上构建的机器学习(ML)模型的输出。虽然Google XAI应该引起人们的关注并帮助消除一些ML神话,但它可能不会刺激所有公司的采用,特别是需要完全可解释的承销模式来决定谁可以借款,谁不能借款的金融服务公司。

首先,Google的工具(目前处于测试版)要求客户在Google Cloud中构建和实施其模型。但是大多数公司都需要可在任何云环境或本地服务器上使用的可解释性工具。

其次,Google XAI不够灵活,无法容纳更强大的模型。像其他可解释性工具一样,Google植根于复杂的数学原理,包括Aumann-Shapley方法的一种版本,该方法使用一系列箔纸(称为“反事实”)来完善算法的输出。谷歌云AI部门负责人安德鲁·摩尔(Andrew Moore)上个月在伦敦的英国广播公司(BBC)上描述了这一过程:“例如,神经网络问自己,'我当时无法看待走进来的人的衬衫颜色商店。那会改变我对他们走路速度有多快的估计吗?”通过进行许多反事实,它逐渐建立了一张关于它是什么以及在进行预测时没有注意的图片。”

尽管听起来很引人注目,但Google XAI不适用于所谓的集成模型,该模型使用多种或竞争性技术将多个模型编织在一起。“汇总”提高了AI信用评分的预测能力-假设可以检查集体系统以评估决策的制定方式-并且在接下来的几年中,随着贷方接受ML,它将成为标准。目前,Google对基于树的模型以及树和神经网络的集成提供了有限的支持。

第三,虽然Google AI“假设分析”工具非常聪明,并且可以让建模人员一目了然地测试不同的场景,但Google的用户界面可能很难使用。开发人员将必须学习特定的编码语言和配置约定以访问可解释性功能。

最后,Google的可解释性软件包主要针对数据科学家,而不是为受严格监管的金融服务公司工作的信用分析师。从理论上讲,银行的数据科学家可以使用Google的工具建立模型。但是这些人将需要构建其他工具来测试其模型的准确性和公平性,并生成监管机构要求的所有合规报告。
     

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

随着人工智能(AI)模型变得越来越复杂,数据量不断攀升,数据中心正在通过改变系统架构,来实现更快、更高效的处理。

关键字: AI 连接器

近日举办的GTC大会把人工智能/机器学习(AI/ML)领域中的算力比拼又带到了一个新的高度,这不只是说明了通用图形处理器(GPGPU)时代的来临,而是包括GPU、FPGA和NPU等一众数据处理加速器时代的来临,就像GPU...

关键字: FPGA AI 图形处理器

西门子作为制造业数字化转型成功的代表企业之一,面对生产、服务与业务增长等挑战,积极拥抱AI、自动化等新兴技术,优化企业业务流程,打造企业数字化技术新基座,开拓出更多业务转型思路。

关键字: 自动化 AI 数字化

2024年3月20日,2024中国闪存市场峰会(CFMS2024)在深圳宝安前海·JW万豪酒店盛大举办。本次峰会以“存储周期、激发潜能”为主题,共同探讨在供需关系依然充满挑战的大环境下,未来存储市场的变化,以及如何挖掘产...

关键字: SSD 存储 AI

随着科技日新月异的进步,语音识别技术已成为人工智能领域的一项核心突破。这项技术旨在模拟人类听觉系统,通过复杂算法和模式识别手段将连续或离散的语音信号转换为可理解的文本或指令信息。本文深入探讨了语音识别技术在多个领域的广泛...

关键字: 语音识别 人工智能

随着人工智能和信息技术的飞速发展,语音识别技术已经从实验室走向了现实生活中的各个角落,成为人机交互领域的重要组成部分。语音识别产品不仅丰富了我们的日常生活,也正在深刻地改变着众多行业的工作模式和服务形态。

关键字: 语音识别 人工智能

近日,胡润研究院发布《2024家大业大酒·胡润全球富豪榜》。70岁的钟睒睒财富比去年缩水9%,以4500亿元连续第四次成为中国首富,位于全球第21位,同比下降6位。44岁的黄峥财富比去年增长71%,即1600亿元,是今年...

关键字: 钟睒睒 AI

在当今大数据和人工智能时代,机器学习作为核心的技术驱动力,正以前所未有的速度改变着我们的生活和工作方式。从基础的数据分析到复杂的决策支持系统,机器学习模型的成功构建和应用离不开一套严谨的流程。本文将详尽阐述机器学习过程中...

关键字: 机器学习 人工智能

机器学习作为人工智能领域的核心技术,其应用日益广泛,从搜索引擎优化到医疗诊断,从金融风控到自动驾驶等众多领域均发挥着重要作用。深入理解并掌握机器学习的关键步骤是成功构建高效模型和解决方案的基础。本文将详细阐述机器学习的主...

关键字: 机器学习 人工智能
关闭
关闭