当前位置:首页 > 芯闻号 > 充电吧
[导读]此前,华为正式推出了麒麟810芯片,这款芯片采用华为自研的达芬奇架构,其AI得分在苏黎世联邦理工学院推出的AI Benchmark榜单中位列前三。 华为在文章中同时表示,8月23日,采用达芬奇架构的A

此前,华为正式推出了麒麟810芯片,这款芯片采用华为自研的达芬奇架构,其AI得分在苏黎世联邦理工学院推出的AI Benchmark榜单中位列前三。

华为在文章中同时表示,8月23日,采用达芬奇架构的AI芯片Ascend910将正式商用发布,同时与之配套的新一代AI开源计算框架MindSpore也将同时亮相。

针对达芬奇框架,华为中国今天发文进行深度科普。以下则是华为对达芬奇框架的科普内容。

源起:为什么要做达芬奇架构?

华为预测,到2025年全球的智能终端数量将会达到400亿台,智能助理的普及率将达到90%,企业数据的使用率将达到86%。可以预见,在不久的将来,AI将作为一项通用技术极大地提高生产力,改变每个组织和每个行业。为了实现AI在多平台多场景之间的协同,华为设计达芬奇计算架构,在不同体积和功耗条件下提供强劲的AI算力。

初见:达芬奇架构的核心优势

达芬奇架构,是华为自研的面向AI计算特征的全新计算架构,具备高算力、高能效、灵活可裁剪的特性,是实现万物智能的重要基础。具体来说,达芬奇架构采用3D Cube针对矩阵运算做加速,大幅提升单位功耗下的AI算力,每个AI Core可以在一个时钟周期内实现4096个MAC操作,相比传统的CPU和GPU实现数量级的提升。

▲3D Cube

同时,为了提升AI计算的完备性和不同场景的计算效率,达芬奇架构还集成了向量、标量、硬件加速器等多种计算单元。同时支持多种精度计算,支撑训练和推理两种场景的数据精度要求,实现AI的全场景需求覆盖。

深耕:达芬奇架构的AI硬实力

科普1:常见的AI运算类型有哪些?

在了解达芬奇架构的技术之前,我们先来弄清楚一下几种AI运算数据对象:

标量(Scalar):由单独一个数组成

向量(Vector):由一组一维有序数组成,每个数由一个索引(index)标识

矩阵(Matrix):由一组二维有序数组成,每个数由两个索引(index)标识

张量(Tensor):由一组n维有序数组成,每个数由n个索引(index)标识

其中,AI计算的核心是矩阵乘法运算,计算时由左矩阵的一行和右矩阵的一列相乘,每个元素相乘之后的和输出到结果矩阵。在此计算过程中,标量(Scalar)、向量(Vector)、矩阵(Matrix)算力密度依次增加,对硬件的AI运算能力不断提出更高要求。

典型的神经网络模型计算量都非常大,这其中99%的计算都需要用到矩阵乘,也就是说,如果提高矩阵乘的运算效率,就能最大程度上提升AI算力—;—;这也是达芬奇架构设计的核心:以最小的计算代价增加矩阵乘的算力,实现更高的AI能效。

科普2:各单元角色分工揭秘,Da Vinci Core是如何实现高效AI计算的?

在2018年全联接大会上,华为推出AI芯片Ascend 310(昇腾310),这是达芬奇架构的首次亮相,Ascend 310相当于AI芯片中的NPU。

其中,Da Vinci Core只是NPU的一个部分,Da Vinci Core内部还细分成很多单元,包括核心的3D Cube、Vector向量计算单元、Scalar标量计算单元等,它们各自负责不同的运算任务实现并行化计算模型,共同保障AI计算的高效处理。

3D Cube矩阵乘法单元是AI计算的核心,这部分运算由3D Cube完成,Buffer L0A、L0B、L0C则用于存储输入矩阵和输出矩阵数据,负责向Cube计算单元输送数据和存放计算结果。

虽然Cube的算力很强大,但只能完成矩阵乘运算,还有很多计算类型要依靠Vector向量计算单元来完成。Vector的指令相对来说非常丰富,可以覆盖各种基本的计算类型和许多定制的计算类型。

Scalar标量运算单元主要负责AI Core的标量运算,功能上可以看作一个小CPU,完成整个程序的循环控制,分支判断,Cube、Vector等指令的地址和参数计算以及基本的算术运算等。

科普3:3D Cube计算方式的独特优势是什么?

不同于以往的标量、矢量运算模式,华为达芬奇架构以高性能3D Cube计算引擎为基础,针对矩阵运算进行加速,大幅提高单位面积下的AI算力,充分激发端侧AI的运算潜能。以两个N*N的矩阵A*B乘法为例:如果是N个1D的MAC,需要N2的cycle数;如果是1个N2的2D MAC阵列,需要N个Cycle;如果是1个N维3D的Cube,只需要1个Cycle。

▲图中计算单元的数量只是示意,实际可灵活设计

达芬奇架构将大幅提升算力,16*16*16的3D Cube能够显著提升数据利用率,缩短运算周期,实现更快更强的AI运算。举例来说,同样是完成4096次运算,2D结构需要64行*64列才能计算,3D Cube只需要16*16*16的结构就能算出。其中,64*64结构带来的问题是:运算周期长、时延高、利用率低。

达芬奇架构的这一特性也体现在麒麟810上。作为首款采用达芬奇架构NPU的手机SoC芯片,麒麟810实现强劲的AI算力,在单位面积上实现最佳能效,FP16精度和INT8量化精度业界领先。

麒麟810支持自研中间算子格式IR开放,算子数量多达240+,处于业内领先水平。更多算子、开源框架的支持以及提供更加完备的工具链将助力开发者快速转换集成基于不同AI框架开发出的模型,极大地增强了华为HiAI移动计算平台的兼容性、易用性,提高开发者的效率,节约时间成本,加速更多AI应用的落地。

预见:达芬奇架构解锁AI无限可能

基于灵活可扩展的特性,达芬奇架构能够满足端侧、边缘侧及云端的应用场景,可用于小到几十毫瓦,大到几百瓦的训练场景,横跨全场景提供最优算力。

以Ascend芯片为例,Ascend-Nano可以用于耳机电话等IoT设备的使用场景;Ascend-Tiny和Ascend-Lite用于智能手机的AI运算处理;在笔记本电脑等算力需求更高的便携设备上,由Ascend 310(Ascend-Mini)提供算力支持;而边缘侧服务器上则需要由Multi-Ascend 310完成AI计算;至于超复杂的云端数据运算处理,则交由算力最高可达256 TFLOPS@FP16的Ascend 910(Ascend-Max)来完成。正是由于达芬奇架构灵活可裁剪、高能效的特性,才能实现对上述多种复杂场景的AI运算处理。

同时,选择开发统一架构也是一个非常关键的决策。统一架构优势很明显,那就是对广大开发者非常利好。基于达芬奇架构的统一性,开发者在面对云端、边缘侧、端侧等全场景应用开发时,只需要进行一次算子开发和调试,就可以应用于不同平台,大幅降低了迁移成本。不仅开发平台语言统一,训练和推理框架也是统一的,开发者可以将大量训练模型放在本地和云端服务器,再将轻量级的推理工作放在移动端设备上,获得一致的开发体验。

在算力和技术得到突破性提升后,AI将广泛应用于智慧城市、自动驾驶、智慧新零售、机器人、工业制造、云计算AI服务等场景。未来,AI将应用更加广泛的领域,并逐渐覆盖至生活的方方面面。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

3月29日消息,市场研究机构Counterpoint Research发布的报告显示,预计今年高端手机(600-799美元)出货量将同比增长17%,而这主要是靠苹果和华为的拉动。

关键字: 华为 12nm EDA 半导体

近日从国家知识产权局官网获悉,华为技术有限公司公布了一项名为“一种光模块、光通信设备及光通信系统“的专利,公开号CN117767976A。专利摘要显示,本申请涉及光通信技术领域,尤其涉及一种光模块、光通信设备及光通信系统...

关键字: 华为 光通信 专利

正随着科技的迅猛发展,操作系统作为智能设备的核心,其更新换代已成为推动行业前进的关键动力之一。华为在这场革新的浪潮中推出了自己的操作系统——鸿蒙(HarmonyOS)。自诞生之日起,鸿蒙系统便以其独特的分布式架构和全场景...

关键字: 鸿蒙系统 华为 安卓

在移动处理器的世界中,华为的麒麟系列和高通的骁龙系列无疑是两个响亮的名字。它们代表了当今智能手机中最先进的技术成就,也是消费者在选择手机时重点考虑的性能指标之一。本文将深入探讨麒麟950处理器的技术规格、性能特点,并以此...

关键字: 麒麟950 高通骁龙 华为 安卓

业内消息,近日被视为华为芯片“奠基人”的原海思总裁徐文伟近日在朋友圈宣布正式退休。徐文伟发文表示,自己在 33 年内,见证了一个伟大企业的发展和壮大。

关键字: 华为 芯片 海思 徐文伟

3月26日消息,零跑汽车董事长朱江明近日透露了与华为合作的最新进展。

关键字: 华为 12nm 手机 卫星通信

3月24日消息,今天数码博主“厂长是关同学”曝光了华为Mate 70系列手机的部分配置信息。

关键字: 华为 12nm EDA 半导体

近日有媒体透露,华为去年三季度开售的 Mate60 系列已经停产。作为华为最新的旗舰机型,该系列停产可能预示着继任者即将到来。与此同时有数码博主称,停产 Mate60 系列是准备将精力转向发布即将推出的 P70 系列旗舰...

关键字: 华为 Mate60 P70

在当前的智能手机市场,操作系统无疑是手机性能的基石,决定了用户体验的优劣。鸿蒙系统,作为华为自主研发的操作系统,自诞生以来便引起了广泛关注。随着鸿蒙系统的不断成熟和完善,越来越多的用户开始关心哪些手机可以升级鸿蒙系统。本...

关键字: 鸿蒙系统 华为 荣耀

随着科技的飞速发展和智能手机市场的不断演变,操作系统作为手机的核心组成部分,其升级与替换一直备受关注。近期,华为推出了自主研发的鸿蒙系统,并陆续在其部分手机型号上进行升级。这一变化引发了广泛讨论:华为升级鸿蒙后,用户是否...

关键字: 华为 鸿蒙OS 安卓
关闭
关闭