当前位置:首页 > 半导体 > 半导体
[导读]目前,深度神经网络技术已经成为人工智能领域的代表性算法,基于深度神经网络技术的字符识别、图像分类或语音识别等关键技术,已经广泛应用于搜索引擎和智能手机等产品中。

目前,深度神经网络技术已经成为人工智能领域的代表性算法,基于深度神经网络技术的字符识别、图像分类或语音识别等关键技术,已经广泛应用于搜索引擎和智能手机等产品中。

其中,当前最为有效且应用最为广泛的神经网络算法是卷积神经网络算法,简称“卷积运算”。在现有技术中,CNN算法的核心计算单元是乘加运算,乘法累加器阵列常用于矩阵乘法运算,而卷积运算可以转换为矩阵乘法运算。

因此业界广泛采用MAC(乘累加器)阵列为计算核心的专用加速硬件,例如:现场可编程门阵列(FPGA)、专用集成电路(ASIC)等,以加速卷积运算的运算速度。

但是目前卷积计算也存在着一些问题,一方面,当MAC阵列中存在多个卷积窗口同时进行卷积运算时,这些卷积窗口分布在MAC阵列中的不同位置,使得MAC阵列的利用率非常低。另一方面,存在大量重复数据被从RAM输入到MAC阵列,这样会增加RAM的访问次数。

为了解决这样的问题,华为发明了将CPU、RAM和卷积运算芯片集成在同一数据总线上的AI芯片,2016年12月29日,华为发明了一项名为“卷积运算芯片和通信设备”的发明专利(申请号:201611243272.X),申请人为华为机器有限公司。

根据该专利目前公开的资料,让我们一起来看看华为的这项新架构AI芯片吧。

如上图,为该专利中发明的硬件设备的示意性框架图,硬件架构中包括中央处理器100、双倍速率同步动态随机存储器(DDR SDRAM)200以及卷积运算芯片300。CPU用来控制卷积运算芯片启动卷积运算,DDR SDRAM用于向卷积运算芯片的数据缓存模块输入多个卷积数据和多个卷积参数,然后卷积运算芯片根据这些数据来完成卷积运算。

当得到运算结果后,就会将运算结果写回到DDR SDRAM事先设定好的内存地址中,并同时通知CPU完成运算,以从内存地址中提取结果数据。

如上图,为上面框架中的卷积运算芯片的结构示意图,这种卷积运算芯片包括数据缓存模块310、M*N乘法累加器阵列320、输出控制模块330和阵列控制模块340。

数据缓存模块用于向乘法累加器中的第一乘法累加窗口传输用于卷积运算的多个卷积数据和卷积参数,卷积参数由数据缓存模块根据第一卷积参数矩阵确定,而该控制器也是通过在运算器内集成这样的数据缓存器,从而减少了RAM的访问次数,进而减少了RAM的访问压力。

其中M*N乘法累加器是该运算芯片的核心运算部件,而这种M*N的结构设计方式也是为了进行卷积运算而特意设计的,其具体结构如下图所示。

可以看到,这种乘法累加器包括M*N个处理单元,并且每两行的处理单元之间还存在斜向的数据传输通道,这相比于传统的矩阵式数据传输通道,具有更加灵活的数据传输方式,可以更好的适用于AI芯片进行多种类型的运算。

第一乘法累加窗口可以将数据进行乘法运算,并接着进行加法运算以获得卷积结果,最后由输出控制模块输出卷积神经网络的运算结果,进而完成AI芯片中的任务。

在该专利中,为了尽可能地提高MAC阵列的利用率以及卷积运算效率,阵列控制模块会根据第一卷积参数矩阵的行数和第一卷积数据阵列的行数来确定第一乘法累加窗口的列数。

华为发明的卷积运算芯片,这种卷积运算芯片能够在提高阵列资源利用率的同时降低RAM访问次数,进而减小RAM的访问压力。例如华为发明的昇腾AI芯片也正是基于这样的技术之上,才能实现极高的算力,不管多么复杂的模型都可以轻松训练,且实现极低的功耗。

换一批

延伸阅读

[网络层] 华为正式定义5.5G网络

华为正式定义5.5G网络

一提到华为,相信很多人第一时间想到的便是5G。华为的5G技术在世界上都处于领先地位。前段时间,华为提出了5.5G概念。 今年,我们正式进入5G普及元年,从去年高端旗舰产品已经下探到百元价位,最快明年千元机及以上市场将全面普...

关键字: 华为 5.5G 网络

[网络层] 华为提出5.5G概念,让世界变得更加智能

华为提出5.5G概念,让世界变得更加智能

就在去年,我国5G就正式进入了商用元年。没想到才过了一年多的时间华为就提出了5.5G概念。5.5G让世界变得更加智能。 2020全球移动宽带论坛(Global MBB Forum)期间,华为常务董事汪涛发表了题为“定义5.5G,...

关键字: 智能 华为 5.5G

[OFweek维科网] 华为入股润华全芯微电子,投资17家芯片企业

半导体可以说是华为卡脖子的关键领域,这两年来华为已经加大了对半导体产业链的投资,日前华为又入股了宁波润华全芯微电子,这是华为一年来投资的第17家半导体公司。 据企查查信息,11月23日,宁波润华全芯微电子设备有限公...

关键字: 半导体 华为

[网络层] 中国在5G领域领跑全球

中国在5G领域领跑全球

作为一个中国人,一谈到5G都会感到十分的自豪。中国的5G技术在全世界处于领先水平。美国为了抑制我国5G的发展,采用了许多下三流手段打压华为。 5G 是目前全球各个国家正积极普及的网络技术,而在 5G 建设方面,现在我国已实现了 5...

关键字: 系统 5G 华为

[网络层] 美国成立6G联盟欲超越华为?

美国成立6G联盟欲超越华为?

近几年来,随着华为在5G技术领域得到了大量的成就,美国感到了压力便采取许多无理的手段打压华为。意图阻碍我国5G技术的发展。 科技能够强国,这句话不是没有事理的,一个国度若在科技平台当先的话,就相配于活着界的舞台上控制了这项...

关键字: 科技 6G 华为

半导体

31582 篇文章

关注

发布文章

技术子站

关闭