首页 > 应用 > 智能硬件
[导读]我们可以对神经网络架构进行优化,使之适配微控制器的内存和计算限制范围,并且不会影响精度。我们将在本文中解释和探讨深度可分离卷积神经网络在 Cortex-M 处理器上实现关键词识别的潜力。

我们可以对神经网络架构进行优化,使之适配微控制器的内存和计算限制范围,并且不会影响精度。我们将在本文中解释和探讨深度可分离卷积神经网络在 Cortex-M 处理器上实现关键词识别的潜力。

本文引用地址: http://www.21ic.com/app/computer/201801/751692.htm

关键词识别 (KWS) 对于在智能设备上实现基于语音的用户交互十分关键,需要实时响应和高精度,才能确保良好的用户体验。最近,神经网络已经成为 KWS 架构的热门选择,因为与传统的语音处理算法相比,神经网络的精度更胜一筹。

关键词识别神经网络管道

由于要保持“永远在线”,KWS 应用的功耗预算受到很大限制。虽然 KWS 应用也可在专用 DSP 或高性能 CPU 上运行,但更适合在 Arm Cortex-M 微控制器上运行,有助于最大限度地降低成本,Arm Cortex-M 微控制器经常在物联网边缘用于处理其他任务。

但是,要在基于 Cortex-M 的微控制器上部署基于神经网络的 KWS,我们面临着以下挑战:

1. 有限的内存空间

典型的 Cortex-M 系统最多提供几百 KB 的可用内存。这意味着,整个神经网络模型,包括输入/输出、权重和激活,都必须在这个很小的内存范围内运行。

2. 有限的计算资源

由于 KWS 要保持永远在线,这种实时性要求限制了每次神经网络推理的总运算数量。

以下是适用于 KWS 推理的典型神经网络架构:

· 深度神经网络 (DNN)

DNN 是标准的前馈神经网络,由全连接层和非线性激活层堆叠而成。

· 卷积神经网络 (CNN)

基于 DNN 的 KWS 的一大主要缺陷是无法为语音功能中的局域关联性、时域关联性、频域关联性建模。CNN 则可将输入时域和频域特征当作图像处理,并且在上面执行 2D 卷积运算,从而发现这种关联性。

· 循环神经网络 (RNN)

RNN 在很多序列建模任务中都展现出了出色的性能,特别是在语音识别、语言建模和翻译中。RNN 不仅能够发现输入信号之间的时域关系,还能使用“门控”机制来捕捉长时依赖关系。

· 卷积循环神经网络 (CRNN)

卷积循环神经网络是 CNN 和 RNN 的混合,可发现局部时间/空间关联性。CRNN 模型从卷积层开始,然后是 RNN,对信号进行编码,接下来是密集全连接层。

· 深度可分离卷积神经网络 (DS-CNN)

最近,深度可分离卷积神经网络被推荐为标准 3D 卷积运算的高效替代方案,并已用于实现计算机视觉的紧凑网络架构。

DS-CNN 首先使用独立的 2D 滤波,对输入特征图中的每个通道进行卷积计算,然后使用点态卷积(即 1x1),合并纵深维度中的输出。通过将标准 3D 卷积分解为 2D和后续的 1D,参数和运算的数量得以减少,从而使得更深和更宽的架构成为可能,甚至在资源受限的微控制器器件中也能运行。

在 Cortex-M 处理器上运行关键词识别时,内存占用和执行时间是两个最重要因素,在设计和优化用于该用途的神经网络时,应该考虑到这两大因素。以下所示的神经网络的三组限制分别针对小型、中型和大型 Cortex-M 系统,基于典型的 Cortex-M 系统配置。

KWS 模型的神经网络类别 (NN) 类别,假定每秒 10 次推理和 8 位权重/激活

要调节模型,使之不超出微控制器的内存和计算限制范围,必须执行超参数搜索。下表显示了神经网络架构及必须优化的相应超参数。

神经网络超参数搜索空间

首先执行特征提取和神经网络模型超参数的穷举搜索,然后执行手动选择以缩小搜索空间,这两者反复执行。下图总结了适用于每种神经网络架构的最佳性能模型及相应的内存要求和运算。DS-CNN 架构提供最高的精度,而且需要的内存和计算资源也低得多。

最佳神经网络模型中内存与运算/推理的关系

 

KWS 应用部署在基于 Cortex-M7 的 STM32F746G-DISCO 开发板上(如下图所示),使用包含 8 位权重和 8 位激活的 DNN 模型,KWS 在运行时每秒执行 10 次推理。每次推理(包括内存复制、MFCC 特征提取、DNN 执行)花费大约 12 毫秒。为了节省功耗,可让微控制器在余下时间处于等待中断 (WFI) 模式。整个 KWS 应用占用大约 70 KB 内存,包括大约 66 KB 用于权重、大约 1 KB 用于激活、大约 2 KB 用于音频 I/O 和 MFCC 特征。

Cortex-M7 开发板上的 KWS 部署

总而言之,Arm Cortex-M 处理器可以在关键词识别应用中达到很高的精度,同时通过调整网络架构来限制内存和计算需求。DS-CNN 架构提供最高的精度,而且需要的内存和计算资源也低得多。

换一批

延伸阅读

[新鲜事] 在太空中做手术有多难?止不住血就能要命...

在太空中做手术有多难?止不住血就能要命...

科莫罗夫斯基所说的,便是为外科手术执行麻醉的技术。在阅读了有关太空医学的文献之后,科莫罗夫斯基发现,这些技术可能要比原先预想的更为重要。在涉及到宇航员安全和健康的所有问题中,创伤性损伤是最令人担忧的问题之一,对太空任务有着最大的潜在影响,而......

关键字:太空 外科手术 宇航员

[新鲜事] 大部分人没法一直做技术,但转管理也需要规避四大陷阱

大部分人没法一直做技术,但转管理也需要规避四大陷阱

国内的技术环境先天性地决定了,随着年龄增长还能一直深耕技术的程序员非常少。大部分人在某些特定的时间节点前都面临着转管理岗的抉择。......

关键字:技术 管理

[趣科技] DNA也可以构成计算机?可在分子层面“编程”?

DNA也可以构成计算机?可在分子层面“编程”?

我们千篇一律地想象电子设备是用硅芯片制造的,其中计算机存储和处理用微小电荷表示的二进制零一数码信息。但是它并不一定要是这种方式:在硅的替代品中,有像DNA这样的有机介质。......

关键字:DNA 计算机

[新鲜事] 高通宣布推出全新 VR 头显参考设计

高通宣布推出全新 VR 头显参考设计

高通正在推出针对 VR 头显制造商的加速器程序,发布全新 VR 头显参考设计套件,并与手部追踪公司 Leap Motion 合作。这种参考设计,具有 Oculus Rift 或 HTC Vive 没有的功能,包括一体化无线设计,无需电缆或外......

关键字:高通 VR 头显

[猎聘集] 在 CTO 眼里,什么样的程序员是更值得信赖的?

在 CTO 眼里,什么样的程序员是更值得信赖的?

我的个人经验来看,互联网公司分为两种:一种是独角兽公司,另一种是创业公司。当你在创业公司的时候,公司给你的 title 可能不是太得到市场的认可,这就要求你和公司一起成长,当公司成为这一行业里面的独角兽的时候,你也同时会得到市场的认可。公司......

关键字:CTO 互联网公司 程序员

[新鲜事] 光线Wi-Fi:比现有技术快百倍的无线网络

光线Wi-Fi:比现有技术快百倍的无线网络

几乎每个人都体验过无线网速度慢产生的烦躁。家庭无线设备传输的数据越来越多,而且只会不断增长并导致无线网络拥堵。......

关键字:光线Wi-Fi 无线网络

[新鲜事] ARM处理器攻下微软Azure服务器 英特尔遭遇双重打击

ARM处理器攻下微软Azure服务器 英特尔遭遇双重打击

据报道,微软将在其Azure云服务服务器上使用ARM芯片,这可能威胁英特尔在数据中心处理器市场的长期主导地位。......

关键字:ARM处理器 Azure服务器
条评论

我 要 评 论

网友评论

技术子站

更多

项目外包

更多

推荐博客