网红CNN技术也要玩移动端了 但没有专门DSP可不行

网红级别的CNN（卷积神经网络技术）已经开始应用在车载、监控安防、无人机和移动/可穿戴设备中，以提升这些设备的图像识别能力。传统的解决方案是由图像DSP加硬件加速器来完成，但效率低下且耗能较高，新的技术因此呼之欲出。

近日，Cadence公司正式公布业界首款独立完整的神经网络DSP —Cadence®Tensilica® Vision C5 DSP，面向对神经网络计算能力有极高要求的视觉设备、雷达／光学雷达和融合传感器等应用量身优化，可以胜任目前的CNN计算任务。

CNN是两位科学家在上世纪60年代研究猫大脑时所提出的概念，经过多年演化，已经进入了实用领域。去年人机大战的胜者阿法狗就是CNN结合深度学习的产物。目前，CNN正以“令人难以置信”的速度飞快演进。“不仅每隔几个月就会诞生新的神经网络算法，而且在2012-2015年这短短的3年时间内，神经网络算法的复杂度也增加了16倍，远远超过摩尔定律的发展速度”，Cadence公司Tensilica事业部市场高级总监Steve Roddy说。

CNN 的应用领域非常广泛，主要包括图像和模式识别、语音识别、自然语言处理，以及视频分析。从智能手机到智能手表，从高级驾驶辅助系统（ADAS）到虚拟现实游戏机，再到无人机控制和安防设备，依赖高分辨率成像（1080p，4K，甚至更高）的应用领域正在快速发展。

通用CPU/GPU是CNN主流的应用平台，不过这种方法更适合于数据中心。Steve Roddy认为，CPU/GPU有强大的计算能力，但是功耗、体积都限制了它们在移动端的应用。还有重要的一点，前方采集的数据回传到数据中心是需要时间的，这就影响了应用端面对复杂情况的处理能力。

就像Google开发自己的TPU一样，前端设备也需要自己的专用处理器，这也是Vision C5 DSP诞生的原因。我们来看看这颗处理器的能力：
• 不到1mm2的芯片面积可以实现1TMAC／秒的计算能力（吞吐量较Vision P6 DSP提高4倍），为深度学习内核提供极高的计算吞吐量；
• 1024 8-bit MAC或512 16-bit MAC 确保8-bit 和16-bit精度的出色性能；
• 128路8-bit SIMD或64路16-bit SIMD的VLIW SIMD架构；
• 专为多核设计打造，以极少的资源代价获得NxTMAC的处理能力；
• 内置iDMA和AXI4总线接口；
• 使用与Vision P5和P6 DSP一致的经验证软件工具包；
基于业界知名的AlexNet CNNBenchmark，Vision C5 DSP的计算速度较业界的GPU最快提高6倍；Inception V3 CNN benchmark，有9倍的性能提升。

下面这张图比较了Vision C5 DSP与其他几种方案的特点。从图中可以看出，在易于开发、能效、升级空间和单核运算能力方面，Vision C5 DSP都处于绝对的优势。

Steve Roddy指出，通用CPU/GPU加硬件加速器有一个重大的弊病。那就是，通用CPU/GPU与硬件加速器执行CNN运算时会进行海量数据传输，这样不但会占用相当的资源，并且会带来惊人的能耗。
另外，硬件加速器属于ASIC，从设计到投产会有很长时间，完全赶不上技术发展的速度，Steve Roddy补充。

以基于摄像头的视觉系统为例，目前此类系统在汽车、无人机和安防领域最为常见。这种架构需要两种最基础的视觉优化计算模式：首先，利用传统视觉算法对摄像头捕捉到的照片或图像进行增强；其次，使用基于神经网络的认知算法对物体进行检测和识别。现有的神经网络加速器解决方案皆依赖与图像DSP连接的硬件加速器，神经网络代码被分为两部分，一部分网络层运行在DSP上，卷积层则运行在硬件加速器上，直接导致架构效率低下，且耗能较高。

Vision C5 DSP是专门针对神经网络进行了特定优化的DSP，可以实现全神经网络层的计算加速(卷积层、全连接层、池化层和归一化层)，而不仅仅是卷积层的加速。因此，主视觉/图像DSP能力得以释放，独立运行图像增强应用，Vision C5 DSP则负责执行神经网络任务。通过移除神经网络DSP和主视觉/图像DSP之间的冗余数据传输，Vision C5 DSP的功耗远低于现有的神经网络加速器。同时，Vision C5 DSP还提供针对神经网络的单核编程模型。

Steve Roddy表示，Vision C5 DSP是一款灵活前瞻的永不过时（future-proof）解决方案，支持各类内核尺寸、深度和输入规格。Vision C5 DSP采用多项系数压缩／解压技术，支持未来添加的新计算层。与之相反，CNN硬件加速器由于程序重编能力有限，扩展能力较差。

据悉，目前已有客户正在利用C5 DSP核心开发下一代支持神经网络算法的SoC芯片。第一颗内建VISION C5 DSP 内核的SoC产品会在2018年量产出货。