英特尔力推计算机视觉开发工具 加速AI在终端装置的应用

AI人工智能是现下最热门的产业议题。然而，当人们专注于讨论深度学习算法、云端资料中心等技术之际，终端装置的实际AI应用却仍付之阙如，业者对于着手导入AI应用也显得裹足不前。为了加速AI在终端装置的普及运用，英特尔日前推出了两款计算机视觉软件开发工具(SDK)，能够把视觉辨识深度学习应用快速地带到电池供电装置以及现有广大的x86架构PC/IPC产品上，将能带动多样化的创新应用，并使更多业者获益于这波的AI革命。

英特尔业务营销事业群企业解决方案协理郑智成表示，AI技术其实已有近60年的发展历程，这波热潮的兴起，主要归因于深度学习算法的突破，以及大数据与运算能力的提升，让资料的处理成本大幅降低。此外，Caffe、TensorFlow、CNTK、MXNet等Framework的就绪与开放，亦是重要关键，让更多人都能使用这项技术。

「但是，综观目前的产业现况，讨论Caffe、TensorFlow的人很多，但实际应用却才正在起步的阶段，这是因为缺乏相关工具，能把在这些Framework上训练好的模型实际付诸应用。」他强调。

因此，除了多款芯片之外，英特尔亦开发多款程序库与平台，让这些Framework能够取得更好的效能。其中，英特尔提供两个重要的SDK，一个是计算机视觉CV SDK(Intel Computer Vision SDK)，另一个是Intel Movidius MDK，作为英特尔硬件芯片与深度学习实际应用的介接，支持各种Framework训练好的模型，因此能把推论功能快速带到闸道器或终端装置上。

Movidius处理器功率最低仅1瓦，可应用在电池供电的装置。例如大疆无人机DJI-Spark就是采用英特尔的Movidius Myriad 2视觉处理器以及在业界知名的框架上训练好的模型，能实现障碍物闪避、人脸与手势辨识功能。此外，新款Google Clips迷你AI相机，也是内含Intel Movidius Myriad 2视觉处理器，可直接于相机终端进行实时AI与机器学习运算，提高图象辨识与处理效能，在离线情况下也能随时捕捉生活中的精彩瞬间并编辑影像。

针对需持续供电的装置，则可利用CV SDK，把训练好的模型实际付诸应用。例如，英特尔与亚马逊合作的DeepLens为首款可编程的深度学习无线摄影机，内含Intel Atom X5处理器、Intel深度学习软件工具，及Intel深度神经网络Compute Library，能在摄影机终端上实时运行计算机视觉模型，支持云端环境中的AI模型训练与导入，可降低成本与实时回应，帮助开发者设计出更多AI与机器学习的创新应用。

郑智成表示，CV SDK的重要意义在于，它可支持Skylake架构以后的多款处理器，包括PenTIum以及FPGA加速器。也就是说，现有广大的个人计算机、工业计算机、摄影机等各种产品，无须再采用特别的深度学习芯片，便能把云端训练好的模型转换为实际运用，让AI视觉辨识应用能够真正落实在各种装置上，而不再是遥远的空谈。

在今年获得Google、亚马逊等指标性大厂的采用后，英特尔对于推动AI边缘运算市场更是显得信心十足。此外，在语音辨识方面，英特尔也已开发了GNA芯片(Gaussian mixture model and neural network accelerator)与SDK，同样能以低功耗特性，将现今最热门的智能语音功能带到非常低功耗的装置，目前正寻求主要客户的采用。

郑智成表示，把AI推论功能带到终端装置势必会带动风潮，成为新一波AI运用的重点。这将推动AI在各行各业的普及使用，特别是对台湾业者来说，随著各种Framework的开放，业界已无需再投入巨额的成本与时间，从零开始来开发自己的算法以及建置复杂的硬件架构来训练神经网络。台湾业者更应加紧脚步，考虑如何利用这些现有资源与工具，加速导入实际的AI应用。

以工业计算机为例，结合视觉辨识功能就可支持自动光学检测(AOI)作业，而无须再购买专用设备来提升其制造质量。所以，即使是中小型业者也能以PC等级工业用计算机的价格负担得起AI应用，并能因此真正获益。这才是台湾业者应专注的策略，强化透过AI的实际应用来提升产业竞争力。

近来积极耕耘AI市场的英特尔，已建构了从云端到闸道器、终端装置的完整AI运算平台。郑智成指出，这波的AI复兴，主要是利用神经网络算法，在训练与推论方面实现了重大的突破。但是，在深度学习的训练方面，神经网络与传统IT资料的规则式概念截然不同，一旦需要加入新的辨识对象或情境，需要再花长时间重新进行训练，才能加入新的辨识能力。

因此，他相信，未来云端技术还会有很多演进，来缩短训练时间，让AI应用更有效率。而对英特尔的布局来说，在云端资料中心，仍将强化Xeon的布署，并运用Nervana平台作为训练加速器之用；至于FPGA，则能广泛运用在云端作为推论加速之用；而在终端装置，则将透过SDK支持更广泛的Framework以及topology，来开拓新的应用。

郑智成总结道，AI深度学习神经网络技术其实涵盖了很大的范围，除了算法的开发，包括资料的收集与标注、分析与前处理等都还是需要CPU来处理。英特尔身为领先的芯片业者，致力在其中找到各种机会，并强化与学术界的研发合作，从各个层面来推动AI应用的创新与落实。