当前位置:首页 > 嵌入式 > 嵌入式硬件
[导读]说起人工智能好像我们想到的是机器视觉,指纹识别,人脸识别,视网膜识别,虹膜识别,掌纹识别,,自动规划,智能搜索,博弈,自动程序设计,智能控制等;然而其核心内容是离不开嵌入式的。

说起人工智能好像我们想到的是机器视觉,指纹识别,人脸识别,视网膜识别,虹膜识别,掌纹识别,,自动规划,智能搜索,博弈,自动程序设计,智能控制等;然而其核心内容是离不开嵌入式的。 

移动设备上的人工智能已经不再依赖于云端连接,今年CES最热门的产品演示和最近宣布的旗舰智能手机都论证了这一观点。人工智能已经进入终端设备,并且迅速成为一个市场卖点。包括安全、隐私和响应时间在内的这些因素,使得该趋势必将继续扩大到更多的终端设备上。为了满足需求,几乎每个芯片行业的玩家都推出了不同版本、不同命名的人工智能处理器,像“深度学习引擎”、“神经处理器”、“人工智能引擎”等等。

然而,并非所有的人工智能处理器都是一样的。现实是,许多所谓的人工智能引擎就是传统的嵌入式处理器加上一个矢量向量处理单元。这里还有一些其它功能对于人工智能处理前端化至关重要。

优化嵌入式系统的工作负载

在云计算处理过程中,采用浮点计算进行训练,定点计算进行推理,从而实现最大的准确性。用大型服务器群组进行数据处理,能耗和大小必须考虑,但他们相较于有边缘约束的处理几乎是无限的。

在移动设备上,功耗、性能和面积(PPA)的可行性设计至关重要。因此在嵌入式SoC芯片上,优先采用更有效的定点计算。

当将网络从浮点转换为定点时,会不可避免地损失掉一些精度。然而正确的设计可以优化精度损失,从而达到与原始训练网络几乎相同的结果。

 

某些嵌入式AI处理器比其它更智能?

 

控制精度的方法之一是在8位和16位整数精度之间做出选择。虽然8位精度可以节省带宽和计算资源,但是许多商用的神经网络仍然需要采用16位精度以保证准确性。

神经网络的每一层都有不同的约束和冗余,因此为每一层选择更高的精度是至关重要的。

针对开发人员和SoC设计者,一个工具可以自动输出优化的图形编译器和可执行文件,例如CEVA网络生成器,从上市时间的角度来看是一个巨大的优势。

此外,保持为每一层选择更高精度(8位或16位)的灵活性也是很重要的。这使每一层都可以在优化精度和性能之间进行权衡,然后一键生成高效和精确的嵌入式网络推理。

 

某些嵌入式AI处理器比其它更智能?

 

专用硬件来处理真正的人工智能算法

VPU使用灵活,但许多常见的神经网络需要的大量带宽通道对标准处理器指令集提出了挑战。因此,必须有专门的硬件来处理这些复杂的计算。

例如NeuPro AI处理器包括专用的引擎处理矩阵乘法、完全连接层、激活层和汇聚层。这种先进的专用AI引擎结合完全可编程工作的NeuPro VPU,可以支持所有其它层类型和神经网络拓扑。

这些模块之间的直接连接允许数据无缝交换,不再需要写入内存。此外,优化的DDR带宽和先进的DMA控制器采用动态流水线处理,可以进一步提高速度,同时降低功耗。

 

 

明天未知的人工智能算法

人工智能仍然是一个新兴且快速发展的领域。神经网络的应用场景快速增加,例如目标识别、语音和声音分析、5G通信等。保持一种适应性的解决方案,满足未来趋势是确保芯片设计成功唯一途径。

因此,满足现有算法的专用硬件肯定是不够的,还必须搭配一个完全可编程的平台。在算法一直不断改进的情况下,计算机模拟仿真是基于实际结果进行决策的关键工具,并且减少了上市时间。

CDNN PC仿真包允许SoC设计人员在开发真实硬件之前,就可以使用PC环境权衡自己的设计。

 

4.png

 

另一个满足未来需求的宝贵特征是可扩展性。NeuPro AI产品家族可以应用于广泛的目标市场,从轻量型的物联网和可穿戴设备(2 TOPs)到高性能的行业监控和自动驾驶应用(12.5 TOPs)。

在移动端实现旗舰AI处理器的竞赛已经开始。 许多人快速赶上了这一趋势,使用人工智能作为自己产品的卖点,但并不是所有产品里都具备相同的智能水平。

如果想要创建一个在不断发展的人工智能领域保持“聪明”的智能设备,应该确保在选择AI处理器时,检查上述提到的所有特性。

换一批

延伸阅读

[嵌入式软件] 应用嵌入式操作系统实现电源自动投入装置

应用嵌入式操作系统实现电源自动投入装置

自动投光装置是能源系统中常见的自动安全装置。它广泛存在于发电厂、小区和电网中。它被集成到一个新的移植硬件平台中。该硬件平台适用于以TMS320F240DSP和Xilinx为核心的自投影器件CPLD.公司任务分配和机制运行。 备...

关键字: 嵌入式 电源 DSP

[OFweek维科网] 惠州仲恺高新区&OFweek强强联合,助力激光产业升级

激光加工装备行业是国家政策重点扶持领域,近几年,在工业4.0背景下,国家推出“中国制造2025”计划,将智能制造作为主攻方向,使制造过程朝智能化方向发展,要求创新开展先进制造、智能制造、智能装备等研究。激...

关键字: AI 激光

[OFweek维科网] 3000多个企业已接入国家工业互联网标识解析体系中

近日,中国信息通信研究院院长刘多在发布 《工业互联网标识应用白皮书》时介绍,中国工业互联网标识解析体系2018年底上线运行,目前在北京、上海、广州、重庆、武汉有5个顶级节点,在贵阳和南京有2个灾备节点;二级节点60...

关键字: AI 工业互联网

[架构师社区] 远程调试在Linux车机中的应用

导读 在软件开发过程中,调试是必不可少的环节,嵌入式操作系统的调试与桌面操作系统的调试相比有很大差别,嵌入式系统的可视化调试能力比桌面操作系统要弱一点。对于导航这种业务场景比较复杂的程序开发,...

关键字: Linux 编程 嵌入式

[架构师社区] 性能优化:Java中的对象和数组都是在堆上分配的吗?

免责声明:本文内容由21ic获得授权后发布,版权归原作者所有,本平台仅提供信息存储服务。文章仅代表作者个人观点,不代表本平台立场,如有问题,请联系我们,谢谢!

关键字: java 嵌入式

技术子站

关闭