嵌入式开发的边缘AI如何影响未来的IOT

一个强大的转变正在嵌入空间进行。连接设备正在演变成能够根据所收集的数据自行决策的系统。通过处理更接近其捕获地点的数据,而不是在iot网关或云中,它有望加快决策速度,减少延迟,解决数据隐私问题,降低成本和提高能源效率。

工业自动化、机器人技术、智能城市和家庭自动化仅仅是推动提高计算机性能和能力需求的几个应用领域。过去,这些类型系统中的传感器要简单得多,而且不连接,不过,人工智能和机器学习(ML)现在能够提高本地智能水平,允许本地的设备决策,而过去简单的控制算法是不可能做到的。

人工智能时代通用处理器的演变

多年前,开发者把逻辑和控制算法作为软件开发的核心,然而数字信号处理(DSP)算法随后出现,这使许多增强语音、视觉和音频应用成为可能。

应用程序开发的这种转变进入了一个新的时代,正在影响计算体系结构的设计。现在我们已经到了推理是算法开发的一个主要焦点的阶段.这带来了对计算性能、能源效率、延迟、实时处理和可伸缩性等新的或更高的要求。

我们看到,不仅需要新的处理器加速器,而且需要改进通用处理,为开发人员提供必要的平衡,并启用应用程序,如特征检查或人的实时视频检测。

几年前开发人员创建噪音取消应用程序时,只会依赖基于频率的滤波器。但是今天,开发人员可以通过将过滤与ML/AI模型和推理相混合来提高应用程序的性能和功能。这推动了对处理器和工具的需求,使这些任务更加高效,并且尽可能地无缝地提供给用户。

边缘和端点装置中的智能标记

这种演变是由ML驱动的,但它并非没有技术上的挑战。多年的启动和停止,以及创造一个"一刀切"方法的尝试,都促使业界改变了其方法,以释放大规模的扩展机会。

现在,开发者正在利用安全、性能提高的技术,使小型、低功率嵌入式系统能够应用于先前难以想象的声音、视觉和振动应用,这些应用正在改变世界。语言和变压器模型的各种版本将很快在具有新的计算能力的iot边缘设备中找到他们的位置。这将打开开发人员曾经梦想的新的可能性。

为了给开发人员配备这种开发改造所需的硬件,几年前我们在ARM8.1M体系结构中引入了ARM矢量处理技术。ARM作为小型低功率嵌入式器件,在ML和数字信号处理中的应用有着显著的性能提升。它还提供单一指令多数据(SIMD)功能,为ARMcortexM设备提供新水平的性能,支持预测维护和环境监测等应用。

ARM增强了DSP和ML的性能,加速了信号调节(如滤波、消除噪声和消除回声)和特征提取(音频或像素数据),然后可以通过神经网络处理器输入分类部分。

实现智能边缘能力

我们已经看到合作伙伴在他们的最新产品中选择ARM技术,使开发者能够利用最受约束的设备在网络的最边缘的ML能力。ARMcortex-55于2020年2月发布,而Alif半导体于2021年9月发布了第一个cortex-55硅。它在其整体和产品家族中使用ARM的cortex-M-55。HMAX还采用了带ARM的cortexM-55作为下一代W2AI处理器的一部分,该处理器的目标是电池驱动的iot设备中的计算机视觉。

第二个使用ARM的CPU,ARMcortex-M85,于2022年4月n发布,雷纳斯在2022年和2023年嵌入式世界上展示了M85演示。普鲁梅雷是一家开发了基于相机的人员检测完整软件解决方案的公司,该公司在演示过程中利用了雷纳斯RAMU技术来显著加速其推理引擎。该公司相信,性能提升将使其客户能够使用更大、更精确的普鲁梅雷人检测人工智能,增加额外的产品功能,并延长电池寿命。

随着硬件的不断发展,开发人员面临着越来越复杂的软件需求,需要新的开发流程来创建优化的ML模型和高效的设备驱动程序。至关重要的是,为生态系统提供的软件开发平台和工具与硬件一起发展。

有各种各样的ARM和第三方工具可以支持最终用户创建AI算法。一旦数据科学家离线创建了模型,就会有工具对模型进行优化,无论是在基于电子的NPPS上使用,还是在基于cortex的处理器上使用ARM指令。

QEexo是第一家为边缘设备自动化端到端机器学习的公司,其自动化平台提供了一个直观的用户界面,允许用户收集、清理和可视化传感器数据,并使用不同的算法自动建立机器学习模型。传统的嵌入式工具,如凯伊微控制器开发工具包(凯伊MDK)补充了MLPOP工具,并帮助建立了一个用于验证复杂的软件工作负载的开发流程。因此,嵌入式、iot和AI应用程序在一个单一的开发流中收敛,这是许多软件开发人员已知的。

边缘的潜力正在被解锁。人们对微控制器性能的需求越来越大,特别是在语音激活的门锁、人员检测和识别、将电动机控制与预测性维护连接起来以及无数其他高端人工智能和ML应用等方面。

配备了正确的技术,开发者可以重新设想边缘和端点设备,在成本、性能、能源效率和隐私之间达成正确的平衡,这是这些受限系统的关键因素。