轻易实现边缘人工智能的“自主性”，ST Edge AI套件助力各类开发者实现覆盖全硬件平台的全链条开发体验

据行业调研机构数据，边缘人工智能市场从2023年的191亿美元起，将以25.9%的年复合增长率迅速扩展至2032年，达到1436亿美元市场规模。不同于大火的ChatGPT，边缘AI是将人工智能算法部署在接近数据源的边缘设备上，如物联网设备、智能手机及嵌入式系统等。与依赖云计算的人工智能相比，边缘AI通过在本地处理数据，减少了向中央服务器频繁传输数据的需求。这种方式带来了包括更低的延迟、降低的带宽消耗、提升的隐私保护以及更高的操作效率等多方面优势。

然而对于嵌入式设备开发者而言，要实现边缘AI在端侧的部署，需要解决一系列的问题，包括模型算法的优化、成本体积的设计目标和满足系统功耗的标准等。某些AI算法方面的挑战是传统嵌入式工程师前所未有的，因此要从零开始学习的将会耗费大量的时间；而且在端侧的设备的计算平台多种多样，数据种类更为丰富；因此要实现边缘AI的大规模部署和应用，是业界正在努力的方向。而ST推出的NanoEdge AI套件，结合ST的传感器和计算硬件，将算法、软件、各种硬件平台都整合在一起，实现了一个全链条的开发及系统优化体验，能够让工程师更轻易地在端侧设备上实现边缘人工智能的“自主性”，并且方便其后续进行模型的维护、迁移和升级。

硬件是边缘AI部署的基石，ST提供先进且灵活的算力配置

硬件无疑是边缘AI部署的基石，传感器负责前端数据的采集，然后MCU/MPU/SoC/FPGA等负责进行数据的计算和处理。据Matteo MARAVITA（意法半导体亚太区人工智能技术创新中心和智能手机技术创新中心高级经理）分享，工程师要实现边缘AI面临着一系列的来自资源受限的硬件方面的挑战，包括考虑整体的性能、安全性和较低功耗等。而在这一方面，ST从10年前就已经开始进行一些基础研究。

2018年ST就发布了STM32 Cube AI 库；2019年推出了集成了机器学习内核（MLC）的AI传感器，随后加入了TinyML联盟；2020年ST开始在车规微控制器中部署边缘AI，并随后推出了支持ST Linux的边缘AI；2021年ST推出了autoML；2022年推出了新的集成硬件加速器的 MEMS传感器，能够在传感器内运行较小的深度学习网络；而在去年，ST不断改进软件生态系统，发布了STM 32开发者云模型库，并更新了 Stellar 系列车规MCU工具。

可以看到历经了10年的技术积累和探索，ST不断积极探索在传感器和MCU硬件部署AI的最优路径，并且实现了专用的AI Core的IP技术积累。Matteo MARAVITA表示，MLPer是唯一提供MCU的AI基准测试的网上平台，而在MLPer Tiny基准测试的提交中，基于STM32的项目数量排名第一，占比达到了73%。这表明STM32已经成为了边缘AI部署的事实硬件平台，并且一直在支持客户在消费电子、工业和汽车等领域更广泛的人工智能创新。

在AI算力方面，ST提供了先进的算力，而且提供了灵活的产品形态供客户选择，包括已经发布的ISPU传感器，以及即将发布的集成了AI加速器的STM32N6和STM32MP2等。这覆盖了从非常基础的端侧应用、到中端的嵌入式应用和高阶的支持Linux的嵌入式应用，所有的嵌入式应用都可以通过通过STM32具有AI加速器的产品来实现AI赋能。

根据发布会现场的线上演示，在STM32N6上就可以运行多对象识别跟踪的AI算法，可以达到每秒18帧的运行效果，适用于路口的交通信号灯的交通管理等应用方向。能够在一个32位的MCU上实现如此效果，正是得益于其中集成的AI专用加速器。据悉，主要的AI算法运行都是在AI加速器中进行，而STM32N6的CPU内核的负载不到5%。

软件是边缘AI部署的关键，ST EdgeAI Suit提供全链条的开发和优化

在端侧部署AI的好处不言而喻，而对于端侧设备的开发者而言，实际的挑战更多来自于AI算法、模型和软件等多方面，不同类型的工程师面临着的挑战也有所不同。Matteo MARAVITA表示：“嵌入式软件工程师更关注边缘 AI的实现以及如何将其集成到整个系统中，因此，这类工程师可能从可靠的示例项目开始开发，根据特定应用情况修改参考设计。而机器学习工程师/AI工程师/数据科学家则主要关注机器学习模型的开发，不仅要关注机器学习模型的数据集，还需要关注根据被选目标硬件设备的特点优化学习模型。硬件工程师则需要一个简单的对标测试工具，在不同的硬件平台或不同的部件号上测试数据科学家提供的高级算法，并在性能、功耗、尺寸、价格等方面找到最佳折衷方案。”

如何满足不同类型开发者的不同需求？ST Edge AI 开发套件给出了答案。

据了解，ST Edge AI开发套件集成了边缘人工智能开发过程所需的所有工具和模块，从创建模型库用例、收集数据集到将模型部署到指定硬件，全程覆盖。客户可以利用AutoML工具直接从数据着手创建模型，亦可导入自行或通过第三方开发的模型，进行基准测试并在硬件上部署。该套件旨在支持包括MEMS传感器、微控制器、MPU微处理器和汽车微控制器在内的多种硬件产品。此外，ST Edge AI套件还提供丰富的开发资源，如文档、教程和社区访问权限等，帮助用户深入理解和使用。

值得一提的是，ST Edge AI开发套件对于关键客户的外部人工智能开发系统还具有非常好的兼容性，支持深度学习框架TensorFlow Lite 、 Keras 、 PyTorch等训练的机器学习模型；此外该套件还提供了与英伟达(NVIDIA)工具包的兼容性；包括与亚马逊云科技（AWS）和微软Azure 等云服务的无缝连接；同时还兼容MATLAB等仿真工具。

该AI开发套件的核心在于一个被称为“ST Edge AI Core”的部分，这一部分可以看作是一个创新的统一嵌入式人工智能解决方案优化器。该优化器用统一的命令行界面，实现了从客户自主模型输入到最终优化模型生成和验证。透过“ST Edge AI Core”，就可以将AI模型，转换成可以在ST的各种硬件平台上优化运行的专用模型。

“目前边缘人工智能并没有一个统一通用的开发方法，但我们认为， 在开发边缘人工智能解决方案的过程中，为开发者提供指引和信息是非常重要的。”Matteo解释到，“因此ST Edge AI 套件考虑到了这个因素。这套工具可以帮助用户根据自己的 知识和资源找到最佳的方法和工具。我们还将考虑融合和统一各种工具的用户体验，以简化人工智能库的设计流程。”

结语

边缘人工智能的实现涉及到三个基本 要素：安全性，连接性、自主性，而其中自主性是AI能力的体现，也是边缘AI有别于其他传统的物联网的关键。而通过ST Edge AI套件，就可以帮助各种不同类型的开发者实现覆盖全硬件平台的全链条开发体验，更轻松地实现边缘人工智能的“自主性”。