当前位置:首页 > 工业控制 > 电路设计项目集锦
[导读]整个系统通过摄像头进行数据采集,获取模型,并借助reComputer AI Lab平台实现快速部署,同时在reComputer RK3576边缘计算设备上运行算法。在模型推理阶段,设计并优化了推理流程和跌倒判断逻辑,最终通过网络平台查看推理结果。

本项目将基于YOLOv8n-pose模型,完整演示项目部署、架构优化等全过程,快速实现一套能够准确检测多种场景下各类跌倒行为的跌倒检测系统。

整个系统通过摄像头进行数据采集,获取模型,并借助reComputer AI Lab平台实现快速部署,同时在reComputer RK3576边缘计算设备上运行算法。在模型推理阶段,设计并优化了推理流程和跌倒判断逻辑,最终通过网络平台查看推理结果。

实施细节

姿态估计算法的快速部署

在 reComputer AI 实验室中,许多模型都通过 Docker 镜像预先配置。借助这些预设的 Docker 镜像,我们可以快速进行算法部署。

登录 reComputer AI Lab 平台,了解如何快速部署此案例:基于 reComputer RK3576 的多场景跌倒检测 | reComputer AI Lab

设计判断逻辑并优化推理性能。跌倒检测判断逻辑的设计

原始的Seeed图像仅输出17个关键点坐标,不具备姿态分类或跨帧跟踪功能,无法直接判断人是站立、坐着还是摔倒。为解决这一问题,设计了一种基于几何特征的轻量级状态机,并结合跨帧跟踪实现跌倒警报。特征工程从每一帧的17个关键点和边界框中提取了9个特征。

根据这些特征,依次定义并评估了7种状态机。通过这些步骤,可减少因蹲下和正常平躺引起的错误,同时也能最大限度地降低站立时关节点紊乱的发生。

对于每一帧,使用numpy向量化操作计算所有(检测、轨迹)对的IoU矩阵,并按IoU从高到低的顺序进行贪心匹配。仅当IoU ≥ 0.18时,才被视为同一人。当FALLEN持续≥25帧时,触发“跌倒”警报;当FALLING持续≥10帧时,触发“正在跌倒”警报。当人员离开覆盖区域后,状态将重置,以便触发下一次警报。

推理性能优化

首先,将核心推理代码从图像中提取到本地机器。

[注意] 直接下载原始图像后运行,会对CPU造成较高负载。特别是当仅使用设备本身时,若设备同时处理图形界面渲染和算法推理,CPU使用率可能超过限制,导致设备完全卡死。

•第一步:计算设备卸载

从本地计算机远程访问设备进行开发,并在本地计算机上渲染网页。

•第二步,后处理优化

原始的后处理使用嵌套的Python循环遍历8,400个网格点,并对每个点执行相应的数据处理操作,消耗了系统循环时间的25%以上。该步骤采用NumPy向量化技术,将每个循环完全转换为NumPy运算,通过数组计算快速完成候选数据过滤、边界框特征提取、DFL解码和IoU计算等操作。这使得单帧后处理速度提升了4.4倍(6.95毫秒 → 1.57毫秒),且准确率与原始方法相比差异小于1e-3。

•第三步,设备资源调度

在原始版本中,主循环使用了满载的CPU,而NPU并未得到充分利用。通过预分配NPU缓冲区、降低NPU输入分辨率以及采用异步MJPEG编码,新增了参数--np-size和异步编码线程。这使得NPU推理速度从40帧/秒提升至440帧/秒,主循环速度也从21帧/秒提升至35帧/秒。新增的命令行参数:

启动时预分配缓冲区:

添加了异步 MJPEG 线程:

主循环中的 MJPEG 部分已改为仅添加:

新增了双FPS显示和周期性stdout输出,以便通过Docker日志进行实时监控:

除了上述三项主要优化外,还进行了以下几项次要优化。由于篇幅限制,此处不再详述:

•绘图优化:将原始的 cv2.circle 绘图方法改为 image[iy-1:iy+2, ix-1:ix+2] = color(使用 NumPy 切片操作,比 OpenCV 函数调用快 5–10 倍)。

•V4L2缓冲区调优:将CAP_PROP_BUFFERSIZE设置为4,以减少视频解码抖动。

•IoU矩阵向量化:在Tracker中,使用np.maximum/minimum结合切片操作,一次性计算所有(检测、跟踪)对的IoU。

•Reflective Config API:使用 get_cfg_dict() 函数来反射 Config 变量,自动将新增的阈值字段暴露到 /api/fall_config。

•状态标签条:在边界框下方添加彩色ID+状态标签条,以便快速查看结果。

•HUD 双 FPS 显示:屏幕左上角显示主循环和推理速度,分别为 XX.X 和 XX.X。

推理执行

完成修改后,需要重新构建图像才能进行推理。

最后的总结

本项目是根据我的个人需求开发的。在研究并尝试了现有的一些视觉跌倒检测方案后,但结果不尽如人意,于是我亲自设计、构建并优化了这款产品。尽管数据集已针对大多数跌倒动作进行了重新调优,但对于某些动作(如俯卧跌倒)以及其他具有高度相似关键点的姿态,其准确率仍相对较低。

本文编译自hackster.io

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读

交通摄像头可生成有用信息,但向云端持续发送视频需要大量带宽,并可能引发隐私问题。

关键字: 摄像头 RK3576 NPU 传感器

GC50B5搭载双转换增益(Dual Conversion Gain, DCG)单帧高动态技术,支持100%全像素相位检测自动对焦(4-Cell PDAF)、2x In-Sensor Zoom、NOMF(Non-Over...

关键字: 图像传感器 折叠机 摄像头

随着工业4.0深度推进,互联制造已成为制造业转型升级的核心方向,依托工业互联网实现人机物全域协同、生产全流程智能管控,彻底颠覆了传统粗放式生产模式。传统云计算集中处理的架构,存在时延过高、带宽拥堵、数据安全隐患等痛点,难...

关键字: 边缘计算 互联制造 算力

2024年12月,欧盟《网络弹性法案》(Cyber Resilience Act,简称CRA)正式生效。这项法规为所有含数字元素的产品设定了强制性网络安全要求——安全不再是锦上添花的功能,而是进入欧盟市场的硬性准入条件。...

关键字: 工业控制器 边缘计算 智能网关

当前,工业制造业正加速从传统机械化、自动化模式向数字化、智能化全面迭代,智能制造、工业互联网、柔性生产等新模式持续落地。但多数制造企业仍面临设备协议繁杂、数据孤岛严重、云端时延过高、数据传输成本昂贵、现场响应滞后等痛点,...

关键字: 智能设备 边缘计算 网关

MIPI(移动产业处理器接口):由ARM、诺基亚、ST和TI等公司于2003年成立的联盟制定的一种接口标准。其目的是标准化移动设备内部接口(如摄像头、显示屏、射频/基带接口),从而降低移动设备的设计复杂度,提高设计灵活性...

关键字: 摄像头 显示屏 RV1126B

在后台,reCamera 负责完成所有复杂的协调工作:它在设备上运行 YOLO11n Pose 实时检测您的手势,然后通过 Node-RED 协调完整的 STT → LLM → TTS 流程。而实际的“思考”过程——语音...

关键字: 摄像头 边缘AI Node-RED

传统的监控系统通常依赖云服务或专用服务器,这会增加部署的复杂性和成本。随着边缘AI设备性能的不断提升,现在可以直接在本地硬件上运行实时计算机视觉应用。

关键字: 边缘AI 计算机视觉 RK3576

设想这样一幅工厂作业场景:一名工人双手沾满油脂,正在为齿轮箱加注润滑油,随口说出一句指令“关闭传送带”。设备瞬间精准响应。这看似科幻的画面,如今已然落地成真。当下的智能工厂融合人工智能、语音指令与边缘计算技术,为工业生产...

关键字: 边缘计算 NLP 机械臂
关闭