基于 reComputer 和 Hailo8-cL 的超快速 YOLOv8 边缘检测技术

我一直热衷于尝试边缘人工智能视觉项目。然而，在传统的树莓派板上运行 YOLO 模型一直是一个令人沮丧的经历。帧率太低，无法实现实时推理，而添加外部人工智能加速模块只会让情况变得更加复杂。

这些外部加速器不仅成本高昂，而且还需要复杂的布线、繁琐的兼容性检查以及耗时的组装工作。通常情况下，我用于解决加速器硬件问题所花费的时间要远远多于实际开发和优化检测模型所花费的时间。

巧合的是，我有幸使用了 Seeed Studio 的 reComputer R2000 系列产品，从那以后一切都发生了变化。它配备了内置的海洛-8L 神经网络处理器单元，这不仅节省了购买昂贵外部加速器的费用，还消除了因线路杂乱、兼容性验证和复杂组装而带来的种种麻烦。

我测试了这个 YOLOv8 目标检测项目，以检验这一一体化解决方案，并为面临同样难题的其他开发者提供一个简单且可重复使用的指南。它能够实现流畅的实时推理，所需配置工作量极小，完美解决了边缘人工智能部署中的主要难题。

设置您的计算机设备

本教程中所使用的电脑是基于 Raspberry Pi 4 设计的。入门非常简单，其运行方式与普通的 Raspberry Pi 几乎相同，而且迁移成本极低。

您可以完全按照官方维基页面的说明来完成 SD 卡的刷入以及设备的配置。在此，我将为您简要概述整个过程。

刷新系统镜像

打开“树莓派镜像工具”，选择“操作系统”——选择“自定义”，然后从您刚刚下载的系统镜像中进行选择。

在“存储”选项中选择您的 SD 卡，然后继续点击“下一步”，等待闪存过程完成。

访问您的电脑设备

进行初始访问最简单的方法是连接外部显示器。在显示器上设置您的账户和密码，然后您就可以通过 SSH 远程自由访问该设备以进行后续开发了。

边缘人工智能算法部署

我第一次在“雷计算机”上部署算法的经历简直太愉快了，因为整个工作流程已经为我们完全做好了预设准备。

安装海洛软件

检查软件和硬件安装状态

如果出现以下结果，说明安装成功。

检查海洛-8L 的连接状态

正确的输出结果如下所示：

只需一键使用官方演示即可在 Hailo 上运行 YOLOv8

效果演示如下：

演示补充说明

该官方演示仅提供了针对固定视频文件的推理脚本，并不支持从视频流进行实时推理。如果您像我一样需要为实际场景运行实时对象检测功能，您可以按照我的步骤对官方演示进行修改以实现这一功能。

演示脚本修改内容

run.sh:

将第 29 行的代码修改为：

您还可以以同样的方式修改 pose-estimation-hailo.py 脚本。

将从第 126 行开始的 __init__ 函数修改为：

现在您可以使用本地摄像头了。

至此，您已成功在 reComputer R2000 上部署了 YOLOv8 目标检测系统。通过修改脚本，您还实现了通过 USB 摄像头进行实时推理的功能。您无需再应对外部加速模块带来的麻烦和高昂成本，而且打破了官方演示仅支持固定视频推理的限制。这使得边缘人工智能真正能够应用于实际场景中。

您可以进一步拓展这个项目，使其更符合您个人的需求：

通过 MQTT 协议将实时检测结果推送到诸如阿里云和腾讯云等物联网平台，构建一个完整的边缘人工智能监控系统，并实现远程数据查看和异常警报通知。

优化脚本参数，调整模型的置信度阈值和推理帧率，以适应不同的检测场景，例如高精度近距离检测和广范围远距离检测。

利用 OpenCV 对实时检测流进行二次处理，添加诸如物体计数和区域入侵警报等功能，以满足智能零售、车间监控等场景中的实际需求。

参考海洛模型库，将脚本中的 YOLOv8 模型替换为其他模型(如 YOLOv6 和 YOLOX)，并在重新配置的计算机上比较不同模型的推理性能。

如果上述扩展思路仍无法满足您的项目需求，您可以使用自定义数据集重新训练模型，通过 Hailo 工具进行编译，并将其部署到专用计算机上。这样就能实现针对特定场景(如工业零部件检测和宠物识别)的物体检测功能。

本文编译自hackster.io