使用Python和PYNQ，以最小的工作量启动并运行Xilinx Vitis AI硬件加速推理

下面的说明记录了一种新的方法，可以立即开始使用Xilinx Vitis AI v2.5硬件加速机器学习推理。它还使Python能够控制和执行Vitis AI Xilinx深度学习处理单元(DPU)。现在还支持VART api。

在ZUBoard 1CG， Ultra96 (v1和v2), ZCU104, ZCU208， ZCU111和其他边缘平台上开始使用Vitis AI，只需几个简单的步骤。对于高级用户来说，与标准的PetaLinux方法相比，使用Vitis AI与PYNQ有一些好处：

•在试用之前，不需要安装初始的Xilinx工具，也不需要下载任何docker映像!

•您可以在不同的推理模型之间切换!

•您可以使用Python(或C/ c++)控制DPU并与之交互!

•您不必每次都重新构建SD图像来运行不同的推理模型!

虽然只需要花费少量的本地编译时间，但它比之前任何已知的为Xilinx Vitis AI组装合适平台的技术都要短得多。

使用包含的PYNQ Vitis AI Jupyter notebook，您将立即能够使用以下推理加速器：

•《盗梦空间》

•Resnet

•经典MNIST

•Yolo

•(您也可以创建自己的自定义推理模型)

所有在python或C/ c++的控制下，如果需要!

开源的PYNQ框架总是能够轻松地与AARCH64 Ubuntu应用程序集成。现在硬件加速Vitis AI与PYNQ !

还有更好的呢!赛灵思AI模型动物园中的许多其他免费预训练的Caffe、Tensorflow、Darknet和PyTorch Vitis AI模型现在也可以很容易地移植到支持PYNQ的主板上运行。您甚至可以使用赛灵思Vitis AI构建自己的自定义推理模型!

警告：如果遵循这些说明，一些PYNQ Python库和其他库可能会更新。如果您依赖于较旧的PYNQ或Xilinx AI DPU版本，您可能需要先备份现有的PYNQ映像，或者在新安装的最新版本PYNQ上尝试这样做。

在开始之前，请在开发板上安装正确版本的PYNQ软件

您的PYNQ板应该运行最新版本的PYNQ!你还在等什么：开始吧!

对于已经运行PYNQ的兼容板，请按照以下步骤操作!

步骤1 -访问PYNQ Jupyter命令控制台

随着PYNQ的启动和运行，主板本身通过有线局域网或Wifi连接到互联网，从一台可以访问主板所在局域网的PC上，使用web浏览器(最好是Firefox、Chrome或Safari)并登录到PYNQ Jupyter服务器。然后在web浏览器中打开一个Jupyter命令根控制台选项卡。

提示：您可以通过在PC web浏览器中输入您的WLAN或LAN上的PYNQ板的IP地址来登录在PYNQ板上运行的Jupyter服务器。对于下面的屏幕截图，这是使用通过USB OTG连接到PC的Ultra96完成的。Ultra96还附带了一个USB转以太网适配器，为Ultra96提供互联网服务。

提醒：在开始之前，您需要找到自己的板的IP地址，并为其提供互联网连接：

系统可能会要求您输入密码，密码都是小写的：xilinx

输入密码后，您应该看到(本例显示的是一台Ultra96)：

通过web浏览器登录到Jupyter笔记本服务器后，使用鼠标单击New按钮(上面用红色圈出)并选择创建一个新的根控制台终端：

这将打开一个具有root权限的命令控制台，在这个控制台中，您将很快输入安装命令：

步骤2 -安装Vitis AI

注意：为了这个工作你的开发板必须有一个互联网连接!(如果你不知道怎么做，请参阅下面的一些提示和说明)。我不建议使用U96 v2 wifi，因为它很慢。我建议使用板载以太网或USB到以太网适配器用于U96 v2和任何其他选择以太网的板。

这一步最难的部分是要有耐心!!这一步将直接在PYNQ板上编译Vitis AI和Xilinx XRT驱动程序和库。要花半个小时到一整个小时。这取决于你SD卡的速度。这是值得等待的，只需要做一次!

如下所示输入命令：

步骤3 -安装示例Jupyter Notebooks

在命令控制台中输入以下内容，确保输入空格和最后一个'。，如下所示：

您现在可以关闭或退出终端!

步骤4 -学习示例笔记本

在web浏览器中返回Jupyter(或Jupyter Lab)并在笔记本文件夹下找到新安装的笔记本。以下是其中的一些例子：

本文编译自hackster.io