当前位置:首页 > AI > 正文内容

ZYNQ7010在PYNQ环境下使用NPU加速神经网络推理

chanra1n2年前 (2022-03-20)AI4025

步骤一、链接ssh并上传NPU SDK

 image.png

步骤二、插入NPU,并给NPU赋予权限

sudo chmod 666 /dev/sg*

步骤三、修改最大字节数

find /sys/devices/ -name max_sectors -exec sh -c 'echo 2048 > "$1"' _ {} \;

步骤四、安装依赖

sudo apt-get update && sudo apt-get install libgtk2.0-dev libjpeg-dev python-numpy python-tk python-opencv python-pip -y

步骤五、解压SDK并生效环境

tar -xvf GTISDK-Linux_armv7l_v4.5.1.0.tar.gz && cd GTISDK-Linux_armv7l_v4.5.1.0 && source SourceMe.env

期间遇到Do you wish to install xx?就输入y按Enter

image.png

步骤六、编译Demo

 cd Apps/Demo/ && make

步骤七、运行Demo

./demo slideshow ../Models/2801/gti_gnet3_fc20_2801.model ../Data/Image_bmp_c20/

运行效果

image.png

平均每张图片推理花费55ms,FPS能达到接近20,这是因为ZYNQ7000系列USB接口是2.0协议,NPU的性能不能完全发挥。

注:这里更正一下,ZYNQ上部署NPU没有达到满性能的原因不只是USB协议,NPU主要加速的是卷积和池化,全连接是在CPU端进行的,所以这也是一部分局限的因素,具体后面我会测试,


附加步骤:

export DISPLAY=192.168.0.102:1.0

修改成你的电脑的xserver显示值,可以实现图片显示。

image.pngimage.pngimage.png

扫描二维码推送至手机访问。

版权声明:本文由我的FPGA发布,如需转载请注明出处。

本文链接:https://myfpga.cn/index.php/post/237.html

分享给朋友:

“ZYNQ7010在PYNQ环境下使用NPU加速神经网络推理” 的相关文章

python基础三层深度学习网络

python基础三层深度学习网络

#coding:utf-8 #neural network class definition import numpy import scipy.spatial class neuralNetwork:   &...

解决tfClassifier训练报错的问题 修正后python 适用于tensorflow2.x python3.x

解决tfClassifier训练报错的问题 修正后python 适用于tensorflow2.x python3.x

# -*- coding: utf-8 -*-"""Created on Sun Dec 29 19:21:08 2019@原作者: xiuzhang Eastmount CSDN@修改作者:ChanRa1n修正问题:TensorFlow版本低,学习速率过高,修正为0....

玩客云安装Armbian基于PaddleLite实现图片分类和目标检查 Cortex-A5等其他可参考

玩客云安装Armbian基于PaddleLite实现图片分类和目标检查 Cortex-A5等其他可参考

本教程为本站原创,转载请注明本网站链接,否则视为侵权!如果朋友还没有安装Armbian,或者怎么折腾也折腾不好,请直接翻到文章最后下载img文件!教程中碰到出错的地方,可以重复运行代码尝试!其他的ArmV7 32位的也可以参考本文,图片分类速度:1.1帧/秒,每张图片耗时约900ms,生产用途应该是...

使用ZYNQ7010安装PYNQ,基于PaddleLite实现目标检测+图片分类

使用ZYNQ7010安装PYNQ,基于PaddleLite实现目标检测+图片分类

目前只使用HPS实现了目标检测和图片分类,现在正在尝试使用HS端加速卷积,,,步骤一、烧录PYNQ镜像到TF卡    略步骤二、ssh链接至开发板,使用apt-get安装依赖sudo apt-get update &&am...

使用PaddleX对大量图片进行分类(仅包含预测的内容)

使用PaddleX对大量图片进行分类(仅包含预测的内容)

# -*- coding: UTF-8 -*- import os import cv2 from shutil import copyfile import numpy as&...

使用爱快Docker安装Paddle对Paddle生成的模型进行预测

使用爱快Docker安装Paddle对Paddle生成的模型进行预测

文头先放上要使用的Python推理脚本。 # -*- coding: UTF-8 -*- import os import cv2 import time import threading from&nb...