上云无忧 > 文档中心 > 百度智能云智能边缘 - 进程模式下发python SDK模型
智能边缘
百度智能云智能边缘 - 进程模式下发python SDK模型

文档简介:
本文档介绍如何通过进程模式下发easyedge的linux-python-sdk。 本文档使用了easyedge开源的sdk做验证。 依赖环境安装: 参考 easyedge linux-python-sdk 使用指南: (1) 安装paddle环境 x86用paddlepaddle,arm可以安装paddlelite。 (2) 安装easyedge python wheel包 在下载的sdk中包含了对应的wheel包。安装版本需要与python版本对应。
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

本文档介绍如何通过进程模式下发easyedge的linux-python-sdk。

本文档使用了easyedge开源的sdk做验证

依赖环境安装

参考 easyedge linux-python-sdk 使用指南

(1) 安装paddle环境 x86用paddlepaddle,arm可以安装paddlelite。

(2) 安装easyedge python wheel包 在下载的sdk中包含了对应的wheel包。安装版本需要与python版本对应。

(3)环境依赖检查。安装完成后,检查是否安装成功

pip3 list --format=columns | grep paddlelite
paddlelite                    2.11
pip3 list --format=columns | grep BaiduAI-EasyEdge-SDK
BaiduAI-EasyEdge-SDK          1.3.1

部署准备

(1)模型SDK处理 修改demo_serving.py文件 arm环境使用的paddle-lite,engine使用edge.Engine.PADDLE_LITE。 x86换使用的是edge.Engine.PADDLE_FLUID server.run(host=host, port=port,device=edge.Device.CPU, engine=edge.Engine.PADDLE_LITE)

(2)运行脚本 不通过BIE直接本地编译运行截图如下:

因为BIE进程模式只支持运行sh脚本,不支持python。所以当以进程模式下发时,我们需要通过sh脚本来运行python脚本 示例bootstrap脚本:

#! /bin/bash

export OPENBLAS_CORETYPE=ARMV8
# 在armv8 CPU上运行,需要添加环境变量

IFS=$'\n'
folders=($(find mnt/easyedge/ -type d -name "EasyEdge-Linux-*" -maxdepth 1))
unset IFS
model_folder=${folders[0]
# 选择{工作路径}/mnt/easyedge下以EasyEdge-Linux开头的folder
python3 "${model_folder}/python/infer_demo/demo_serving.py" "${model_folder}/RES/"

(3)创建程序包 整理程序入口配置文件:

  • 文件名:program.yml
  • 文件内容:entry: "bootstrap.sh" 将program.yml压缩为zip文件 zip program.yml.zip program.yml

创建应用和配置项

(1)创建程序包配置项,同时引入program.yml.zip 和 bootstrap.sh.zip 

(2)创建配置项,引入模型sdk,是否解压选择“是” 

(3)创建进程应用 引入程序包配置项; 引入模型配置项,目录填写/mnt/easyedge。 

(4)将应用部署至边缘节点 

相似文档
  • 1、概述: 本文重点介绍使用EasyDL训练一个烟火检测模型,并获取离线部署SDK,然后通过BIE将离线模型SDK部署至边缘节点设备。 2、训练集准备: 本身使用开源烟火检测标注数据集fire-smoke-detect-yolov4,下载 烟火(2059张图像,含标签)-百度云盘下载链接-提取码3q4r。
  • 本文介绍如何在AI中台导入模型,然后在AI中台模型仓库直接下发模型至边缘节点。 前提条件: 有一个可用的测试边缘节点设备,本案例使用一个2核8G的BCC云服务器作为测试边缘节点。 按照快速入门教程,将测试边缘节点连接云端。
  • 本文介绍如何在AI中台的模型中心导入原始模型,转换成适配NVIDIA Jetson的模型文件,并下发至设备边缘。 前提条件: 有一个可测试的边缘节点设备。 边缘节点连接至云端。 有一个模型,本实验用的是一个图像分类模型fuild-mobilenceV2.zip。该模型支持识别检测猴子、鸡、狗、猫等上百种生物。
  • 本文介绍如何在AI中台的模型中心导入原始模型,然后通过模型转换,生成适配通用X86芯片/通用ARM芯片的图像分类模型,并部署至设备边缘。 一、前提条件: 有一个可测试的边缘节点设备。
  • 本文介绍如何在AI中台的模型中心导入原始模型,然后通过模型转换,生成适配通用X86芯片/通用ARM芯片的物体检测模型,并部署至设备边缘。 一、前提条件: 有一个可测试的边缘节点设备。 边缘节点连接至云端管控控制台,边缘节点安装可以参考快速入门。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部