上云无忧 > 文档中心 > 百度智能云智能边缘 - 部署模型SDK至Jetson Xavier
智能边缘
百度智能云智能边缘 - 部署模型SDK至Jetson Xavier

文档简介:
1、概述: 本文将参考前述的两篇文档来介绍如何将模型部署至Jetson设备: 参考 使用EasyEdge模型转换获取边缘模型,获取Jetson模型。 参考 可执行脚本类型进程应用,通过可执行脚本程序包+模型SDK方式完成模型SDK的边缘部署。
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

1、概述

本文将参考前述的两篇文档来介绍如何将模型部署至Jetson设备:

  1. 参考 使用EasyEdge模型转换获取边缘模型,获取Jetson模型。
  2. 参考 可执行脚本类型进程应用,通过可执行脚本程序包+模型SDK方式完成模型SDK的边缘部署。

2、前提准备

2.1 安装进程模式边缘节点

参考文档:在linux上安装进程模式边缘节点

2.2 获取Jetson类型SDK

  1. 点击离线计算SDK,进入模型SDK列表界面,下载Jetson模型至本地

  1. 将Jeston模型上传至对象存储,此处使用百度BOS,并设置为公有访问,记录模型SDK下载URL。
  2. 获取模型SDK的序列号

3、在BIE上创建配置与应用

3.1 创建程序包

  • 导入进程程序包-paddle-opensource-sdk-edge-serving.json,与 文档可执行脚本类型进程应用 当中创建的程序包是一样的。

3.2 创建模型文件配置项

  • 导入模型配置项-easyedge-linux-m70035-b70035-jetson.zip.json
  • 将模型SDK文件的HTTP URL替换成第2.2-2小节的URL。

3.3 创建进程应用

  • 导入模型进程应用应用-easyedge-linux-m70035-b70035-jetson.json
  • 将应用当中的模型序列号替换成第2.2-3小节的模型序列号。

3.4 特殊配置说明

  1. 上述应用配置的环境变量说明如下:

    • PARAMS_SERIAL_NUM:模型SDK的序列号
    • PARAMS_PORT:服务暴露端口号,此处设置为8701
    • EDGE_SOC:声明模型部署应用SOC为jetson

  1. 3.2小节3.3小节注意替换成自身的模型SDK文件和模型序列号。

    • 如果上述模型SDK和模型序列号都不做替换,应用部署以后,在本地日志文件当中可以看到错误提示:序列号已被其他设备使用
    • 如果只替换序列号而不替换模型SDK文件,应用部署以后,在本地日志文件当中可以看到错误提示:序列号不能用于其他账号的模型

4、部署进程应用

进入进程应用easyedge-linux-m70035-b70035-jetson,设置目标节点,如下图所示:

5、验证边缘节点AI推断服务

通过浏览器打开在线推断服务:http://ip:8701,上传测试图片,推断结果如下,证明AI服务正常启动。

相似文档
  • 1、概述: 本文将描述如何将EasyEdge SDK制作成一个BIE边缘程序包,然后通过BIE云边协同将二进程序包下发至windows边缘节点并运行。BIE纳管windows边缘节点参考:在windows上安装进程模式边缘节点。
  • 1、概述: 进程模式与容器模式不同,进程模式强依赖于边缘节点的运行环境变量,比如lib库、系统变量等参数。如果没有提前设置好path等环境变量,可能导致云端下发的二进制程序在边缘节点上无法正常运行,甚至运行出错。
  • 本文档介绍如何通过进程模式下发easyedge的linux-python-sdk。 本文档使用了easyedge开源的sdk做验证。 依赖环境安装: 参考 easyedge linux-python-sdk 使用指南: (1) 安装paddle环境 x86用paddlepaddle,arm可以安装paddlelite。 (2) 安装easyedge python wheel包 在下载的sdk中包含了对应的wheel包。安装版本需要与python版本对应。
  • 1、概述: 本文重点介绍使用EasyDL训练一个烟火检测模型,并获取离线部署SDK,然后通过BIE将离线模型SDK部署至边缘节点设备。 2、训练集准备: 本身使用开源烟火检测标注数据集fire-smoke-detect-yolov4,下载 烟火(2059张图像,含标签)-百度云盘下载链接-提取码3q4r。
  • 本文介绍如何在AI中台导入模型,然后在AI中台模型仓库直接下发模型至边缘节点。 前提条件: 有一个可用的测试边缘节点设备,本案例使用一个2核8G的BCC云服务器作为测试边缘节点。 按照快速入门教程,将测试边缘节点连接云端。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部