上云无忧 > 文档中心 > 百度智能云智能边缘 - 部署模型SDK至Windows设备
智能边缘
百度智能云智能边缘 - 部署模型SDK至Windows设备

文档简介:
1、概述: 本文将描述如何将EasyEdge SDK制作成一个BIE边缘程序包,然后通过BIE云边协同将二进程序包下发至windows边缘节点并运行。BIE纳管windows边缘节点参考:在windows上安装进程模式边缘节点。
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

1、概述

本文将描述如何将EasyEdge SDK制作成一个BIE边缘程序包,然后通过BIE云边协同将二进程序包下发至windows边缘节点并运行。BIE纳管windows边缘节点参考:在windows上安装进程模式边缘节点

2、获取Windows类型SDK

参考使用EasyEdge模型转换获取边缘模型获取Window版本的模型SDK。

3、本地验证

获取windows版本EasyEdge SDK以后,在本地运行 EasyEdge.exe 程序,输入相关参数,然后启动服务。

服务启动成功后,打开浏览器,输入:http://[ip]:24401 , 然后在web界面当中上传一张图片进行测试。

注:目前最新版的SDK已经SDK封装成windows服务,后台运行的仍为easyedge_serving.exe的二进制程序。

4、利用BIE进程模式部署

本章节介绍如何使用进程模式下发模型二进制执行程序模型文件

如果要使用BIE实现模型下发并运行,需要执行一下操作:

  • 下发文件

    • 程序包:包含easyedge_serving和program.yml配置文件的压缩包,上传对象存储。在program.yml配置文件当中定义了entry。
    • 配置项:模型资源文件,上传对象存储
  • 启动参数

    • 模型资源文件下发以后的工作目录。
    • 模型序列号
    • 服务暴露IP
    • 服务暴露端口

基于上述需要的内容,我们开始后面的的操作。

4.1 制作程序包

用户下载解压后的SDK目录如下所示:

用户需要将标红文件夹中的文件剪切到外层根目录下,并新建program.yml文件,文件内容如下:

4.2 添加程序包配置项

将上述修改后的SDK文件夹压缩成zip文件并上传到对象存储中,然后在BIE程序包中引入这个压缩文件。

示例程序包可点此下载。

4.3 创建进程应用

添加进程服务,将模型以卷的形式添加到服务中。

添加启动参数及环境变量如下:

环境变量:

  • EDGE_CONTROLLER_KEY_ENABLE_DEBUG_LOG : 开启easyedge日志模式,用于debug,可关闭
  • HomeDrive :根目录
  • HomePath :easyedge授权文件需要保存路径,类似于linux下的HOME,必须配置。跟HomeDrive搭配组成完整路径。

启动参数

  • .\var\lib\baetyl\bin\data\model\ : 模型文件相对路径
  • F937-F6AE-D9A1-8C0D : SDK序列号
  • 0.0.0.0 : easyedge 服务IP
  • 24401 : easyedge 服务端口

4.4 创建对应节点并将应用部署到节点上

4.5 进程模式安装节点

4.6 验证边缘节点AI推断服务

通过浏览器打开在线推断服务:http://「ip」 :24401/,上传测试图片,推断结果如下,证明AI服务正常启动。

相似文档
  • 1、概述: 进程模式与容器模式不同,进程模式强依赖于边缘节点的运行环境变量,比如lib库、系统变量等参数。如果没有提前设置好path等环境变量,可能导致云端下发的二进制程序在边缘节点上无法正常运行,甚至运行出错。
  • 本文档介绍如何通过进程模式下发easyedge的linux-python-sdk。 本文档使用了easyedge开源的sdk做验证。 依赖环境安装: 参考 easyedge linux-python-sdk 使用指南: (1) 安装paddle环境 x86用paddlepaddle,arm可以安装paddlelite。 (2) 安装easyedge python wheel包 在下载的sdk中包含了对应的wheel包。安装版本需要与python版本对应。
  • 1、概述: 本文重点介绍使用EasyDL训练一个烟火检测模型,并获取离线部署SDK,然后通过BIE将离线模型SDK部署至边缘节点设备。 2、训练集准备: 本身使用开源烟火检测标注数据集fire-smoke-detect-yolov4,下载 烟火(2059张图像,含标签)-百度云盘下载链接-提取码3q4r。
  • 本文介绍如何在AI中台导入模型,然后在AI中台模型仓库直接下发模型至边缘节点。 前提条件: 有一个可用的测试边缘节点设备,本案例使用一个2核8G的BCC云服务器作为测试边缘节点。 按照快速入门教程,将测试边缘节点连接云端。
  • 本文介绍如何在AI中台的模型中心导入原始模型,转换成适配NVIDIA Jetson的模型文件,并下发至设备边缘。 前提条件: 有一个可测试的边缘节点设备。 边缘节点连接至云端。 有一个模型,本实验用的是一个图像分类模型fuild-mobilenceV2.zip。该模型支持识别检测猴子、鸡、狗、猫等上百种生物。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部