一键部署模型转换和模型度量算法

本文档为模型转换算法和模型度量算法的一键式部署方案,使用此脚本后则无需部署后续的部署模型转换算法部署模型度量算法

模型转换算法应用于模型管理模块,通过该算法,可将 Tensorflow SaveModel 模型转换为 ONNX 模型。

模型度量算法应用于模型管理和模型炼知模块,通过该算法,可对炼知模型进行打包,以及度量不同模型之间的可迁移性。

一键部署

note

特别提醒:

  1. 请在 Kubernetes 集群 Master 节点执行部署脚本,要求 Master 节点有 Gpu,若不符合条件,请按照部署模型转换算法部署模型度量算法单独部署。

  2. 若部署意外中断或失败,请重新执行部署脚本。

  3. 在脚本执行开始时,提示填写的信息为必填项,请勿跳过,如果填写错误请执行 Ctrl c 命令停止执行脚本后重新执行。

按照以下步骤进行部署:

# 下载部署脚本:
$ wget http://122.224.169.50:30000/index.php/s/TzzxEq3gSr9p4Kq/download -O dubheDeployScriptfile.zip
# 解压:
$ unzip dubheDeployScriptfile.zip
# 进入model_converter_measuring目录:
$ cd dubheDeployScriptfile/model_converter_measuring/
# 赋予脚本执行权限:
$ chmod a+x deploy_converter_measuring.sh
# 执行脚本:
$ bash deploy_converter_measuring.sh

部署完成后,执行以下命令,查看算法是否部署成功:

# 查看 Pod model-converter-prod-0、model-measuring-prod-0 是否为 Running 状态
$ kubectl get pod -n kube-system
# 查看 Service model-converter-prod、model-measuring-prod 是否存在
$ kubectl get svc -n kube-system
Last updated on