部署自动机器学习服务

部署方式

  • 基于kubernetes部署

基于kubernetes部署

note
  • 环境准备

在 docker 环境下,使用下面脚本另存为 DockerFile 文件并执行生成镜像并推送到 harbor 中。

FROM nvidia/cuda:11.2.2-cudnn8-devel-centos7
# 删除nvidia更新源以避免apt update失败,安装python3-pip会同时安装python3
RUN rm -rf /etc/apt/sources.list.d && yum -y update && yum install -y python3-devel gcc xz-devel
#删除python软连接,防止有其他版本
RUN rm -rf /usr/bin/python
# 建立python软连接到python3,以兼容使用python运行命令的情况
RUN ln -s /usr/bin/python3 /usr/bin/python
# 升级pip3以支持manylinux的方式安装wheel包
RUN pip3 install --upgrade pip
#RUN pip3 install -U --force-reinstall pip
ENV TZ=Asia/Shanghai
RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime && echo $TZ > /etc/timezone
#安装深度框架
RUN pip install torch==1.7.1 torchvision==0.8.2 -i https://pypi.mirrors.ustc.edu.cn/simple
#安装python依赖包
RUN pip3 install backports.lzma==0.0.14 && \
pip3 install dataclasses==0.8 && \
pip3 install joblib==1.0.1 && \
pip3 --default-timeout=1000 install numpy==1.19.4 -i https://pypi.douban.com/simple/ --trusted-host pypi.douban.com && \
pip3 install Pillow==8.0.1 && \
pip3 install ptflops==0.6.4 && \
pip3 install PyYAML==5.4.1 && \
pip3 --default-timeout=1000 install scikit-learn==0.24.2 -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com && \
pip3 install scipy==1.5.4 && \
pip3 install sklearn==0.0 && \
pip3 install thop==0.0.31.post2005241907 && \
pip3 install threadpoolctl==2.2.0 && \
pip3 install timm==0.3.4 && \
pip3 install typing-extensions==3.7.4.3 && \
pip3 install yacs==0.1.8 -i https://pypi.mirrors.ustc.edu.cn/simple
#docker build -t harbor.dubhe.ai/automl/nas-pytorch17 .
Last updated on