安装MindSpore Serving

查看源文件

安装

MindSpore Serving当前仅支持Ascend 310、Ascend 910和Nvidia GPU环境。

MindSpore Serving依赖MindSpore训练推理框架，安装完MindSpore，再安装MindSpore Serving。可以采用pip安装或者源码编译安装两种方式。

pip安装

使用pip命令安装，请从MindSpore Serving下载页面下载并安装whl包。

pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/{version}/Serving/{arch}/mindspore_serving-{version}-{python_version}-linux_{arch}.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple

  • {version}表示MindSpore Serving版本号，例如下载1.1.0版本MindSpore Serving时，{version}应写为1.1.0。

  • {arch}表示系统架构，例如使用的Linux系统是x86架构64位时，{arch}应写为x86_64。如果系统是ARM架构64位，则写为aarch64。

  • {python_version}表示用户的Python版本，Python版本为3.7.5时，{python_version}应写为cp37-cp37m。Python版本为3.9.0时，则写为cp39-cp39。请和当前安装的MindSpore使用的Python环境保持一致。

源码编译安装

下载源码，下载后进入serving目录。

方式一，指定Serving依赖的已安装或编译的MindSpore包路径，安装Serving：

sh build.sh -p $MINDSPORE_LIB_PATH

其中，build.sh为serving目录下的编译脚本文件，$MINDSPORE_LIB_PATH为MindSpore软件包的安装路径下的lib路径，例如，softwarepath/mindspore/lib，该路径包含MindSpore运行依赖的库文件。

方式二，直接编译Serving，编译时会配套编译MindSpore的包，需要配置MindSpore编译时的环境变量 ：

# GPU
sh build.sh -e gpu
# Ascend 310 and Ascend 910
sh build.sh -e ascend

其中，build.sh为serving目录下的编译脚本文件，编译完后，在serving/third_party/mindspore/build/package/目录下找到MindSpore的whl安装包进行安装：

pip install mindspore_ascend-{version}-{python_version}-linux_{arch}.whl

同时在serving/build/package/目录下找到Serving的whl安装包进行安装：

pip install mindspore_serving-{version}-{python_version}-linux_{arch}.whl

验证是否成功安装

执行以下命令，验证安装结果。导入Python模块不报错即安装成功：

from mindspore_serving import server

配置环境变量

MindSpore Serving运行需要配置以下环境变量：

  • MindSpore Serving依赖MindSpore正确运行，运行MindSpore需要完成环境变量配置。