快速安装TinyMS

新用户上手安装

Pypi

对于拥有干净环境的用户,在满足以下环境要求后,推荐使用 pypi 安装TinyMS。安装python环境,可以使用 Anaconda

环境要求

  • OS: Ubuntu 18.04 or Windows 10

  • Python: 3.7.5

中国国内用户可以运行以下代码配置国内镜像源,解决下载速度慢的问题

mkdir -pv /root/.pip \
&& echo "[global]" > /root/.pip/pip.conf \
&& echo "trusted-host=mirrors.aliyun.com" >> /root/.pip/pip.conf \
&& echo "index-url=http://mirrors.aliyun.com/pypi/simple/" >> /root/.pip/pip.conf
pip install tinyms==0.3.1

注:在执行过程中可能会出现一些问题,以下可能情况仅供参考。在安装过程中你可能会碰到其它问题,我们欢迎你在我们的社区,提出您的Issues和Pull requests,我们会及时回复您。

  1. Error 1:若使用镜像源执行安装命令可能会报 Could not find a version that satisfies the requirement tinyms==0.3.1

    解决方案:

    • 可以试试使用默认官方源,直接在末尾追加-i https://pypi.python.org/simple/,采用默认官方源下载速度可能较慢,请耐心等待:smile:

  2. Error 2:如果是windows用户请确保是否安装了Microsoft VC++ 14.0,若没有,安装过程中可能会报ERROR:Microsoft Visual C++ 14.0 or greater is required.Get it with “Microsoft C++ Build  Tools”: https://visualstudio.microsoft.com/visual-cpp-build-tools/

    解决方案:

    • 因为TinyMS是对Python3.7.5环境依赖的,而Python3是通过VC++ 14.0编译的。我们可以根据错误提示,在提供的链接下载Microsoft C++ Build Tools,注意在安装过程中需在使用C++桌面的桌面开发模块勾选windows 10 SDK用于Windows的C++ CMake工具俩个组件,相关安装详情可以参考Visual studio 生成工具安装

Docker

对于不想改变本地环境设置的用户,推荐使用 docker 进行安装

  • docker: v18.06.1-ce

如果想要体验本教程中的.ipynb教程,建议拉取TinyMS jupyter版本的镜像,该镜像中除了tinyms外还内置了jupyter组件

如果想要在WEB界面体验图片可视化推理,建议拉取TinyMS nginx版本的镜像,该镜像中除了tinyms外还内置了nginx组件

  • 普通版本

docker pull tinyms/tinyms:0.3.1
docker run -it tinyms/tinyms:0.3.1
  • Jupyter版本

如果想体验jupyter教程,运行下列命令行

docker pull tinyms/tinyms:0.3.1-jupyter
docker run -it --net=host tinyms/tinyms:0.3.1-jupyter

在本地打开浏览器,输入

<公网IP地址>:8888

例如 188.8.8.88:8888,之后在弹出的页面中,密码输入tinyms,就可以远程登录jupyter

  • Nginx版本

如果想在可视化WEB界面体验图片推理服务,运行下列命令行

docker pull tinyms/tinyms:0.3.1-nginx
docker run -itd --name=tinyms-nginx -p 80:80 tinyms/tinyms:0.3.1-nginx /bin/bash

docker exec -it tinyms-nginx /bin/bash
entrypoint.sh <容器所在宿主机的公网IP地址>

在本地打开浏览器,输入

<容器所在宿主机的公网IP地址>:80

进阶用户源码安装

想针对TinyMS进行开发的开发者,可以通过源码安装

sudo apt-get install -y libssl-dev
git clone https://github.com/tinyms-ai/tinyms.git
cd tinyms
pip install -r requirements.txt
python setup.py install

验证

进入 pythonjupyternginx 环境,输入以下代码验证安装

import tinyms as ts
from tinyms.primitives import tensor_add

x = ts.ones([2, 3])
y = ts.ones([2, 3])
print(tensor_add(x, y))

如果可以看到如下输出,则证明安装成功

[[2. 2. 2.]
 [2. 2. 2.]]

Notes

在我们使用TinyMS 0.3.1的时候可能会报以下错误

错误详情:

[ERROR] ME(24148:23792,MainProcess):2022-01-25-21:59:25.562.448 [mindspore\_extends\parse\parser.py:565] When eval 'P.tensor_add(identity, x)' by using Fallback feature, an error occurred: name 'identity' is not defined. You can try to turn off the Fallback feature by 'export MS_DEV_ENABLE_FALLBACK=0'.

解决方案:

根据错误提示,我们可以通过以下命令将Fallback feature关掉

对于一般用户,在命令行工具执行以下命令:

export MS_DEV_ENABLE_FALLBACK=0

对于使用jupyter的用户,在cell执行以下命令:

!export MS_DEV_ENABLE_FALLBACK=0

如果您在使用TinyMS 0.3.1过程中报其它ERROR,在您尝试解决ERROR过后,依然有问题,欢迎您在我们的社区,提出您的Issues和Pull requests,我们会及时回复您。