昇腾AI推理环境搭建

Posted 2022-12-04 Hero_HL

官网参考文档：https://support.huaweicloud.com/environment-deployment-Atlas200DK202/atlased_04_0017.html
先安装Cann Toolkit

主机环境：ubuntu18.04
初始化root密码sudo passwd root
允许root账号远程登录：sudo vim /etc/ssh/sshd_config
修改 PermitRootLogin yes 保存退出
切换到root用户或者使用root用户远程登录

1.python3.7.5手动安装

安装python所需依赖
apt-get install -y make build-essential libssl-dev zlib1g-dev libbz2-dev libreadline-dev libsqlite3-dev wget curl llvm libncurses5-dev libncursesw5-dev xz-utils tk-dev libffi-dev liblzma-dev python-openssl

1.1 获取源码

创建目录后执行wget https://www.python.org/ftp/python/3.7.5/Python-3.7.5.tgz获取源码

1.2 解压

tar zxvf Python-3.7.5.tgz

1.3 编译和安装

进入解压后目录
cd Python-3.7.5
配置安装目录为/usr/local/python3.7.5
./configure --prefix=/usr/local/python3.7.5
前面步骤不出错的话（出错了删了重新下载解压），编译和安装（需要安装依赖）
make && make install
建立软连接
ln -s /usr/local/python3.7.5/bin/python3.7 /usr/bin/python3.7
ln -s /usr/local/python3.7.5/bin/pip3.7 /usr/bin/pip3.7
输入python3.7 --version验证版本和链接

pip换源

创建目录：sudo mkdir ~/.pip
创建文件：sudo gedit ~/.pip/pip.conf

# 编辑以下内容到~/.pip/pip.conf
[global]
index-url = http://mirrors.aliyun.com/pypi/simple/
[install]
trusted-host=mirrors.aliyun.com

更新pip3.7pip3.7 install --upgrade pip

2 安装MindStudio

2.1 下载

MindStudio_versionlinux.tar.gz
Ascend-cann-toolkitversion_linux-arch.run
链接：https://support.huaweicloud.com/devg-mindstudio302/atlasms_02_0034.html

解压tar zxvf MindStudio_3.0.2_linux.tar.gz
进入解压后目录下的bin目录

2.2 安装

后续操作在主机上进行，因为安装的时候会启动界面进行配置，某些远程ssh工具无法开启远程UI界面
./MindStudio.sh

此时会自动检查环境依赖和python依赖。按照红色的提示执行
apt-get -y install xterm fonts-wqy-zenhei fonts-wqy-microhei cmake && pip3.7 install --user grpcio protobuf numpy decorator sympy cffi coverage gnureadline pylint matplotlib psutil requests scipy pandas xlrd==1.2.0 absl-py

环境依赖完成后执行会有这个弹窗，所以还需要安装java的环境
链接：https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html

创建java工作目录，下载，解压

设置jdk环境变量

文末输入

# java
export JAVA_HOME=/root/java/jdk1.8.0_301
export CLASSPATH=$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib
export PATH=$JAVA_HOME/bin:$PATH

然后source /etc/profile生效（也可以将这句话放入~/.bashrc文件末尾，自动生效）
验证

ok

重新执行./MindStudio.sh

第一次安装没有settings文件，直接点击ok

CANN-Toolkit Path找到Ascend-cann-toolkit_version_linux-arch.run所在路径

点击ok

自动更新工具版本和安装位置/usr/local/Ascend（默认），点击Next

Next

正在安装，点击Show Details查看细节，一般不会出错

尴尬的是我这里出错了，是因为我删除了系统默认的pip3和python3(因为没有指向自己安装的python3.7.5)，机灵鬼直接把pip3.7 拷贝一份为pip3

继续执行./MindStudio.sh

出现Install CANN-Toolkit successfully.即可点击Finish.

除去警告信息，可以看到

比较关键的几个操作，第一个是修改当前用户的权限，第二个是工具的目录。
然后自动重启

2.3 安装依赖

自动启动后如图

随便点个New Project

Next

Finish

File->Settings… > Plugins搜索并安装如下插件工具。(失败了多试几次)
Grep Console
Pylint
Python Community Edition

3 测试

导入模型文件usp-on-des.prototxt和caffe训练后的文件usp-on-des.caffemodel

进入模型转换，导入模型文件，caffemodle和prototxt同一目录下会自动导入caffemodel文件。Next，Next，Finish


转换失败，向上查看
报错原因sh:python3 not found
python3-config:not found

解决办法，建立软连接
ln -s /usr/local/python3.7.5/bin/python3 /usr/bin/python3
ln -s /usr/local/python3.7.5/bin/python3-config /usr/bin/python3-config
重启mindstdio