模型推理ubuntu 源码编译 megflow
Posted 极智视界
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了模型推理ubuntu 源码编译 megflow相关的知识,希望对你有一定的参考价值。
欢迎关注我的公众号 [极智视界],获取我的更多笔记分享
O_o
>_<
o_O
O_o
~_~
o_O
本文主要介绍一下 ubuntu 下源码编译 megflow 的方法。
MegFlow 是旷视开源的推理框架,致力于提供快速视觉应用落地流程,MegFlow 对内结合 MegEngine 完成训推一体化落地部署,对外完成 MegEngine / Brain++ 的生态闭环。这里我们来看一下 ubuntu 下怎么 build source for MegFlow。
首先还是得说一下 Rust,Rust 是一种系统级编程语言,注重高性能、可靠性和生产力,而 MegFlow 的主体部分就是使用 Rust 编写,所以依赖中需要安装 Rust。
1、安装依赖
安装刚才上面提到的 Rust。
sudo apt install curl
若成功最好了,若报错 curl (48) An unknown option was passed in to libcurl
,则解决方法如下:
[报错解决]
curl --version
查看版本是否一致:
这里版本不一致,可以看到 ubuntu 自带的是 7.65.3,去源码编译 curl。
源码下载网址:https://curl.se/download/
curl 源码编译步骤:
cd curl-7.65.3
./configure
make
make install
这个时候再查看下版本:
curl --version
应该还是跟之前的报错一样的,需要看一下你现在到底调了哪个 curl:
which curl
然后将刚编译出来的 curl 执行程序替换系统里的:
cp path/curl-7.58.0/src/.libs/curl /root/anaconda3/bin/
以上解决了 curl 的安装问题,然后我们继续安装 Rust。
curl --proto '=https' --tlsv1.2 https://sh.rustup.rs -sSf | sh
成功后验证一下 cargo 是否能正常执行:
cargo --version
cargo 是 Rust 的包管理器兼编译辅助工具,类似 Java maven/go pkg/C++ CMake 的角色。
2、编译
MegFlow 依赖 ffmpeg,安排:
sudo apt install yasm git build-essential ffmpeg
验证 ffmpeg 是否安装成功。
ffmpeg -version
安装 clang:
sudo apt install clang
验证 clang 是否安装成功:
clang --verison
下载 MegFlow 源码包:
git clone --recursive https://github.com/MegEngine/MegFlow --depth=1
开始编译:
cd MegFlow
cargo build
# 编译 python 接口
cd flow-python
python setup.py install --user
3、测试
cd MegFlow/flow-python
## 编译出 megflow bin
cargo build --example run_with_plugins --release
ln -s ../../target/example/run_with_plugins
./run_with_plugins -p logical_test
好了,收工~
【公众号传送】
扫描下方二维码即可关注我的微信公众号【极智视界】,获取更多AI经验分享,让我们用极致+极客的心态来迎接AI !
以上是关于模型推理ubuntu 源码编译 megflow的主要内容,如果未能解决你的问题,请参考以下文章
“零”代码改动,静态编译让太乙Stable Diffusion推理速度翻倍