Win10系统编译Tensorflow Lite 2.3为动态链接库tensorflowlite_c.dll

Posted 走召大爷

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Win10系统编译Tensorflow Lite 2.3为动态链接库tensorflowlite_c.dll相关的知识,希望对你有一定的参考价值。

最近看到一个巨牛的人工智能教程,分享一下给大家。教程不仅是零基础,通俗易懂,而且非常风趣幽默,像看小说一样!觉得太牛了,所以分享给大家。平时碎片时间可以当小说看,【点这里可以去膜拜一下大神的“小说”】

Tensorflow Lite官方在移动端提供了官方编译好的库,我们直接拿来用就好。TensorflowLinux平台与Mac平台下编译也非常轻松,基本不会遇到太多问题(据说Google内部只用LinuxMac)。但是在Windows下编译真是一波三折,好在已经编译成功了,记录一下Windows 10Tensorflow Lite编译过程,帮助一下跟我一样被Tensorflow折腾的不行的人。

1 前期准备

1.1 安装 MSYS2

MSYS2官方下载地址为【https://www.msys2.org】,直接下载安装即可。安装完成后,将安装路径的usr\\bin添加到环境变量:假设安装目录为E:\\msys64,则要将E:\\msys64\\usr\\bin加入到环境变量%PATH%中。

打开控制台cmd.exe,输入如下命令:

pacman -S git patch unzip

用于安装gitpatch以及unzip

1.2 安装visual studio

visual studio可以安装2019版本或者最新版本即可。

1.3 安装python

编译过程中,需要用python运行一些脚本,去python官网下载最新版python安装即可,这里不介绍python安装。这里我本机已经安装了Anaconda,使用的python版本为3.6.3

E:\\>python --version
Python 3.6.3 :: Anaconda 4.4.0 (64-bit)

理论上python版本直接安装最新的即可。

值得注意的是,安装完python后,还需要安装numpy库。否则编译期间会报错找不到numpynumpy可以通过pip install numpy来安装。

1.4 下载tensorflow源码

前往github下载tensorflow源码:【https://github.com/tensorflow/tensorflow】。目前最新版本是2.4.02.4.0c_api变动比较大,因此选择2.3.1版本,等2.4.x版本稳定后再考虑用更新的,如下图所示:

1.5 安装bazel

每个版本的tensorflow都有其对应的bazel版本,如果版本不一致,可能会在编译期间出现错误,这种错误还很难排查,-_-||。因此,要确认好当前的tensorflow源码应该使用哪个bazel版本。

解压缩tensorflow-2.3.1.zip文件后,打开cmd,进入tensorflow-2.3.1。输入命令cat configure.py | grep -i bazel_ver。如下:

 E:\\>cd tensorflow-2.3.1
 E:\\tensorflow-2.3.1>cat configure.py | grep -i bazel_ver
_TF_CURRENT_BAZEL_VERSION = None
_TF_MIN_BAZEL_VERSION = '3.1.0'
_TF_MAX_BAZEL_VERSION = '3.99.0'!
def check_bazel_version(min_version, max_version):
      'TF_IGNORE_MAX_BAZEL_VERSION' not in os.environ):
  global _TF_CURRENT_BAZEL_VERSION
    current_bazel_version = check_bazel_version(_TF_MIN_BAZEL_VERSION,
                                                _TF_MAX_BAZEL_VERSION)
  _TF_CURRENT_BAZEL_VERSION = convert_version_to_int(current_bazel_version)

可以看到,最小的bazel版本为3.1.0。最大版本是3.99.0,这里看最大的版本意义不大,本意应该是希望在3.1.0以上。按照我对tensorflow官方的尿性的了解, 他们每个版本都会使用当前最新的bazel,换言之,在编译tensorflow 2.3.1期间很有可能最新的bazel版本是3.1.0,也就是说官方用的是bazel 3.1.0编译的。为了确保编译不出问题,跟官方保持一致的版本是最明智的选择。

前往【https://github.com/bazelbuild/bazel/releases】下载bazel-3.1.0-windows-x86_64.exe,如下所示:

下载后,放入到E:\\bazel目录中,并把E:\\bazel加入到环境变量PATH中,同时,把bazel-3.1.0-windows-x86_64.exe重命名为bazel.exe。做完这一切后,打开cmd,输入bazel --version确认bazel是否安装成功,以及版本是否正确。

E:\\tensorflow-2.3.1>bazel --version
bazel 3.1.0

2 开始编译

2.1 执行configure.py

configure.py文件会预先设置python等一些相关可选项,需要先运行这个文件。

E:\\tensorflow-2.3.1>python configure.py
You have bazel 3.1.0 installed.
Please specify the location of python. [Default is E:\\Anaconda3\\python.exe]:


Found possible Python library paths:
  E:\\Anaconda3\\lib\\site-packages
Please input the desired Python library path to use.  Default is [E:\\Anaconda3\\lib\\site-packages]

Do you wish to build TensorFlow with ROCm support? [y/N]: n
No ROCm support will be enabled for TensorFlow.

Do you wish to build TensorFlow with CUDA support? [y/N]: n
No CUDA support will be enabled for TensorFlow.

Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is /arch:AVX]:


Would you like to override eigen strong inline for some C++ compilation to reduce the compilation time? [Y/n]: n
Not overriding eigen strong inline, some compilations could take more than 20 mins.

Would you like to interactively configure ./WORKSPACE for android builds? [y/N]: n
Not configuring the WORKSPACE for Android builds.

Preconfigured Bazel build configs. You can use any of the below by adding "--config=<>" to your build command. See .bazelrc for more details.
        --config=mkl            # Build with MKL support.
        --config=monolithic     # Config for mostly static monolithic build.
        --config=ngraph         # Build with Intel nGraph support.
        --config=numa           # Build with NUMA support.
        --config=dynamic_kernels        # (Experimental) Build kernels into separate shared objects.
        --config=v2             # Build TensorFlow 2.x instead of 1.x.
Preconfigured Bazel build configs to DISABLE default on features:
        --config=noaws          # Disable AWS S3 filesystem support.
        --config=nogcp          # Disable GCP support.
        --config=nohdfs         # Disable HDFS support.
        --config=nonccl         # Disable NVIDIA NCCL support.

运行期间,会确认python路径、是否配置android等等,因为我这边是编译精简CPU版的tflite,且是为了编译dll。因此androidcudaROCm等我都选择了N

2.2 编译

直接执行bazel进行编译即可:

bazel build -c opt --config=mkl  //tensorflow/lite/c:tensorflowlite_c.dll

稍等片刻,等待自动下载相关库,并完成编译:

····
INFO: From Linking tensorflow/lite/c/tensorflowlite_c.dll:
LINK : warning LNK4044: 无法识别的选项“/s”;已忽略
  正在创建库 bazel-out/x64_windows-opt/bin/tensorflow/lite/c/tensorflowlite_c.dll.if.lib 和对象
bazel-out/x64_windows-opt/bin/tensorflow/lite/c/tensorflowlite_c.dll.if.exp
Target //tensorflow/lite/c:tensorflowlite_c.dll up-to-date:
  bazel-bin/tensorflow/lite/c/tensorflowlite_c.dll
INFO: Elapsed time: 291.250s, Critical Path: 60.46s
INFO: 305 processes: 305 local.
INFO: Build completed successfully, 444 total actions

打开E:\\tensorflow-2.3.1\\bazel-out\\x64_windows-opt\\bin\\tensorflow\\lite\\c路径即可得看到tensorflowlite_c.dlltensorflowlite_c.dll.if.lib两个文件。这里个文件即为我们最终的结果。

2.3 抠出头文件

光有dlllib还不够,我们还需要头文件才能在c++代码里面引用。最简单的方法是直接将整个tensorflow源码根路径加入到include路径中,这样的话整个项目会过于庞大。

最佳做法是将E:\\tensorflow-2.3.1\\tensorflow目录下,只保留lite目录,其他目录删除。在lite目录中只保留ccore两个子目录,其他的删除。在ccore两个子目录中,只保留.h文件,其他的文件删除。

简而言之,只需要E:\\tensorflow-2.3.1\\tensorflow\\lite\\cE:\\tensorflow-2.3.1\\tensorflow\\lite\\core两个目录下的.h文件。

3 打包下载

由于各种因素问题,可能有些读者会遇到各种问题没法解决。问题不大,我这里提供已经编译好的直接下载。

  1. bazel 3.1.0下载:http://askonline.tech/download/2.html
  2. tensorflow 2.3.1源码:http://askonline.tech/download/3.html
  3. tflite dll 2.3.1包含头文件dlllib文件:http://askonline.tech/download/1.html

也欢迎关注我的公众号【Python学习实战】第一时间获取我的最新文章:

4. bazel 3.1.0 关注【Python学习实战】公众号后回复:bazel
5. tensorflow 2.3.1源码。关注【Python学习实战】公众号后回复:tf
6. tflite dll 2.3.1包含头文件dlllib文件。关注【Python学习实战】公众号后回复:tflite

以上是关于Win10系统编译Tensorflow Lite 2.3为动态链接库tensorflowlite_c.dll的主要内容,如果未能解决你的问题,请参考以下文章

sh Tensorflow-lite bazel编译

Bintray 502 的 Android 存储库 Flutter TensorFlow-lite 中的问题

tensorflow lite添加自定义操作

win10下cmake 编译tensorflow1.11.0

tensorflow lite 转换失败。 “未定义符号:_ZTIN10tensorflow6DeviceE”发生

谷歌移动端深度学习框架 TensorFlow Lite 正式发布