Win10系统编译Tensorflow Lite 2.3为动态链接库tensorflowlite_c.dll

Posted 2022-05-26 走召大爷

最近看到一个巨牛的人工智能教程，分享一下给大家。教程不仅是零基础，通俗易懂，而且非常风趣幽默，像看小说一样！觉得太牛了，所以分享给大家。平时碎片时间可以当小说看，【点这里可以去膜拜一下大神的“小说”】。

Tensorflow Lite官方在移动端提供了官方编译好的库，我们直接拿来用就好。Tensorflow 在Linux平台与Mac平台下编译也非常轻松，基本不会遇到太多问题（据说Google内部只用Linux与Mac）。但是在Windows下编译真是一波三折，好在已经编译成功了，记录一下Windows 10下Tensorflow Lite编译过程，帮助一下跟我一样被Tensorflow折腾的不行的人。

1 前期准备

1.1 安装 MSYS2

MSYS2官方下载地址为【https://www.msys2.org】，直接下载安装即可。安装完成后，将安装路径的usr\\bin添加到环境变量：假设安装目录为E:\\msys64，则要将E:\\msys64\\usr\\bin加入到环境变量%PATH%中。

打开控制台cmd.exe，输入如下命令：

pacman -S git patch unzip

用于安装git、patch以及unzip。

1.2 安装visual studio

visual studio可以安装2019版本或者最新版本即可。

1.3 安装python

编译过程中，需要用python运行一些脚本，去python官网下载最新版python安装即可，这里不介绍python安装。这里我本机已经安装了Anaconda，使用的python版本为3.6.3：

E:\\>python --version
Python 3.6.3 :: Anaconda 4.4.0 (64-bit)

理论上python版本直接安装最新的即可。

值得注意的是，安装完python后，还需要安装numpy库。否则编译期间会报错找不到numpy。numpy可以通过pip install numpy来安装。

1.4 下载tensorflow源码

前往github下载tensorflow源码：【https://github.com/tensorflow/tensorflow】。目前最新版本是2.4.0，2.4.0的c_api变动比较大，因此选择2.3.1版本，等2.4.x版本稳定后再考虑用更新的，如下图所示：

1.5 安装bazel

每个版本的tensorflow都有其对应的bazel版本，如果版本不一致，可能会在编译期间出现错误，这种错误还很难排查，-_-||。因此，要确认好当前的tensorflow源码应该使用哪个bazel版本。

解压缩tensorflow-2.3.1.zip文件后，打开cmd，进入tensorflow-2.3.1。输入命令cat configure.py | grep -i bazel_ver。如下：

 E:\\>cd tensorflow-2.3.1
 E:\\tensorflow-2.3.1>cat configure.py | grep -i bazel_ver
_TF_CURRENT_BAZEL_VERSION = None
_TF_MIN_BAZEL_VERSION = '3.1.0'
_TF_MAX_BAZEL_VERSION = '3.99.0'!
def check_bazel_version(min_version, max_version):
      'TF_IGNORE_MAX_BAZEL_VERSION' not in os.environ):
  global _TF_CURRENT_BAZEL_VERSION
    current_bazel_version = check_bazel_version(_TF_MIN_BAZEL_VERSION,
                                                _TF_MAX_BAZEL_VERSION)
  _TF_CURRENT_BAZEL_VERSION = convert_version_to_int(current_bazel_version)

可以看到，最小的bazel版本为3.1.0。最大版本是3.99.0，这里看最大的版本意义不大，本意应该是希望在3.1.0以上。按照我对tensorflow官方的尿性的了解， 他们每个版本都会使用当前最新的bazel，换言之，在编译tensorflow 2.3.1期间很有可能最新的bazel版本是3.1.0，也就是说官方用的是bazel 3.1.0编译的。为了确保编译不出问题，跟官方保持一致的版本是最明智的选择。

前往【https://github.com/bazelbuild/bazel/releases】下载bazel-3.1.0-windows-x86_64.exe，如下所示：

下载后，放入到E:\\bazel目录中，并把E:\\bazel加入到环境变量PATH中，同时，把bazel-3.1.0-windows-x86_64.exe重命名为bazel.exe。做完这一切后，打开cmd，输入bazel --version确认bazel是否安装成功，以及版本是否正确。

E:\\tensorflow-2.3.1>bazel --version
bazel 3.1.0

2 开始编译

2.1 执行configure.py

configure.py文件会预先设置python等一些相关可选项，需要先运行这个文件。

E:\\tensorflow-2.3.1>python configure.py
You have bazel 3.1.0 installed.
Please specify the location of python. [Default is E:\\Anaconda3\\python.exe]:


Found possible Python library paths:
  E:\\Anaconda3\\lib\\site-packages
Please input the desired Python library path to use.  Default is [E:\\Anaconda3\\lib\\site-packages]

Do you wish to build TensorFlow with ROCm support? [y/N]: n
No ROCm support will be enabled for TensorFlow.

Do you wish to build TensorFlow with CUDA support? [y/N]: n
No CUDA support will be enabled for TensorFlow.

Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is /arch:AVX]:


Would you like to override eigen strong inline for some C++ compilation to reduce the compilation time? [Y/n]: n
Not overriding eigen strong inline, some compilations could take more than 20 mins.

Would you like to interactively configure ./WORKSPACE for android builds? [y/N]: n
Not configuring the WORKSPACE for Android builds.

Preconfigured Bazel build configs. You can use any of the below by adding "--config=<>" to your build command. See .bazelrc for more details.
        --config=mkl            # Build with MKL support.
        --config=monolithic     # Config for mostly static monolithic build.
        --config=ngraph         # Build with Intel nGraph support.
        --config=numa           # Build with NUMA support.
        --config=dynamic_kernels        # (Experimental) Build kernels into separate shared objects.
        --config=v2             # Build TensorFlow 2.x instead of 1.x.
Preconfigured Bazel build configs to DISABLE default on features:
        --config=noaws          # Disable AWS S3 filesystem support.
        --config=nogcp          # Disable GCP support.
        --config=nohdfs         # Disable HDFS support.
        --config=nonccl         # Disable NVIDIA NCCL support.

运行期间，会确认python路径、是否配置android等等，因为我这边是编译精简CPU版的tflite，且是为了编译dll。因此android、cuda、ROCm等我都选择了N。

2.2 编译

直接执行bazel进行编译即可：

bazel build -c opt --config=mkl  //tensorflow/lite/c:tensorflowlite_c.dll

稍等片刻，等待自动下载相关库，并完成编译：

····
INFO: From Linking tensorflow/lite/c/tensorflowlite_c.dll:
LINK : warning LNK4044: 无法识别的选项“/s”；已忽略
  正在创建库 bazel-out/x64_windows-opt/bin/tensorflow/lite/c/tensorflowlite_c.dll.if.lib 和对象
bazel-out/x64_windows-opt/bin/tensorflow/lite/c/tensorflowlite_c.dll.if.exp
Target //tensorflow/lite/c:tensorflowlite_c.dll up-to-date:
  bazel-bin/tensorflow/lite/c/tensorflowlite_c.dll
INFO: Elapsed time: 291.250s, Critical Path: 60.46s
INFO: 305 processes: 305 local.
INFO: Build completed successfully, 444 total actions

打开E:\\tensorflow-2.3.1\\bazel-out\\x64_windows-opt\\bin\\tensorflow\\lite\\c路径即可得看到tensorflowlite_c.dll和tensorflowlite_c.dll.if.lib两个文件。这里个文件即为我们最终的结果。

2.3 抠出头文件

光有dll和lib还不够，我们还需要头文件才能在c++代码里面引用。最简单的方法是直接将整个tensorflow源码根路径加入到include路径中，这样的话整个项目会过于庞大。

最佳做法是将E:\\tensorflow-2.3.1\\tensorflow目录下，只保留lite目录，其他目录删除。在lite目录中只保留c和core两个子目录，其他的删除。在c和core两个子目录中，只保留.h文件，其他的文件删除。

简而言之，只需要E:\\tensorflow-2.3.1\\tensorflow\\lite\\c与E:\\tensorflow-2.3.1\\tensorflow\\lite\\core两个目录下的.h文件。

3 打包下载

由于各种因素问题，可能有些读者会遇到各种问题没法解决。问题不大，我这里提供已经编译好的直接下载。

1. bazel 3.1.0下载：http://askonline.tech/download/2.html
2. tensorflow 2.3.1源码：http://askonline.tech/download/3.html
3. tflite dll 2.3.1包含头文件与dll和lib文件：http://askonline.tech/download/1.html

也欢迎关注我的公众号【Python学习实战】第一时间获取我的最新文章：

4. bazel 3.1.0 关注【Python学习实战】公众号后回复：bazel
5. tensorflow 2.3.1源码。关注【Python学习实战】公众号后回复：tf
6. tflite dll 2.3.1包含头文件与dll和lib文件。关注【Python学习实战】公众号后回复：tflite