Android Things 专题6 完整的栗子:运用TensorFlow解析图像

Posted llguanli

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Android Things 专题6 完整的栗子:运用TensorFlow解析图像相关的知识,希望对你有一定的参考价值。

文| 谷歌开发技术专家 (GDE) 王玉成 (York Wang)

前面絮叨了这么多,好像还没有一个整体的概念,我们怎样写一个完整的代码呢?

如今深度学习非常火。那我们就在android Things中。利用摄像头抓拍图片。让 TensorFlow 去识别图像。最后用扬声器告诉我们结果。

是不是非常酷?说主要的功能就说了这么长一串,那垒代码得垒多久啊?

项目结构

我们就从 Android Studio 的环始境開始说起吧。

启动 Android Studio 之后,务必把 SDK Tools 的版本号升级到 24 及以上。然后再把 SDK 升级到 Android 7.0 及以上。让 Android Studio 自己完毕相关组件的更新。导入项目,项目的结构例如以下:
技术分享图片
代码中的 imageclassifier 是用于跟 TensorFlow 做交互的,还有摄头。图片处理的相关 handler。

我们再来看看外部的引用库:
技术分享图片

包含了 Android Things 和 TensorFlow 的相关库。当然,Android 的 API 的版本号是24。gradle 的依赖和 Manifest 中的 filer 是和之前搭建开发环境的解说一致的。


引用的 TensorFlow 的库是 aar 打包的 Tensorflow-Android-Inference-alpha-debug.aar。这就意味着。我们不须要 NDK 环境就能够编译整个项目了。

主要是留意 dependencies 这一项。包含了 TensorFlow 的库和 Android thing 的库:
技术分享图片

再申请了摄头相关的权限。

补充一下,Android Things 是不支持动态权限的申请的。
技术分享图片

硬件连接

接下来便是硬件怎样连接了。

技术分享图片

硬件清单例如以下:
Android Things 兼容的开发板,比方 Raspberry Pi 3
Android Things 兼容的摄像头,比方 Raspberry Pi 3 摄头模块
元器件:
1 个button,见面包板
2 个电阻,这块儿必须要说明一下:因为图片是接的 5V 的电压,一般来说 GPIO 和 led 的承压能力是 3V。有些 GPIO 是兼容 5V 的。所以中间须要串联 100~200 欧的电阻。当然,为了保险,建议用 3.3V 的电压。
1 个LED灯
1 个面包板
杜邦线若干
可选:扬声器或者耳机
可选:HDMI输出

连完了硬件。我们这时候就要理解操作流程了。

操作流程

依照前面解说的内容,用 Andorid Studio,连接 ADB,配置好开发板的 Wi-Fi。然后把应用载入到开发板上。

操作流程例如以下:
重新启动设备,执行程序,直到 LED 灯開始闪烁;
把镜头对准猫啊。狗啊。或者一些家具;
按下开关,開始拍摄图片;
在 Raspberry Pi 3 中。一般在 1s 之内。能够完毕图片抓拍。经 Tensorflow 处理。然后再通过 TTS 放出声音。

在执行的过程中 LED 灯是熄灭的。
Logcat 中会打印出终于的结果。假设是有显示设备连接的话,图片和结果都会显示出来;
假设有扬声器或者是耳机的话。会把结果语音播报出来。

因为代码的结构特别简单,注意一下几段关健的操作就可以。想必图形、摄头的操作在Android 的编程中大家都会了。所以不做解说了。

代码流程

主要是看 LED 的初始化操作:
技术分享图片

有必要说一下,ImageClassifierActivity.java 是应用唯一的 Activity 的入口。

在 Manifest 中已经有定义。它初始化了 LED, Camera, TensorfFlow 等组件。当中,我们用到的 Button 是 BCM32 这个管脚,用到的 LED 是 BCM6 管脚。相关的初始化在这个 Activity 中已经完毕。
技术分享图片

这部分代码是捕捉按键按下的代码。当按下按键时,摄头開始捕捉数据。

技术分享图片
把摄像头拍摄的数据转成 Bitmap 文件之后,我们会调用 TensorFlow 来处理图像。

技术分享图片
这个函数调用了 TensorFlow 进行处理。最后把结果输出到 logcat 中。

假设代码中调用了 tts 引擎。那么则把结果转成语音读出来。看来,最重要的就是 TensorFlowClassifie 类的 recognizeImage() 这个接口了。我们继续往下看。


技术分享图片

这是最后的一步。调用 TensorFlow 进行图像识别:
把 RGB 图像转成 TensorFlow 能够识别的数据。
把数据拷到 TensorFlow 中。
识别出图像。给出结果。

调用 TensorFlow 的过程还是挺好玩的。也挺方便。那么,为啥 TensorFlow 一下子就能够识别出是什么图片呢?Tensorflow 的官网给出的解答:
www.tensorflow.org/tutorials/image_recognition

有一点须要提示,TensorFlow 的图像识别分类能够用网络提交到server识别,也能够离线的数据识别。能够先把 200M 左右的识别数据放在本地,然后提交后识别。如今大概能分出 1000 个类别的图像,哪 1000 个类别呢?项目代码中已经包含了哦。

是不是运用 TensorFlow 来处理物联网的数据会特别简单。不光是 TensorFlow, Firebase 也能够用到 Android Things 中来。这功能,强大的没话说了。

今天提到的这个项目,来源于 Google 在 GitHub 上维护的项目,项目的地址是
github.com/androidthings/sample-tensorflow-imageclassifier

当然,GitHub 上还有非常多 Android Things 的代码能够參考。

是不是迫不急待的自己写一个应用呢?实际上,这个项目稍加修改便能有新的玩法。比如加上一个红外感应器,一旦有生物在附近就立即拍图片,而且识别。

大开你的脑洞吧

后记

这一篇文章是这个专题的最后一篇了。

写完整个专题,发现 Android Things 带给开发人员太多太多的便利,怎样烧写文件?怎样运用 SDK?甚至怎样用 Google 的其他服务做物联网相关的数据处理?都有太多太多的现成的方案供我们选择。感叹使用 Android Things 进行物联网应用开发实在太方便了!

您假设有不论什么涉及到 Android Things 方面的想法,都欢迎大家在下方留言,我们会把好的建议转交给 Android Things 的产品部门。

或许在某一天,你的建议就是 Andorid Things 的一部分。

































以上是关于Android Things 专题6 完整的栗子:运用TensorFlow解析图像的主要内容,如果未能解决你的问题,请参考以下文章

Android Things 专题6 完整的栗子:运用TensorFlow解析图像

Android Things 专题6 完整的栗子:运用TensorFlow解析图像

Android Things 专题6 完整的栗子:运用TensorFlow解析图像

Android Things专题2 硬件介绍

Android Things专题 1.前世今生

Android Things专题 1.前世今生