基于树莓派的智能魔镜，支持人脸识别情感监测热词唤醒语音交互，以及与手机APP交互温湿度/新闻热点/日期显示等

Posted 2022-11-19

目录

​​功能清单​​

​​界面演示​​

​​系统框图​​

​​设计方案​​

​​整体结构​​

​​网站设计​​

​​ app设计​​

​​ 魔镜界面设计​​

​​ 温湿度传感器​​

​​ 光电传感器​​

​​相关教程​​

​​第三方库的安装​​

​​安装库​​

​​换源​​

​​安装mqtt​​

​​安装Qt5​​

​​git clone提速​​

​​安装Adafruit_DHT​​

​​opencv安装​​

​​安装字体​​

​​安装portaudio​​

​​安装snowboy​​

​​安装Gst（playsound用到）​​

​​安装nginx​​

​​其他库​​

​​框图与界面绘制​​

​​服务器部署​​

​​web环境​​

​​第1步：安装Apache​​

​​第2步：安装mysql（Ubuntu）​​

​​第2步：安装MySQL（Raspbian）​​

​​第3步：安装php​​

​​第4步：重新启动apache以使所有更改生效​​

​​第5步：安装phpmyadmin​​

​​网站部署​​

​​放置页面​​

​​测试是否能上传图片成功​​

​​MQTT环境​​

​​Mosquitto安装​​

​​启动服务端​​

​​异常情况​​

​​人脸识别​​

​​流程图​​

​​情感检测API​​

---

---

Bilibili视频教程：使用树莓派4 DIY智能魔镜_哔哩哔哩_bilibili

Github源码：基于树莓派的智能魔镜

---

功能清单

•  硬件组装
•  系统唤醒与亮屏
•  获取传感器信息并显示
•  获取天气、新闻等信息并显示
•  UI界面绘制魔镜界面绘制
•  安卓APP
•  获取备忘录信息并显示
•  推送使用情况到APP（能推，但不知道推啥）
•  内容整合
•  人脸识别
•  情感监测
•  语音对话

界面演示

系统框图

设计方案

整体结构

网站设计

 app设计

 魔镜界面设计

 温湿度传感器

 光电传感器

 

相关教程

第三方库的安装

安装库

import paho.mqtt.client as pahomqtt
from PyQt5 import QtCore, QtGui, QtWidgets
from PyQt5.QtWidgets import QApplication
from PyQt5 import QtGui, QtCore, QtWidgets
from PyQt5.QtWidgets import *
from PyQt5.QtCore import *
from PyQt5.QtGui import *
from bs4 import BeautifulSoup
import Adafruit_DHT
from aip import AipSpeech
from aip import AipFace
from playsound import playsound
import pyaudio
import requests
import cv2
import snowboydecoder

from mirrorUI import Ui_MainWindow
from face import FaceFunction
from speech import SpeechFunction

import sys, os
import time
import string
import random
import hashlib
import base64
import signal
import RPi.GPIO as GPIO
import json
import wave
import urllib
import urllib3
import re
import threading

换源

sudo nano /etc/apt/sources.list
deb http://mirrors.tuna.tsinghua.edu.cn/raspbian/raspbian/ buster main non-free contrib
deb-src http://mirrors.tuna.tsinghua.edu.cn/raspbian/raspbian/ buster main non-free contrib

sudo vim /etc/apt/sources.list.d/raspi.list
deb http://mirrors.tuna.tsinghua.edu.cn/raspberrypi/ buster main ui

sudo apt-get update
sudo apt-get upgrade

sudo mkdir ~/.pip
sudo vim ~/.pip/pip.conf
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
[install]
trusted-host=mirrors.aliyun.com

安装mqtt

pip3 -V
pip3 install paho-mqtt

安装Qt5

sudo apt-get install python3-pyqt5 -y

git clone提速

git config --global http.postBuffer 524288000

安装Adafruit_DHT

sudo git clone https://github.com/adafruit/Adafruit_Python_DHT.git
cd Adafruit_Python_DHT
sudo python3 setup.py install

opencv安装

sudo apt-get install libhdf5-dev libhdf5-serial-dev -y
sudo apt-get install libqtgui4 libqtwebkit4 libqt4-test python3-pyqt5 -y
sudo apt-get install libatlas-base-dev -y
sudo apt-get install libjasper-dev -y

pip3 install opencv_python

安装字体

复制到/usr/share/fonts/

安装portaudio

下载portaudio库http://portaudio.com/download.html
sudo apt install libasound-dev # 一定要有这一句
sudo ./configure
sudo make
sudo make install
vim ~/.bashrc
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/lib
sudo ldconfig

安装snowboy

sudo apt-get install pulseaudio -y
sudo apt-get install sox -y
sox -d -d  # 测试
sudo apt-get install python3-pyaudio -y
sudo apt-get install swig -y
sudo apt-get install libatlas-base-dev -y
git clone https://github.com/Kitt-AI/snowboy.git
cd snowboy/swig/Python3 && make

// snowboydecoder将第 5 行代码 from * import snowboydetect 改为 import snowboydetect 即可直接运行
// 具体用法可参考链接：https://www.jianshu.com/p/a1c06020f5fd

安装Gst（playsound用到）

sudo apt-get install gir1.2-gst-plugins-base-1.0 -y

安装nginx

1、安装nginx  web服务器
sudo apt-get install nginx -y
2、启动nginx
sudo /etc/init.d/nginx start
nginx的www根目录默认在 /usr/share/nginx/html中
3、修改nginx的配置文件
sudo vim /etc/nginx/sites-available/default

listen   8080;## listen for ipv4; this line is default and implied
//监听的端口号，如果与其它软件冲突，可以在这里更改
root /usr/share/nginx/www;
//nginx 默认路径html所在路径
index index.html index.htm index.php;
//nginx默认寻找的网页类型，可以增加一个index.php

其他库

pip3 install bs4 requests playsound baidu-aip pyaudio lxml

框图与界面绘制

1、安装Qt

​ ​​Index of /archive/qt/5.9/5.9.3​​

下载exe：​​qt-opensource-windows-x86-5.9.3.exe​​

2、使用下载工具IDM，100M宽带下载速度能达到12M/s

3、下载过程中，先去注册一个Qt账号

​​Qt Account Login​​

4、.ui转.py

pyuic5 -o mirrorUI.py mirrorUI.ui

5、mirrorUI.py添加启动语句

import sys
if __name__ == __main__:
    app = QtWidgets.QApplication(sys.argv)   # 定义Qt应用
    MainWindow = QtWidgets.QMainWindow()     # 窗口实例
    ui = Ui_MainWindow()                     # 界面UI实例
    ui.setupUi(MainWindow)                   # 绘制界面
    MainWindow.show()                        # 显示窗口
    sys.exit(app.exec_())                    # 应用关闭

6、界面label对应表

label_temperature 温度
label_humidity 湿度 
label_weather 天气 
label_weathertips 天气助手 
label_weathericon 天气图标 
label_time 时间 
label_date 日期 
label_week 星期 
label_historyhead 历史上的今天 
label_historymsg 历史上的今天 的内容 
label_communicate 文字交互区 
label_todohead 今日事项 
label_todomsg 今日事项 的内容 
label_headlineshead 今天头条 
label_headlinesmsg 今日头条 的内容 
label_gif 洛天依gif图

7、信号与槽函数

# 继承QObject
class MQTT(QObject):  
# 创建信号量，传字符串
mqttSignal = pyqtSignal(object) 
# 连接信号与槽函数
mqtt.mqttSignal.connect(ui.updateCommunicate)
# 发送信号量
self.mqttSignal.emit("qwe")

8、mirrorUI.ui路径：

​​mirrorUI.ui​​

服务器部署

pictureViewer.zip下载链接：​​pictureViewer图片上传并显示网页-Web开发文档类资源

web环境

搭建Linux+Apache+MySQL+PHP环境。

第1步：安装Apache

Apache是一个免费开源软件，可运行世界上50％的Web服务器。

sudo apt-get update
sudo apt-get upgrade
sudo apt-get install apache2
sudo /etc/init.d/apache2 restart

要检查是否安装了Apache，请将浏览器指向您服务器的IP地址（例如​​http://127.0.0.1）。​​

可以运行以下​​命令​​来显示你的服务器的IP地址：

ifconfig | grep inet | awk  print $2 

第2步：安装MySQL（Ubuntu）

MySQL是一个强大的数据库管理系统，用于组织和检索数据。

sudo apt-get install mysql-server mysql-client

查看端口：

sudo netstat -tap | grep mysql

用命令激活它：

sudo mysql_install_db

通过运行MySQL设置脚本完成：

sudo /usr/bin/mysql_secure_installation

Would you like to setup VALIDATE PASSWORD plugin? => y
Please enter 0 = LOW, 1 = MEDIUM and 2 = STRONG: 1 => 0
New password: => xxxxxxxx
Re-enter new password:  => xxxxxxxx
Remove anonymous users?: => y
Disallow root login remotely?: => y
Remove test database and access to it?: => y
Reload privilege tables now?: => y

第2步：安装MySQL（Raspbian）

sudo apt-get install mariadb-server mariadb-client

用命令激活它：

sudo mysql_install_db

启动服务

/usr/bin/mysqld_safe --datadir=/var/lib/mysql
sudo service mysql start

通过运行MySQL设置脚本完成：

sudo /usr/bin/mysql_secure_installation

Enter current password for root (enter for none):
Set root password? [Y/n] y
Remove anonymous users? [Y/n] y
Disallow root login remotely? [Y/n] y
Remove test database and access to it? [Y/n] y
Reload privilege tables now? [Y/n] y

第3步：安装PHP

PHP是一种开源的Web脚本语言，广泛用于构建动态网页。

sudo apt install php7.2-mysql php7.2-curl php7.2-json php7.2-cgi php7.2 libapache2-mod-php7.2

测试PHP：

查看版本:
php --version

输出phpinfo:
sudo vim /var/www/html/phpinfo.php
写入如下内容:
<?php echo phpinfo();?>
浏览器输入:
http://127.0.0.1/phpinfo.php

第4步：重新启动apache以使所有更改生效

sudo service apache2 restart

第5步：安装phpmyadmin

sudo apt install php-mbstring php7.2-mbstring php-gettext -y
sudo systemctl restart apache2.service
sudo apt install phpmyadmin -y

安装过程中的选项：

• 选择 Apache2 并点击确定
• 选择 Yes来配置 phpMyAdmin 管理的数据库
• 输入刚设置的数据库密码
• 若报错，可以选择ignore

安装完成后需要将phpmyadmin的文件夹复制到www/html文件夹下进行管理

sudo cp -Rf /usr/share/phpmyadmin /var/www/html/

打开浏览器并输入​​http://127.0.0.1/phpmyadmin​​

输入用户名、密码后登陆

网站部署

放置页面

将pictureViewer文件夹整个放到/var/www/html/路径下：

复制：sudo cp -r pictureViewer /var/www/html
或
移动：sudo mv pictureViewer /var/www/html

修改权限：

sudo chmod 777 /var/www/html/pictureViewer/*

将文件夹名pictureViewer修改为MagicMirror：

sudo mv /var/www/html/pictureViewer /var/www/html/MagicMirror

浏览器输入​​http://127.0.0.1/MagicMirror即可​​

测试是否能上传图片成功

打开并修改文件夹下的testUpload.py：

vim /var/www/html/MagicMirror/testUpload.py

url = http://127.0.0.1/MagicMirror/upload_file.php

运行Python：

cd /var/www/html/MagicMirror/
python3 testUpload.py

若提示缺少库，则先安装：

pip3 install requests

上传成功后，刷新浏览器界面，会多一张图片。

MQTT环境

Eclipse Mosquitto是一个开源消息代理，实现了MQTT协议版本3.1和3.1.1。

Mosquitto安装

添加存储库(Raspbian可跳过)：

sudo apt-add-repository ppa:mosquitto-dev/mosquitto-ppa

更新软件包：

sudo apt-get update

安装：

sudo apt-get install mosquitto -y

安装命令行客户端：

sudo apt-get install mosquitto-clients -y

默认情况下，Ubuntu将在安装后启动Mosquitto服务。

在新终端中，使用​​mosquitto_sub​​订阅测试主题：

mosquitto_sub -h localhost -t test

新开一个其他终端并发布消息：

mosquitto_pub -h localhost -t test -m "hello world"

启动服务端

#-c：指定特定配置文件启动
#-d：后台运行 
mosquitto -c /etc/mosquitto/mosquitto.conf -d

异常情况

如果遇到Unable to acquire the dpkg frontend lock这个问题

首先检查是否在运行apt,apt-get相关的进程：

ps aux | grep -i apt

如果存在与apt相关的正在运行的进程，kill掉进程：

sudo kill -9 <process id>

继续上一次的配置：

sudo dpkg --configure -a

或者直接简单粗暴的：

sudo killall apt apt-get

之后可以新的apt操作

人脸识别

流程图

情感检测API

百度AI平台：百度智能云控制台-管理中心

---