MySQL与Redis数据库连接池介绍（图示+源码+代码演示）

Posted 2021-06-26 多栖技术控小董

一、概念

• 数据库连接池（Connection pooling）是程序启动时建立足够的数据库连接，并将这些连接组成一个连接池，由程序动态地对池中的连接进行申请，使用，释放。
• 简单的说：创建数据库连接是一个很耗时的操作，也容易对数据库造成安全隐患。所以，在程序初始化的时候，集中创建多个数据库连接，并把他们集中管理，供程序使用，可以保证较快的数据库读写速度，还更加安全可靠。

二、图示

不使用数据库连接池

• 如果不使用数据库连接池，对于每一次SQL操作，都要走一遍下面完整的流程：
  • 1.TCP建立连接的三次握手（客户端与 mysql服务器的连接基于TCP协议）
  • 2.MySQL认证的三次我收
  • 3.真正的SQL执行
  • 4.MySQL的关闭
  • 5.TCP的四次握手关闭
• 可以看出来，为了执行一条SQL，需要进行大量的初始化与关闭操作

使用数据库连接池

• 如果使用数据库连接池，那么会事先申请（初始化）好相关的数据库连接，然后在之后的SQL操作中会复用这些数据库连接，操作结束之后数据库也不会断开连接，而是将数据库对象放回到数据库连接池中

三、数据库连接池的好处

• 资源重用：由于数据库连接得到重用，避免了频繁的创建、释放连接引起的性能开销，在减少系统消耗的基础上，另一方面也增进了系统运行环境的平稳性（减少内存碎片以及数据库临时进程/线程的数量）。
• 更快的系统响应速度：数据库连接池在初始化过程中，往往已经创建了若干数据库连接置于池中备用。 此时连接的初始化工作均已完成。对于业务请求处理而言，直接利用现有可用连接，避免了从数据库连接初始化和释放过程的开销，从而缩减了系统整体响应时间。
• 统一的连接管理，避免数据库连接泄露：在较为完备的数据库连接池实现中，可根据预先的连接占用超时设定，强制收回被占用连接。从而避免了常规数据库连接操作中可能出现的资源泄露。

四、连接池数量设置

连接数 = ((核心数 * 2) + 有效磁盘数)

• 如果说你的服务器CPU是4核i7的，连接池大小应该为((4*2)+1)=9

五、MySQL连接池演示

源码下载

• 下载方式1：公众号【多栖技术控小董】回复【3591】获得免费下载链接。
• 下载方式2：https://github.com/dongyusheng/csdn-code/tree/master/db_pool（Github中下载）
• db_pool目录下有两个目录，mysql_pool目录为MySQL连接池代码，redis_pool为redis连接池代码

• 下面介绍mysql_pool

CDBConn解析

class CDBConn {
public:
	// ...
private:
	CDBPool* 	m_pDBPool;	// to get MySQL server information
	MYSQL* 		m_mysql;	// 对应一个连接
	char		m_escape_string[MAX_ESCAPE_STRING_LEN + 1];
};

• 概念：代表一个数据连接对象实例
• 相关成员：
  • m_pDBPool：该数据库连接对象所属的数据库连接池
• 构造函数：绑定自己所属于哪个数据库连接池

CDBConn::CDBConn(CDBPool *pPool)
{
	m_pDBPool = pPool;
	m_mysql = NULL;
}

• Init()函数：创建数据库连接句柄

int CDBConn::Init()
{
	m_mysql = mysql_init(NULL);
	if (!m_mysql)
	{
		log_error("mysql_init failed\\n");
		return 1;
	}

	my_bool reconnect = true;
	mysql_options(m_mysql, MYSQL_OPT_RECONNECT, &reconnect);	// 配合mysql_ping实现自动重连
	mysql_options(m_mysql, MYSQL_SET_CHARSET_NAME, "utf8mb4");

	if (!mysql_real_connect(m_mysql, m_pDBPool->GetDBServerIP(), m_pDBPool->GetUsername(), m_pDBPool->GetPasswrod(),
							m_pDBPool->GetDBName(), m_pDBPool->GetDBServerPort(), NULL, 0))
	{
		log_error("mysql_real_connect failed: %s\\n", mysql_error(m_mysql));
		return 2;
	}

	return 0;
}

CDBPool解析

class CDBPool {
public:
	// ...
private:
	string 		m_pool_name;	// 连接池名称
	string 		m_db_server_ip;	// 数据库ip
	uint16_t	m_db_server_port; // 数据库端口
	string 		m_username;  	// 用户名
	string 		m_password;		// 用户密码
	string 		m_db_name;		// db名称
	int			m_db_cur_conn_cnt;	// 当前启用的连接数量
	int 		m_db_max_conn_cnt;	// 最大连接数量
	list<CDBConn*>	m_free_list;	// 空闲的连接
	CThreadNotify	m_free_notify;	// 信号量
};

• 概念：代表一个数据库连接池
• 相关成员：
  • m_db_cur_conn_cnt：当前数据库连接池的连接数量
  • m_db_max_conn_cnt：数据库连接池支持的最大连接数量（m_db_cur_conn_cnt<=m_db_max_conn_cnt）
  • m_free_list：存放空闲数据库连接对象的（可以从这里取出数据库连接对象使用）
• Init()函数：常见指定数量的数据库实例句柄，然后添加到m_free_list中，供后面使用

int CDBPool::Init()
{
	// 创建固定最小的连接数量
	for (int i = 0; i < m_db_cur_conn_cnt; i++)
	{
		CDBConn *pDBConn = new CDBConn(this);
		int ret = pDBConn->Init();
		if (ret)
		{
			delete pDBConn;
			return ret;
		}

		m_free_list.push_back(pDBConn);
	}

	// log_error("db pool: %s, size: %d\\n", m_pool_name.c_str(), (int)m_free_list.size());
	return 0;
}

• GetDBConn()函数：用于从空闲队列中返回可以使用的数据库连接句柄

/*
 *TODO: 增加保护机制，把分配的连接加入另一个队列，这样获取连接时，如果没有空闲连接，
 *TODO: 检查已经分配的连接多久没有返回，如果超过一定时间，则自动收回连接，放在用户忘了调用释放连接的接口
 */
CDBConn *CDBPool::GetDBConn()
{
	m_free_notify.Lock();

	while (m_free_list.empty())
	{
		// m_db_cur_conn_cnt是总共多少个连接，不是指空闲的
		if (m_db_cur_conn_cnt >= m_db_max_conn_cnt)
		{
			m_free_notify.Wait();
		}
		else
		{
			CDBConn *pDBConn = new CDBConn(this);
			int ret = pDBConn->Init();
			if (ret)
			{
				log_error("Init DBConnecton failed\\n\\n");
				delete pDBConn;
				m_free_notify.Unlock();
				return NULL;
			}
			else
			{
				m_free_list.push_back(pDBConn);
				m_db_cur_conn_cnt++;
				log("new db connection: %s, conn_cnt: %d\\n", m_pool_name.c_str(), m_db_cur_conn_cnt);
			}
		}
	}

	CDBConn *pConn = m_free_list.front();	// 获取连接
	m_free_list.pop_front();	// STL 吐出连接，从空闲队列删除

	m_free_notify.Unlock();

	return pConn;
}

• RelDBConn()函数：程序使用完该数据库句柄之后，将句柄放回到空闲队列中

void CDBPool::RelDBConn(CDBConn *pConn)
{
	m_free_notify.Lock();

	list<CDBConn *>::iterator it = m_free_list.begin();
	for (; it != m_free_list.end(); it++)
	{
		if (*it == pConn)
		{
			break;
		}
	}

	if (it == m_free_list.end())
	{
		m_free_list.push_back(pConn);
	}

	m_free_notify.Signal();
	m_free_notify.Unlock();
}

​

测试

• 测试之前，将代码中的数据库地址、端口、账号密码等改为自己的（代码中有好几处）

• 进入MySQL，创建mysql_pool_test数据库

CREATE DATABASE mysql_pool_test;

• 进入到mysql_pool目录下，创建一个build目录并进入：

mkdir build
cd build

• 然后输入如下的命令进行编译

cmake ..
make

• 之后就会在目录下生成如下的可执行文件

• 输入如下两条命令进行测试：可以看到不使用数据库连接池，整个操作耗时4秒左右；使用连接池之后，整个操作耗时2秒左右，提升了一倍

# 不使用数据库连接池
./test_ThreadPool 4 4 0
# 使用数据库连接池
./test_ThreadPool 4 4 1

六、Redis连接池演示

源码下载

• 下载方式1：公众号【多栖技术控小董】回复【3591】获得免费下载链接。
• 下载方式2：https://github.com/dongyusheng/csdn-code/tree/master/db_pool（Github中下载）

• 下面介绍redis_pool

测试

• 进入到redis_pool目录下，创建一个build目录并进入：

mkdir build
cd build

• 然后输入如下的命令进行编译

cmake ..
make

• 之后就会在目录下生成如下的可执行文件

• 输入如下的命令进行测试：可以看到不使用数据库连接池，整个操作耗时182ms；使用连接池之后，整个操作耗时21ms，提升了很多

# 不使用数据库连接池
./test_ThreadPool 4 4 0
# 使用数据库连接池
./test_ThreadPool 4 4 1

• 进入redis，可以看到我们新建的key：