c++11线程池的实现原理及回调函数的使用
Posted 特立独行的猫a
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了c++11线程池的实现原理及回调函数的使用相关的知识，希望对你有一定的参考价值。
关于线程池
简单来说就是有一堆已经创建好的线程（最大数目一定），初始时他们都处于空闲状态。当有新的任务进来，从线程池中取出一个空闲的线程处理任务然后当任务处理完成之后，该线程被重新放回到线程池中，供其他的任务使用。当线程池中的线程都在处理任务时，就没有空闲线程供使用，此时，若有新的任务产生，只能等待线程池中有线程结束任务空闲才能执行。
线程池优点
线程本来就是可重用的资源，不需要每次使用时都进行初始化。因此可以采用有限的线程个数处理无限的任务。既可以提高速度和效率，又降低线程频繁创建的开销。比如要异步干的活，就没必要等待。丢到线程池里处理，结果在回调中处理。频繁执行的异步任务，若每次都创建线程势必造成不小的开销。像java中频繁执行的异步任务，就new Therad.start()，然后就不管了不是个好的办法，频繁调用可能会触发GC,带来严重的性能问题，类似这种就该使用线程池。
还比如把计算任务都放在主线程进行，那么势必会阻塞主线程的处理流程，无法做到实时处理。使用多线程技术是大家自然而然想到的方案。在上述的场景中必然会频繁的创建和销毁线程，这样的开销相信是不能接受的，此时线程池技术便是很好的选择。
另外在一些高并发的网络应用中，线程池也是常用的技术。陈硕大神推荐的C++多线程服务端编程模式为：one loop per thread + thread pool，通常会有单独的线程负责接受来自客户端的请求，对请求稍作解析后将数据处理的任务提交到专门的计算线程池。
实现原理及思路
大致原理是创建一个类，管理一个任务队列，一个线程队列。然后每次取一个任务分配给一个线程去做，循环往复。任务队列负责存放主线程需要处理的任务，工作线程队列其实是一个死循环，负责从任务队列中取出和运行任务，可以看成是一个生产者和多个消费者的模型。
c++11虽然加入了线程库thread，然而 c++ 对于多线程的支持还是比较低级，稍微高级一点的用法都需要自己去实现，还有备受期待的网络库，至今标准库里还没有支持，常用asio替代。感谢网上大神的奉献，这里贴上源码并完善下使用方法，主要是增加了使用示例及回调函数的使用。
使用举例
#include <iostream>
#include <chrono>
#include <thread>
#include <future>
#include "threadpool.h"
using namespace std;
using namespace std::chrono;
//仿函数示例
struct gfun
int operator()(int n)
printf("%d hello, gfun ! %d\\n" ,n, std::this_thread::get_id() );
return 42;
;
class A
public:
static std::string Bfun(int n, std::string str, char c)
std::cout << n << " hello, Bfun ! "<< str.c_str() <<" " << (int)c <<" " << std::this_thread::get_id() << std::endl;
return str;
;
int main()
cout << "hello,this is a test using threadpool" <<endl;
me::ThreadPool pool(4);
std::vector< std::future<int> > results;
//lambada表达式 匿名函数线程中执行
pool.commit([]
std::cout << "this is running in pool therad " << std::endl;
std::this_thread::sleep_for(std::chrono::seconds(1));
);
//仿函数放到线程池中执行
std::future<int> fg = pool.commit(gfun,0);
std::future<std::string> gh = pool.commit(A::Bfun, 999,"mult args", 123);
//回调函数示例,模拟耗时操作,结果回调输出
auto fetchDataFromDB = [](std::string recvdData,std::function<int(std::string &)> cback)
// Make sure that function takes 5 seconds to complete
std::this_thread::sleep_for(seconds(5));
//Do stuff like creating DB Connection and fetching Data
if(cback != nullptr)
std::string out = "this is from callback ";
cback(out);
return "DB_" + recvdData;
;
//模拟，回调
fetchDataFromDB("aaa",[&](std::string &result)
std::cout << "callback result:" << result << std::endl;
return 0;
);
//把fetchDataFromDB这一IO耗时任务放到线程里异步执行
//
std::future<std::string> resultFromDB = std::async(std::launch::async, fetchDataFromDB, "Data0",
[&](std::string &result)
std::cout << "callback result from thread:" << result << std::endl;
return 0;
);
//把fetchDataFromDB这一IO耗时操作放到pool中的效果
pool.commit(fetchDataFromDB,"Data1",[&](std::string &result)
std::cout << "callback result from pool thread:" << result << std::endl;
return 0;
);
for(int i = 0; i < 8; ++i)
results.emplace_back(
pool.commit([i]
std::cout << "hello " << i << std::endl;
std::this_thread::sleep_for(std::chrono::seconds(1));
std::cout << "world " << i << std::endl;
return i*i;
)
);
for(auto && result: results)
std::cout << result.get() << ' ';
std::cout << std::endl;
以下是具体实现过程：
#pragma once
#ifndef THREAD_POOL_H
#define THREAD_POOL_H
#include <vector>
#include <queue>
#include <atomic>
#include <future>
//#include <condition_variable>
//#include <thread>
#include <functional>
#include <stdexcept>
namespace me
using namespace std;
//线程池最大容量,应尽量设小一点
#define THREADPOOL_MAX_NUM 16
//#define THREADPOOL_AUTO_GROW
//线程池,可以提交变参函数或拉姆达表达式的匿名函数执行,可以获取执行返回值
//不直接支持类成员函数, 支持类静态成员函数或全局函数,Opteron()函数等
class ThreadPool
using Task = function<void()>; //定义类型
vector<thread> _pool; //线程池
queue<Task> _tasks; //任务队列
mutex _lock; //同步
condition_variable _task_cv; //条件阻塞
atomic<bool> _run true ; //线程池是否执行
atomic<int> _idlThrNum 0 ; //空闲线程数量
public:
inline ThreadPool(unsigned short size = 4) addThread(size);
inline ~ThreadPool()
_run=false;
_task_cv.notify_all(); // 唤醒所有线程执行
for (thread& thread : _pool)
//thread.detach(); // 让线程“自生自灭”
if(thread.joinable())
thread.join(); // 等待任务结束， 前提：线程一定会执行完
public:
// 提交一个任务
// 调用.get()获取返回值会等待任务执行完,获取返回值
// 有两种方法可以实现调用类成员，
// 一种是使用 bind： .commit(std::bind(&Dog::sayHello, &dog));
// 一种是用 mem_fn： .commit(std::mem_fn(&Dog::sayHello), this)
template<class F, class... Args>
auto commit(F&& f, Args&&... args) ->future<decltype(f(args...))>
if (!_run) // stoped ??
throw runtime_error("commit on ThreadPool is stopped.");
using RetType = decltype(f(args...)); // typename std::result_of<F(Args...)>::type, 函数 f 的返回值类型
auto task = make_shared<packaged_task<RetType()>>(
bind(forward<F>(f), forward<Args>(args)...)
); // 把函数入口及参数,打包(绑定)
future<RetType> future = task->get_future();
// 添加任务到队列
lock_guard<mutex> lock _lock ;//对当前块的语句加锁 lock_guard 是 mutex 的 stack 封装类，构造的时候 lock()，析构的时候 unlock()
_tasks.emplace([task]() // push(Task...) 放到队列后面
(*task)();
);
#ifdef THREADPOOL_AUTO_GROW
if (_idlThrNum < 1 && _pool.size() < THREADPOOL_MAX_NUM)
addThread(1);
#endif // !THREADPOOL_AUTO_GROW
_task_cv.notify_one(); // 唤醒一个线程执行
return future;
//空闲线程数量
int idlCount() return _idlThrNum;
//线程数量
int thrCount() return _pool.size();
#ifndef THREADPOOL_AUTO_GROW
private:
#endif // !THREADPOOL_AUTO_GROW
//添加指定数量的线程
void addThread(unsigned short size)
for (; _pool.size() < THREADPOOL_MAX_NUM && size > 0; --size)
//增加线程数量,但不超过 预定义数量 THREADPOOL_MAX_NUM
_pool.emplace_back( [this] //工作线程函数
while (_run)
Task task; // 获取一个待执行的 task
// unique_lock 相比 lock_guard 的好处是：可以随时 unlock() 和 lock()
unique_lock<mutex> lock _lock ;
_task_cv.wait(lock, [this]
return !_run || !_tasks.empty();
); // wait 直到有 task
if (!_run && _tasks.empty())
return;
task = move(_tasks.front()); // 按先进先出从队列取一个 task
_tasks.pop();
_idlThrNum--;
task();//执行任务
_idlThrNum++;
);
_idlThrNum++;
;
#endif //https://github.com/lzpong/
引用：
基于C++11的线程池(threadpool),简洁且可以带任意多的参数 - _Ong - 博客园
C++实现线程池_折线式成长的博客-CSDN博客_c++ 线程池
基于C++11实现线程池的工作原理 - 靑い空゛ - 博客园
以上是关于c++11线程池的实现原理及回调函数的使用的主要内容，如果未能解决你的问题，请参考以下文章