shell多进程并发数控制
Posted 阿扎
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了shell多进程并发数控制相关的知识，希望对你有一定的参考价值。
在批量执行任务是，单进程执行速度太慢，使用&不加数量控制，又担心资源占用过多，导致宕机等问题，因此我们需要控制并发进程的数量，保证效率的同时，保证资源占用不会太高。
其中一个解决思路是利用简单的生产者-消费者模型。
以下为范例脚本：
#!/bin/bash
fifo_file=a.pipe
mkfifo $fifo_file #创建任务队列
exec 5<>$fifo_file
rm $fifo_file
process_num=10 #并发任务的数量
function task() #要执行的任务
{
sleep 2
}
#初始化任务队列，向队列里添加process_num个任务额度
for ((i=0;i<process_num;i++))
do
echo "" ;
done >&5
while read line #不断从任务列表中获取任务
do
read -u 5 #从任务队列中获取一个任务，即消费一个额度
{
echo $(echo $line | awk ‘{print $1}‘)
task #执行任务
echo "" >&5 #任务执行完成之后，再产生一个任务额度到任务队列
}&
done < task_list
wait #等待所有子进程执行完毕
exec 5>&- #关闭任务队列
exit 0
注：task_list中内容如下
1 test line
2 test line
3 test line
...
99 test line
以上是关于shell多进程并发数控制的主要内容，如果未能解决你的问题，请参考以下文章