Python Flask后端异步处理

Posted 2020-12-12 春告鳥

　　Flask是Python中有名的轻量级同步Web框架，但是在实际的开发中，可能会遇到需要长时间处理的任务，此时就需要使用异步的方式来实现，让长时间任务在后台运行，先将本次请求的相应状态返回给前端，不让前端界面卡顿。

　　在碎遮扫描系统的编写中，当对目标进行全方位扫描时，扫描这个动作是需要长时间处理的。因为现在还没有加快每个部分的扫描速度，所以想要将一个目标扫描完大概需要五到十分钟的时间，所以不可能让用户一直等待这么长时间的页面刷新，需要将任务放在后台执行，先给用户返回正常的界面。

　　本文介绍Python原生的方式，即多线程或者多进程来进行耗时任务的执行，实现后端的异步处理。这样也很好理解，直接暴力开启一个新的线程/进程来进行耗时任务的执行，主线程/进程用来返回正常前端界面给用户。

　　通过多线程来实现

import time
from concurrent.futures import ThreadPoolExecutor
executor = ThreadPoolExecutor()
#executor = ThreadPoolExecutor(10)里面的数字是线程池所能同时进行的最大数量

def run():
    time.sleep(10)
    print("耗时任务执行结束")

@app.route(‘/test‘)
def test():
    # 交给线程去处理耗时任务
    executor.submit(run)
    return "cheer!"

　　通过多进程来实现：

import time
from concurrent.futures import ProcessPoolExecutor

executor = ProcessPoolExecutor()
#不限制数量的话最大进程数即为电脑CPU的核数

@app.route(‘/test_console‘, methods=[‘GET‘, ‘POST‘])
@login_required
def console():
    bugbit, bugtype = core.GetBit()
    counts = core.GetCounts()
    ports = core.GetPort()
    services = core.GetServices()
    target = core.GetTargetCount()
    try:
        lastscantime = BaseInfo.query.order_by(BaseInfo.id.desc()).first().date
    except:
        lastscantime = "暂无扫描"
        pass
    if request.method == ‘GET‘:
        return render_template(‘console.html‘, bugbit=bugbit, bugtype=bugtype, counts=counts, lastscantime=lastscantime,
                               ports=ports, services=services, target=target)
    else:
        urls = request.form.get(‘urls‘)
        urls = urls.split()
        print(urls)
        for url in urls:
            redispool.hincrby(‘targetscan‘, ‘waitcount‘, 1)
        executor.submit(SZheConsole, urls)
        target = core.GetTargetCount()
        return render_template(‘console.html‘, bugbit=bugbit, bugtype=bugtype, counts=counts, lastscantime=lastscantime,ports=ports, services=services, target=target)

　　这里是碎遮扫描系统目前后端异步的多进程实现，之前时间匆忙所以实现的很简陋哈哈哈，今天准备弃掉原生的后端异步实现了，重构一下扫描系统的后端异步。

　　其中

executor.submit(SZheConsole, urls)

　　就是使用SZheConsole函数对输入的扫描目标进行全方位目标检测，在这里开启了一个新的进程执行扫描，接着就返回了前端界面，让用户能够正常看到界面。

return render_template(‘console.html‘, bugbit=bugbit, bugtype=bugtype, counts=counts, lastscantime=lastscantime,
                               ports=ports, services=services, target=target)

　　虽然这样的原生实现异步处理很简单快捷，但是不足的地方在扫描系统的使用过程中已经有很多师傅提出来了：没有扫描的进度条显示，不能对扫描任务进行暂停，如果有个地方卡死了，就只能一直卡在那里，而不能进行丢弃等等，所以需要使用已存在的异步框架来优化异步处理:D

　　请听下回分解。咕咕咕

参考链接:

• https://zhuanlan.zhihu.com/p/85187003

• https://blog.csdn.net/Lmingtian_huigenghao/article/details/104481471