SQLAlchemy / gevent / cx_Oracle 池大小保持在 1

Posted

技术标签:

【中文标题】SQLAlchemy / gevent / cx_Oracle 池大小保持在 1【英文标题】:SQLAlchemy / gevent / cx_Oracle pool size stays at 1 【发布时间】:2021-05-03 16:14:04 【问题描述】:

尽管我使用的池大小为 50,但我无法让 SQLAlchemy v. 1.3.22 与 gevent 21.1.2 和 cx_Oracle 8.1.0 一次发出多个查询。

我不确定它更适合哪个库,因此我添加了所有似乎适用的标签。

我确认我的用户可以与 Oracle 数据库建立多个连接 - 我有另一个程序,我可以使用相同的凭据和数据库轻松地并行运行 50 个查询。

我使用 siege 调用下面的代码 - 无论我设置什么并发,我总是在池中获得一个连接。

只要我从“应用程序”处理程序中删除与 SQLAlchemy 相关的代码,siege 就会报告预期的并发 50,我理解这意味着它实际上一次运行了这么多并发连接。

我知道 SQLAlchemy 会按需建立新连接,但我不明白为什么它没有在这里这样做,因为显然有需求。

from gevent.monkey import patch_all
patch_all()

from gevent.pywsgi import WSGIServer
from sqlalchemy import create_engine
from sqlalchemy.orm import sessionmaker

username = '<hidden>'
password = '<hidden>'
host = '<hidden>'
port = '<hidden>'
database = '<hidden>'

url = 'oracle://:@:/'.format(username, password, host, port, database)

engine = create_engine(url, pool_size=50)
Session = sessionmaker(bind=engine)

def application(env, start_response):

    session = Session()
    result = session.execute('select 1+1 from dual')
    result.fetchall()
    session.close()

    print('Status:', engine.pool.status())

    start_response('200 OK', [('Content-Type', 'text/html')])
    return [b'<b>hello world</b>']

if __name__ == '__main__':
    print('Serving on 8088...')
    WSGIServer(('127.0.0.1', 8088), application, log=None).serve_forever()

围攻:

siege -r 500 -c 50 http://localhost:8088/

Transactions:                 31 hits
Availability:             100.00 %
Elapsed time:               4.13 secs
Data transferred:           0.00 MB
Response time:              2.60 secs
Transaction rate:           7.51 trans/sec
Throughput:             0.00 MB/sec
Concurrency:               19.50
Successful transactions:          31
Failed transactions:               0
Longest transaction:            4.10
Shortest transaction:           0.00

来自服务器的输出:

Status: Pool size: 50  Connections in pool: 1 Current Overflow: -49 Current Checked out connections: 0
Status: Pool size: 50  Connections in pool: 1 Current Overflow: -49 Current Checked out connections: 0
Status: Pool size: 50  Connections in pool: 1 Current Overflow: -49 Current Checked out connections: 0

非常感谢!

【问题讨论】:

我认为你的问题源于 cx_oracle 不是天生的“绿色”。所以它不能启动绿色威胁,因此不能一次运行多个查询。看看github.com/oracle/python-cx_Oracle/issues/126 【参考方案1】:

在顶部添加

import greenify

greenify.greenify()
assert greenify.patch_lib("/usr/lib/oracle/19.5/client64/lib/libclntsh.so.19.1")

但请调整池大小,否则您的应用程序将面临被严重杀死的风险。您需要先对其进行测试,该问题提供了一个出色的脚本。见https://github.com/oracle/python-cx_Oracle/issues/126

【讨论】:

以上是关于SQLAlchemy / gevent / cx_Oracle 池大小保持在 1的主要内容,如果未能解决你的问题,请参考以下文章

使用 SqlAlchemy 和 cx_Oracle 将 Pandas DataFrame 写入 Oracle 数据库时加快 to_sql()

day⑨: 协程_gevent

python里gevent模块下没有shutdown这个属性是怎么回事?

day_6.17 gevent版服务器

python并发编程-gevent使用大全

无法在安装了 gevent 的情况下运行 Flask 应用程序