Python 安全 websocket 内存消耗

Posted

技术标签:

【中文标题】Python 安全 websocket 内存消耗【英文标题】:Python secure websocket memory consumption 【发布时间】:2013-12-03 09:49:57 【问题描述】:

我正在用 python 编写一个 Web 套接字服务器。我用 txws、autobahn 和 tornado 尝试了下面的方法,结果都相似。

我似乎使用安全 websocket 消耗了大量内存,我无法弄清楚这可能发生在哪里或为什么会发生。下面是 tornado 中的示例,但我可以提供 autobahn 或 txws 中的示例。

import tornado.httpserver
import tornado.websocket
import tornado.ioloop
import tornado.web
import json 

class AuthHandler(tornado.websocket.WebSocketHandler):

    def open(self):
        print 'new connection for auth'

    def on_message(self, message):
        message = json.loads(message)
        client_id = message['client_id']
        if client_id not in app.clients:
            app.clients[client_id] = self
        self.write_message('Agent Recorded')

    def on_close(self):
        print 'auth connection closed'


class MsgHandler(tornado.websocket.WebSocketHandler):

    def open(self):
        print 'new connection for msg'

    def on_message(self, message):
        message = json.loads(message)
        to_client = message['client_id']
        if to_client in app.clients:
            app.clients[to_client].write_message('You got a message')

    def on_close(self):
        print 'msg connection closed'


app = tornado.web.Application([
    (r'/auth', AuthHandler),
    (r'/msg', MsgHandler)
])

app.clients = 


if __name__ == "__main__":
    http_server = tornado.httpserver.HTTPServer(app, ssl_options=
        'certfile': 'tests/keys/server.crt',
        'keyfile': 'tests/keys/server.key'
    )
    http_server.listen(8000)
    tornado.ioloop.IOLoop.instance().start()

在建立大约 10,000 个连接后,我发现我使用 SSL 时使用了大约 700MB 的内存,而没有使用 SSL 时使用的是 43MB,除非我终止该进程,否则我永远无法取回它。似乎问题与建立的连接数量而不是发送的消息密切相关。

消费似乎独立于客户端发生(我编写了自己的客户端并尝试了其他客户端)。

安全 websocket 真的比普通 websocket 占用更多内存吗?还是我的服务器代码没有正确实现它?

【问题讨论】:

OpenSSL 默认为每个连接分配大量内存。这篇博文中有一些很棒的细节 - journal.paul.querna.org/articles/2011/04/05/openssl-memory-use 太棒了!那篇文章回答了很多问题,其中包含的解决方案确实降低了内存消耗。 【参考方案1】:

我认为最好的解决方案是使用真正的网络服务器(nginx apache)作为代理,让它管理 ssl 层。

【讨论】:

你为什么不相信 Python 网络服务器是“真实的”? 触摸!!我的意思是真正意义上的模块,这些模块支持向世界开放的 http 服务器中需要的所有功能(日志记录、DoS 预防、负载平衡、编译,) +1 for @JulienFr,Python 不应直接暴露于公共网络。 Apache / Nginx 是用较低级别的语言编写的,并针对它们拥有的单个任务进行了大量优化。

以上是关于Python 安全 websocket 内存消耗的主要内容,如果未能解决你的问题,请参考以下文章

如何减少python内存的消耗?

用于内存消耗测量的python睡眠不准确

一行代码搞定 Python 逐行内存消耗分析

python中线程消耗的内存

Python内存消耗对象和进程

Python 内存消耗:dict VS 元组列表