您如何处理 REST API 服务器中的高吞吐量函数？

Posted 2023-02-23

【中文标题】您如何处理 REST API 服务器中的高吞吐量函数？

【英文标题】：How do you handle high throughput functions in the REST API server?

【发布时间】：2019-12-06 01:20:27

【问题描述】：

我正在使用 python flask 开发其余的 API。 （客户端是一个移动应用）

然而，重要的功能是一个批处理程序，它从 DB 对其进行处理，然后在用户使用用户数据请求 POST 方法时更新（或插入）数据

考虑大量的读、写和计算

你是如何开发它的？

这就是我的想法。

在 DB 中使用过程

创建一个独立于 API 的外部部署程序。

创建单独的批处理服务器

只需在 API 服务器上运行即可

我无法根据我的知识判断什么是对的。

而且重要的是执行速度不能慢。

为了让用户感觉，他们应该看起来好像在自己的设备上运行。

想请教一下后端开发方面的建议。

【参考方案1】：

我建议考虑asyncio。这几乎是您拥有的用例 - i/o 很耗时，但不需要大量 CPU。所以基本上你会希望 i/o 异步完成，而服务器的其余部分继续进行。

服务器收到一些需要 i/o 的请求。 它将请求分离到您的异步架构中，因此它可以 被执行。 服务器已经可以接收其他请求，而 正在处理之前的 i/o 请求。 之前的 i/o 请求完成。 Asyncio 提供了几种方法 处理这个。

请参阅文档，但您可以提供回调，或构建您的逻辑以利用 Asyncio's event loop（它本质上管理上下文之间的来回切换，例如您的服务器的“主”上下文服务请求和异步您已排队的 i/o 操作）。