使用 Spark-Submit 运行烧瓶应用程序

Posted

技术标签:

【中文标题】使用 Spark-Submit 运行烧瓶应用程序【英文标题】:Run flask App using Spark-Submit 【发布时间】:2018-07-16 06:05:39 【问题描述】:

我正在使用需要一些 Spark 上下文的 Flask 构建 API。这是使用 Spark-Submit for Long run 而不是 python 命令运行 Flask 应用程序的好方法吗??

【问题讨论】:

你可以使用celery 你能给我任何集成flask Spark和Celery的git链接吗? 【参考方案1】:

您可以使用Celery : Link to docs

这是在 web 应用程序中调用 Spark 上的异步作业的示例帖子。检查Spark+Celery blog

【讨论】:

【参考方案2】:

您可以在代码中使用python 命令和findspark 运行它。

app.py:

# some imports

import findspark
findspark.init()

# spark imports and routes

【讨论】:

以上是关于使用 Spark-Submit 运行烧瓶应用程序的主要内容,如果未能解决你的问题,请参考以下文章

当我对 python 脚本使用 spark-submit 时,Spark master 不会在 UI 中显示正在运行的应用程序

读取驱动程序使用 spark-submit 发送的文件

无法使用 nginx 运行烧瓶 wsgi 应用程序

使用 nginx 和 gunicorn 运行烧瓶应用程序

替代递归运行Spark-submit作业

线程“main”java.sql.SQLException 中的异常:运行 spark-submit 时没有合适的驱动程序