spark配置-----Spark Streaming

Posted iAthena

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark配置-----Spark Streaming相关的知识,希望对你有一定的参考价值。

Spark Streaming

Spark Streaming 使用 Spark API 进行流计算,这意味着在 Spark 上进行流处理与批处理的方式一样。因此,你可以复用批处理的代码,使用 Spark Streaming 构建强大的交互式应用程序,而不仅仅是用于分析数据。

Spark Streaming 示例(基于流的单词统计)来演示一下 Spark Streaming:本地服务器通过 TCP 接收文本数据,实时输出单词统计结果。


  1. nc -l -p 9999
  2. # 需要另外开启一个终端,记为终端 2,然后运行如下命令
  3. /usr/local/spark/bin/run-example streaming.NetworkWordCount localhost 9999

在终端 1 中输入文本,在终端 2 中就可以实时看到单词统计结果了。

技术分享


技术分享


技术分享





参考转载自:http://www.powerxing.com/spark-quick-start-guide/ 





以上是关于spark配置-----Spark Streaming的主要内容,如果未能解决你的问题,请参考以下文章

spark -SQL 配置参数

Spark 配置:SPARK_MEM 与 SPARK_WORKER_MEMORY

Spark中文手册11:Spark 配置指南

Spark中文手册11:Spark 配置指南

Spark配置参数

Spark学习笔记6:Spark调优与调试