spark on yarn实例练习

Posted 乡村骑士2

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark on yarn实例练习相关的知识,希望对你有一定的参考价值。

1、spark on yarn作业提交(yarn-client模式)

bin/spark-submit \\
--class dajiangtai.averageAge \\
--master yarn-client \\
--num-executors 1 \\
--driver-memory 1g \\
--executor-memory 1g \\
--executor-cores 1 \\
lib/wordcount-1.0-SNAPSHOT.jar \\
hdfs://192.168.101.128:9000/test/age.txt \\
hdfs://192.168.101.128:9000/test/result1

2、求平均年龄

3、求男女最大身高

4、寻找搜索频率最高的K个关键词(注意case用法)

以上是关于spark on yarn实例练习的主要内容,如果未能解决你的问题,请参考以下文章

一道Spark练习题

sass语法练习解析--实例练习

Python 练习实例73

Python 练习实例49

Python 练习实例48

YARN and SPARK