spark集群

Posted 2021-03-08 breakingbrad

https://blog.csdn.net/boling_cavalry/article/details/86747258

https://www.cnblogs.com/xuliangxing/p/7234014.html  

第二个链接较为详细，但版本较旧

 

 

 

 

 　　注意spark 7077端口URL，如果hostname没配置正确，spark-submit会报错

 

 

jps看了两个slaves是有worker进程的。

spark安装完毕，启动hadoop集群：./sbin/./start-all.sh  

jps可查看

 

https://www.cnblogs.com/itboys/p/9998666.html

 

 

 

 虚拟机分配内存不足，解决方案参考：https://blog.csdn.net/u012848709/article/details/85425249

 

 

 

 

 

最后终于跑完了，把输出结果get下来

 

 done！