基于spark1.4的Spark-Sql

Posted jhcelue

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基于spark1.4的Spark-Sql相关的知识,希望对你有一定的参考价值。

Author: kwu 

基于spark1.4的Spark-Sql,spark1.4.1在7月15刚公布。提供较好sql支持


1、怎样启动Spark-Sql

启动脚本例如以下

#!/usr/bin/env bash
read  -p "enter your username:" user
read -s -p "enter your password:" pass

sparksql -u jdbc:hive2://bdc:10000 -n $user -p $pass

执行后,依照提示输入username与password,进入查询终端。

技术分享 

 

2、进入Spark-Sql查询,測试例如以下:

select day,count(*) from ods.tracklog groupby day;

 技术分享技术分享


hive中执行

select day,count(*) from ods.tracklog groupby day;

 技术分享技术分享

 

3、查看Spark-Sql监控

http://bdc:4040

 技术分享技术分享

查看查询计划

 技术分享技术分享

 

退出登录

!q

 技术分享技术分享







以上是关于基于spark1.4的Spark-Sql的主要内容,如果未能解决你的问题,请参考以下文章

14.4 Spark-SQL基于Cassandra数据分析编程实例

Spark-SQL之DataFrame操作大全

14.3 Spark-SQL基于PostgreSQL数据分析编程实例

Spark-SQL之DataFrame操作大全

Spark1.4.1 编译与安装

Spark-SQL之DataFrame操作