Spark SQL读取MySQL的dept和hive的emp表,做join和分组查询,后写到json

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark SQL读取MySQL的dept和hive的emp表,做join和分组查询,后写到json相关的知识,希望对你有一定的参考价值。

val jdbcDF = spark.read.format("jdbc").option("url", "jdbc:mysql://hadoop000:3306").option("dbtable", "hive.dept").option("user", "root").option("password", "123456").load() jdbcDF.createOrReplaceTempView("dept") val hiveDF = sql("SELECT * FROM emp") val sqlDF =?sql("SELECT * FROM emp e JOIN dept d ON e.deptno = d.deptno").show sqlDF.write.format("json").save("file:///empJoinDept.json")

以上是关于Spark SQL读取MySQL的dept和hive的emp表,做join和分组查询,后写到json的主要内容,如果未能解决你的问题,请参考以下文章

spark SQL 读取mysql中的数据日志分析

Spark(StructuredStreaming)从Mysql读取数据写入Mysql表(自增ID)

spark读取mysql

Spark 操作Hive 流程

数据库里面mysql和hive区别是啥?

4.Spark读取mysql