Spark之json数据处理

Posted 2020-10-20 Mars.wang

-- 默认情况下，SparkContext对象在spark-shell启动时用namesc初始化。使用以下命令创建SQLContext。
val sqlcontext = new org.apache.spark.sql.SQLContext(sc)
-- employee.json-将此文件放在currentscala>指针所在的目录中。
{
   {"id" : "1201", "name" : "satish", "age" : "25"}
   {"id" : "1202", "name" : "krishna", "age" : "28"}
   {"id" : "1203", "name" : "amith", "age" : "39"}
   {"id" : "1204", "name" : "javed", "age" : "23"}
   {"id" : "1205", "name" : "prudvi", "age" : "23"}
}
-- 读取JSON文档namedemployee.json。 数据显示为带有字段id，name和age的表。
val dfs = sqlContext.read.json("/root/wangbin/employee.json")
-- 显示数据
dfs.show()
-- 查看数据结构
dfs.printSchema()
-- 查看某一列
dfs.select("name").show()
-- 查找年龄大于23（age> 23）的雇员。
dfs.filter(dfs("age") > 23).show()
-- 计算同一年龄的员工人数。
dfs.groupBy("age").count().show()

 

以上是关于Spark之json数据处理的主要内容，如果未能解决你的问题，请参考以下文章

python+spark程序代码片段

Spark项目之电商用户行为分析大数据平台之JSON及FASTJSON

在这个 spark 代码片段中 ordering.by 是啥意思？

Spark-SQL之DataFrame操作大全

Spark-SQL之DataFrame操作大全

实用代码片段将json数据绑定到html元素 （转）