CSV等类型文件与Map互相转换(Scala)

Posted IT民工超

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CSV等类型文件与Map互相转换(Scala)相关的知识,希望对你有一定的参考价值。

01

前提


接到一个临时需求:将一个Excel(CSV逗号分隔)文件导入Java程序进行处理,由于表头字段特别多不想一一映射实体类,故选择转换为Map(KV)结构进行处理。

02

数据读入转换为List[Map[String,String]]


/** * 从 带表头的CSV文件转换为List[Map[String,String]] * @param fileName * @separator 分隔符指定输入文件分隔符 * @return */ def fromFileToMap(fileName:String,separator:String) ={ val reader = new BufferedReader(new InputStreamReader(new FileInputStream(fileName),"utf-8") ) var flag = true; // 解析第一行 第一行为表头 map的key val head=reader.readLine() var result = List[Map[String,String]]() while (flag){ val line = reader.readLine() if(line==null){ flag=false }else{ val heads = head.split(s"""${separator}""") val values = line.split(s"""${separator}""")      val tuples = heads.zip(values).toMap // 相当于key和value 进行拉链 result=tuples::result } } reader.close() result}

03

带表头字段写出


/** *  * @param datalist 数据集 * @param outPutFilePath 输出文件路径 * @param separator 分隔符 */ def fromMapToFile(datalist:List[Map[String,String]],outPutFilePath:String,separator:String)={ // 获取Map的key if(datalist.nonEmpty){ val writer = new BufferedWriter(new OutputStreamWriter(new FileOutputStream(outPutFilePath,true),"utf-8")) val head = datalist.head.keySet.toArray val headLine = head.mkString(s"""${separator}""") writer.write(headLine) writer.newLine() datalist.foreach(line=>{ var line_value = List[String]() head.foreach(key=> { line_value= line.getOrElse(key,"")::line_value } ) writer.write(line_value.reverse.mkString(s"""${separator}""")) writer.newLine() }) writer.close() } }

04

测试


测试输入的数据格式( C SV
name,age,sex,telzhangsan,20,女,134567lisi,21,男,134567wangwu,22,男,134567
测试输出的文件格式(TSV)
name age sex telwangwu 22 男 134567lisi 21 男 134567zhangsan 20 女 134567
测试主类
def main(args: Array[String]): Unit = { val dataList = fromFileToMap("E:\\demo\\userinfo.csv",",") //输入数据CSV fromMapToFile(dataList,"E:\\demo\\userinfo_out.csv","\t")//输出文件制定为TSV }

以上是关于CSV等类型文件与Map互相转换(Scala)的主要内容,如果未能解决你的问题,请参考以下文章

json与map之间的互相转换

将 CSV 数据转换为 scala 中的地图列表

jdk8 stream可以与list,map等数据结构互相转换

Scala toMap类型转换问题

通过Map Spark Scala循环

在 Scala 中将 Struct 数据类型转换为 Map 数据类型