spark streaming怎么将计算结果写入oracle
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark streaming怎么将计算结果写入oracle相关的知识,希望对你有一定的参考价值。
参考技术A 你试试,看这样可以不!object Test
case class Person(words: String,number:Int)
def main(args: Array[String])
val sparkConf = new SparkConf().setAppName("TextStream")
val sc = new SparkContext(sparkConf)
Class.forName("oracle.jdbc.driver.OracleDriver").newInstance()
val conn = DriverManager.getConnection("jdbc:oracle:thin:@host/oracledb", "user", "password")
var ps: PreparedStatement = null
val ssc = new StreamingContext(sparkConf, Seconds(6))
// Create the FileInputDStream on the directory and use the
val lines = ssc.textFileStream("/user/input/")
val words = lines.flatMap(_.split(","))
val wordCounts = words.map(x => (x, 1))
// wordCounts.print()
wordCounts.foreachRDD((rdd:RDD[(String,Int)])=>
rdd.foreach(lines=>
ps = conn.prepareStatement("insert into testtables values(?,?)")
ps.setString(1, lines._1)
ps.setInt(2, lines._2)
ps.executeUpdate()
)
)
以上是关于spark streaming怎么将计算结果写入oracle的主要内容,如果未能解决你的问题,请参考以下文章
Spark Streaming - 从Kafka读取json并将json写入其他Kafka主题
将 Spark Streaming 输出写入 HDFS 时跳过数据