贝叶斯朴素贝叶斯及调用spark官网 mllib NavieBayes示例

Posted 2021-01-14 abcdwxc

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了贝叶斯朴素贝叶斯及调用spark官网 mllib NavieBayes示例相关的知识，希望对你有一定的参考价值。

贝叶斯法则

机器学习的任务：在给定训练数据D时，确定假设空间H中的最佳假设。

最佳假设：一种方法是把它定义为在给定数据D以及H中不同假设的先验概率的有关知识下的最可能假设

贝叶斯理论提供了一种计算假设概率的方法，基于假设的先验概率、给定假设下观察到不同数据的概率以及观察到的数据本身

先验概率和后验概率

用P(A)表示在没有训练数据前假设A拥有的初始概率。P(A)被称为A的先验概率。

先验概率反映了关于A是一正确假设的机会的背景知识

如果没有这一先验知识，可以简单地将每一候选假设赋予相同的先验概率

类似地，P(B)表示训练数据B的先验概率，P(A|B)表示假设B成立时A的概率

机器学习中，我们关心的是P(B|A)，即给定A时B的成立的概率，称为B的后验概率

贝叶斯公式

贝叶斯公式提供了从先验概率P(A)、P(B)和P(A|B)计算后验概率P(B|A)的方法

贝叶斯定理便是基于下述贝叶斯公式：

技术分享图片

P(A|B)随着P(A)和P(B|A)的增长而增长，随着P(B)的增长而减少，即如果B独立于A时被观察到的可能性越大，那么B对A的支持度越小

朴素贝叶斯

朴素贝叶斯算法是假设各个特征之间相互独立,使用贝叶斯公式进行分类的。请参考：https://blog.csdn.net/amds123/article/details/70173402

spark NavieBayes 官方示例代码如下：

import org.apache.spark.ml.classification.NaiveBayes
import org.apache.spark.ml.evaluation.MulticlassClassificationEvaluator
import org.apache.spark.sql.SparkSession

object NavieBayesDemo {
  def main(args: Array[String]): Unit = {
    val spark = SparkSession
      .builder
      .appName("NavieBayesDemo").master("local")
      .config("spark.sql.warehouse.dir", "C:\study\sparktest")
      .getOrCreate()
    // Load the data stored in LIBSVM format as a DataFrame.
    val dataset=spark.read.format("libsvm").load("data/mllib/sample_libsvm_data.txt")
    // Split the data into training and test sets (30% held out for testing)
    val Array(tranningData,testData)=dataset.randomSplit(Array(0.7,0.3),seed = 1234L)

    // Train a NavieBayes model
    val model = new NaiveBayes().fit(tranningData)
    // Select example rows to display.
    val predictions=model.transform(testData)
    predictions.show()

    // Select (prediction, true label) and compute test error
    val evaluator = new MulticlassClassificationEvaluator()
      .setLabelCol("label")
      .setPredictionCol("prediction")
      .setMetricName("accuracy")
    val accuracy = evaluator.evaluate(predictions)
    println(s"Test set accuracy = $accuracy")
    
    spark.stop()
  }
}