sklearn中的朴素贝叶斯模型及其应用

Posted 2021-01-22 smallgrass

1.使用朴素贝叶斯模型对iris数据集进行花分类

尝试使用3种不同类型的朴素贝叶斯：

高斯分布型

多项式型

伯努利型

2.使用sklearn.model_selection.cross_val_score()，对模型进行验证。

 

3. 垃圾邮件分类

数据准备：

• 用csv读取邮件数据，分解出邮件类别及邮件内容。
• 对邮件内容进行预处理：去掉长度小于3的词，去掉没有语义的词等

尝试使用nltk库：

pip install nltk

import nltk

nltk.download

不成功：就使用词频统计的处理方法

 

训练集和测试集数据划分

• from sklearn.model_selection import train_test_split

 1 from sklearn.datasets import load_iris
 2 from sklearn.naive_bayes import GaussianNB
 3 from sklearn.naive_bayes import BernoulliNB
 4 from sklearn.model_selection import cross_val_score
 5 
 6 def Gauss(iris):
 7     #高斯分布预测
 8     gnb = GaussianNB()
 9     pred = gnb.fit(iris.data,iris.target)
10     y_pred = pred.predict(iris.data)
11 
12 
13     print(iris.target)
14     print(y_pred)
15     print(iris.data.shape[0],(iris.target != y_pred).sum())
16 
17 def bernoulli(iris):
18     ‘‘‘伯努利分布预测‘‘‘
19     bnb = BernoulliNB()
20     pred = bnb.fit(iris.data,iris.target)
21     y_pred = pred.predict(iris.data)
22     print(iris.target)
23     print(y_pred)
24     print(iris.data.shape[0],(iris.target != y_pred).sum())
25 
26 def yanzhen(iris):
27     ‘‘‘用交叉验证‘‘‘
28     gnb = GaussianNB()
29     pred = cross_val_score(gnb,iris.data,iris.target,cv=10)
30     print(pred.mean())
31 if __name__ == ‘__main__‘:
32     iris = load_iris()
33     Gauss(iris)
34     bernoulli(iris)
35     yanzhen(iris)

运行结果:

 

import csv
file=r‘d:/SMSSpamCollectionjsn.txt‘

with open(file,encoding=‘utf-8‘) as f:
    sms = f.read()


sms_data=[]#邮件的内容
sms_label=[]#邮件的类别
csv_reader=csv.reader(sms,delimiter=‘	‘)
for line in csv_reader:
    sms_label.append(line[0])
    sms_data.append(line[1])
sms_data=str(sms_data)#将列表转化为字符串
sms_data=sms_data.lower()#对大小写进行处理
sms_data=sms_data.split()#变成列表的形式
sms_data1=[]#存放处理后的内容
i=0
for i in sms_data:#去掉长度小于3的单词
    if len(i)>4:
        sms_data1.append(i)
        continue