机器学习：决策树(Decision Tree)--ID3算法
Posted 挂科难
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了机器学习：决策树(Decision Tree)--ID3算法相关的知识，希望对你有一定的参考价值。
决策树的主要算法
构建决策树的关键：按照什么样的次序来选择变量（属性/特征）作为分类依据。
根据不同的目标函数，建立决策树主要有以下三种算法
- ID3(J.Ross Quinlan-1975) 核心：信息熵，信息增益
- C4.5——ID3的改进，核心：信息增益比/增益率
- CART(Breiman-1984)，核心：基尼系数
ID3算法
由Ross Quinlan在1986年提出，ID3决策树可以有多个分支，但是不能处理特征值为连续的情况，根据“最大信息熵增益”选取当前最佳的特征来分割数据。开始之前我们先引入几个概念。
香农熵(Shannon Entropy)
熵用来表示事件的不确定性，熵越小代表事件发生的概率就越大。若熵为0，表示事件百分百发生。
对于常见分类系统来说，假设类别D是变量，D可能取值D1，D2…Dn，每个类别出现的概率为P(D1),P(D2)…P(Dn),共n类。
分类系统的熵为：
当我们的概率是由数据统计得到时，此时的熵称为经验熵（empirical entropy）。
举个例子：
我们先不考虑特征，该样本最终分为结果只有买与不买两类，根据统计可知在1024个样本中有641个数据结果为买，383个数据结果为不买。显然买的概率为(641/1024),不买的概率为(383/1024)。显然这两个概率是我们统计得到的，通过这两个统计得到的概率计算的熵称为经验熵，为：
这就是我们第一步要做的，计算决策属性的熵。
该列中买与不买就是决策属性。
条件熵
条件熵H(Y|X)表示在已知随机变量X的条件下随机变量Y的不确定性。
同样的，如果公式中的概率是由统计估计出来的话，这时的条件熵称为经验条件熵。
我们用H(D|A)表示在给定的特征A的条件下D的经验条件熵。假设特征A将D划分为v个子集D1,D2,…Dv,例:年龄特征(A),将我们的数据集分成了三份青年,中年,老年.
此时条件熵为:
信息增益(information gain)
计算完决策属性的熵以后，我们要根据信息增益来排序特征，那什么是信息增益呢？
信息增益是相对于特征而言的，表示得知特征A的信息而使得类Y的信息的不确定性减少的程度。信息增益越大，特征对最终的分类结果影响也就越大，因此此特征就被选上作为我们的分类特征。
简单地将，可以理解为一个特征对最终结果相关程度，信息增益大说明该特征与分类结果的关联性很强。特征的信息增益小，则说明该特征对分类的结果影响很小。
特征A信息增益( g(D,A) ) = 决策属性的熵 - 特征A的平均信息期望
定义为:
上述已经计算了决策属性的熵,现在我们计算某个特征的平均熵期望.
年龄(A1)将数据集为三个组:
青年(D1),中年(D2),老年(D3)
我们把年龄为青年(D1)的样本全都提取出来:
总共D1=(64*4+128)384个样本,做以下定义
D11(买)=128
D12(不买)=256
青年中买与不买的概率:
P(D11) = 128/384
P(D12) = 256/384
根据分类熵的定义得:
同理得到中年H(D2)=0,老年H(D3)=0.9175
青年组所占全部数据集比例(D1) = 384/1024 = 0.375
中年组所占全部数据集比例(D2) = 256/1024 = 0.25
老年组所占全部数据集比例(D3) = 384/1024 = 0.375
得到年龄(A1)的平均熵期望:
年龄信息增益为
上述讲过,信息增益为一个特征对最终分类结果的影响情况,信息增益越大代表该特征对最终分类结果的影响越大.所以我们还需要计算出收入,学生,信誉三个特征的信息增益信息增益越大的特征就要在决策树的前面
经过相同计算原理的我们得到
年龄特征的信息增益=0.2660
收入特征的信息增益=0.0176
学生特征的信息增益=0.1726
信誉特征的信息增益=0.0453
所以要将年龄特征作为我们决策树的根节点，之后采用递归的思想，直到叶子节点（决策属性）。
我们以西瓜书中西瓜数据集2.0举例
先约定：
色泽 ：青绿：0 乌黑：1 浅白：2
根蒂：蜷缩：0 稍蜷：1 硬挺：2
敲声：浊响：0 沉闷：1 清脆：2
纹理：清晰：0 模糊：1 稍糊：2
脐部：凹陷：0 平坦：1 稍凹：2
触感：硬滑：0 软粘：1
代码来自大牛jack-cui,
https://cuijiahua.com
仅修改一小部分代码。
# !/usr/bin/env python
# -*- coding:utf-8 -*-
from matplotlib.font_manager import FontProperties
import matplotlib.pyplot as plt
from math import log
import operator
def createDataSet():
dataSet = [[0, 0, 0, 0, 0, 0,'yes'], #数据集
[1, 0, 1, 0, 0, 0,'yes'],
[1, 0, 0, 0, 0, 0,'yes'],
[0, 0, 1, 0, 0, 0,'yes'],
[2, 0, 0, 0, 0, 0,'yes'],
[0, 1, 0, 0, 2, 1,'yes'],
[1, 1, 0, 2, 2, 1,'yes'],
[1, 1, 0, 0, 2, 0,'yes'],
[1, 1, 1, 2, 2, 0,'no'],
[0, 2, 2, 0, 1, 1,'no'],
[2, 2, 2, 1, 1, 0,'no'],
[2, 0, 0, 1, 1, 1,'no'],
[0, 1, 0, 2, 0, 0,'no'],
[2, 1, 1, 2, 0, 0,'no'],
[1, 1, 0, 0, 2, 1,'no'],
[2, 0, 0, 1, 1, 0,'no'],
[0, 0, 1, 2, 2, 0,'no']]
labels=['色泽', '根蒂', '敲声', '纹理', '脐部', '触感', '好瓜'] #分类属性
return dataSet, labels #返回数据集和分类属性 #返回数据集和分类属性
def calcShannonEnt(dataSet):
numEntires = len(dataSet) #返回数据集的行数
labelCounts = #保存每个标签(Label)出现次数的字典
for featVec in dataSet: #对每组特征向量进行统计
currentLabel = featVec[-1] #提取标签(Label)信息
if currentLabel not in labelCounts.keys(): #如果标签(Label)没有放入统计次数的字典,添加进去
labelCounts[currentLabel] = 0
labelCounts[currentLabel] += 1 #Label计数
shannonEnt = 0.0 #经验熵(香农熵)
for key in labelCounts: #计算香农熵
prob = float(labelCounts[key]) / numEntires #选择该标签(Label)的概率
shannonEnt -= prob * log(prob, 2) #利用公式计算
return shannonEnt #返回经验熵(香农熵)
def splitDataSet(dataSet, axis, value):
retDataSet = [] #创建返回的数据集列表
for featVec in dataSet: #遍历数据集
if featVec[axis] == value:
reducedFeatVec = featVec[:axis] #去掉axis特征
reducedFeatVec.extend(featVec[axis+1:]) #将符合条件的添加到返回的数据集
retDataSet.append(reducedFeatVec)
return retDataSet #返回划分后的数据集
def chooseBestFeatureToSplit(dataSet):
numFeatures = len(dataSet[0]) - 1 #特征数量
baseEntropy = calcShannonEnt(dataSet) #计算数据集的香农熵
bestInfoGain = 0.0 #信息增益
bestFeature = -1 #最优特征的索引值
for i in range(numFeatures): #遍历所有特征
#获取dataSet的第i个所有特征
featList = [example[i] for example in dataSet]
uniqueVals = set(featList) #创建set集合,元素不可重复
newEntropy = 0.0 #经验条件熵
for value in uniqueVals: #计算信息增益
subDataSet = splitDataSet(dataSet, i, value) #subDataSet划分后的子集
prob = len(subDataSet) / float(len(dataSet)) #计算子集的概率
newEntropy += prob * calcShannonEnt(subDataSet) #根据公式计算经验条件熵
infoGain = baseEntropy - newEntropy #信息增益
# print("第%d个特征的增益为%.3f" % (i, infoGain)) #打印每个特征的信息增益
if (infoGain > bestInfoGain): #计算信息增益
bestInfoGain = infoGain #更新信息增益，找到最大的信息增益
bestFeature = i #记录信息增益最大的特征的索引值
return bestFeature #返回信息增益最大的特征的索引值
def majorityCnt(classList):
classCount =
for vote in classList: #统计classList中每个元素出现的次数
if vote not in classCount.keys():classCount[vote] = 0
classCount[vote] += 1
sortedClassCount = sorted(classCount.items(), key = operator.itemgetter(1), reverse = True) #根据字典的值降序排序
return sortedClassCount[0][0] #返回classList中出现次数最多的元素
def createTree(dataSet, labels, featLabels):
classList = [example[-1] for example in dataSet] #取分类标签(是否放贷:yes or no)
if classList.count(classList[0]) == len(classList): #如果类别完全相同则停止继续划分
return classList[0]
if len(dataSet[0]) == 1: #加标签共7列 #遍历完所有特征时返回出现次数最多的类标签
return majorityCnt(classList)
bestFeat = chooseBestFeatureToSplit(dataSet) #选择最优特征
bestFeatLabel = labels[bestFeat] #最优特征的标签
featLabels.append(bestFeatLabel)
myTree = bestFeatLabel: #根据最优特征的标签生成树
#del(labels[bestFeat]) #删除已经使用特征标签
featValues = [example[bestFeat] for example in dataSet] #得到训练集中所有最优特征的属性值
uniqueVals = set(featValues) #去掉重复的属性值
for value in uniqueVals: #遍历特征，创建决策树。
del_bestFeat = bestFeat
del_labels = labels[bestFeat]
del (labels[bestFeat])
myTree[bestFeatLabel][value] = createTree(splitDataSet(dataSet, bestFeat, value), labels, featLabels)
labels.insert(del_bestFeat, del_labels)
return myTree
def getNumLeafs(myTree):
numLeafs = 0 #初始化叶子
firstStr = next(iter(myTree)) #python3中myTree.keys()返回的是dict_keys,不在是list,所以不能使用myTree.keys()[0]的方法获取结点属性，可以使用list(myTree.keys())[0]
secondDict = myTree[firstStr] #获取下一组字典
for key in secondDict.keys():
if type(secondDict[key]).__name__=='dict': #测试该结点是否为字典，如果不是字典，代表此结点为叶子结点
numLeafs += getNumLeafs(secondDict[key])
else: numLeafs +=1
return numLeafs
def getTreeDepth(myTree):
maxDepth = 0 #初始化决策树深度
firstStr = next(iter(myTree)) #python3中myTree.keys()返回的是dict_keys,不在是list,所以不能使用myTree.keys()[0]的方法获取结点属性，可以使用list(myTree.keys())[0]
secondDict = myTree[firstStr] #获取下一个字典
for key in secondDict.keys():
if type(secondDict[key]).__name__=='dict': #测试该结点是否为字典，如果不是字典，代表此结点为叶子结点
thisDepth = 1 + getTreeDepth(secondDict[key])
else: thisDepth = 1
if thisDepth > maxDepth: maxDepth = thisDepth #更新层数
return maxDepth
def plotNode(nodeTxt, centerPt, parentPt, nodeType):
arrow_args = dict(arrowstyle="<-") #定义箭头格式
font = FontProperties(fname=r"c:\\windows\\fonts\\simsun.ttc", size=14) #设置中文字体
createPlot.ax1.annotate(nodeTxt, xy=parentPt, xycoords='axes fraction', #绘制结点
xytext=centerPt, textcoords='axes fraction',
va="center", ha="center", bbox=nodeType, arrowprops=arrow_args, FontProperties=font)
def plotMidText(cntrPt, parentPt, txtString):
xMid = (parentPt[0]-cntrPt[0])/2.0 + cntrPt[0] #计算标注位置
yMid = (parentPt[1]-cntrPt[1])/2.0 + cntrPt[1]
createPlot.ax1.text(xMid, yMid, txtString, va="center", ha="center", rotation=30)
def plotTree(myTree, parentPt, nodeTxt):
decisionNode = dict(boxstyle="sawtooth", fc="0.8") #设置结点格式
leafNode = dict(boxstyle="round4", fc="0.8") #设置叶结点格式
numLeafs = getNumLeafs(myTree) #获取决策树叶结点数目，决定了树的宽度
depth = getTreeDepth(myTree) #获取决策树层数
firstStr = next(iter(myTree)) #下个字典
cntrPt = (plotTree.xOff + (1.0 + float(numLeafs))/2.0/plotTree.totalW, plotTree.yOff) #中心位置
plotMidText(cntrPt, parentPt, nodeTxt) #标注有向边属性值
plotNode(firstStr, cntrPt, parentPt, decisionNode) #绘制结点
secondDict = myTree[firstStr] #下一个字典，也就是继续绘制子结点
plotTree.yOff = plotTree.yOff - 1.0/plotTree.totalD #y偏移
for key in secondDict.keys():
if type(secondDict[key]).__name__=='dict': #测试该结点是否为字典，如果不是字典，代表此结点为叶子结点
plotTree(secondDict[key],cntrPt,str(key)) #不是叶结点，递归调用继续绘制
else: #如果是叶结点，绘制叶结点，并标注有向边属性值
plotTree.xOff = plotTree.xOff + 1.0/plotTree.totalW
plotNode(secondDict[key], (plotTree.xOff, plotTree.yOff), cntrPt, leafNode)
plotMidText((plotTree.xOff, plotTree.yOff), cntrPt, str(key))
plotTree.yOff = plotTree.yOff + 1.0/plotTree.totalD
def createPlot(inTree):
fig = plt.figure(1, facecolor='white') #创建fig
fig.clf() #清空fig
axprops = dict(xticks=[], yticks=[])
createPlot.ax1 = plt.subplot(111, frameon=False, **axprops) #去掉x、y轴
plotTree.totalW = float(getNumLeafs(inTree)) #获取决策树叶结点数目
plotTree.totalD = float(getTreeDepth(inTree)) #获取决策树层数
plotTree.xOff = -0.5/plotTree.totalW; plotTree.yOff = 1.0; #x偏移
plotTree(inTree, (0.5,1.0), '') #绘制决策树
plt.show() #显示绘制结果
def classify(inputTree, featLabels, testVec):
firstStr = next(iter(inputTree)) #获取决策树结点
secondDict = inputTree[firstStr] #下一个字典
featIndex = featLabels.index(firstStr)
for key in secondDict.keys():
if testVec[featIndex] == key:
if type(secondDict[key]).__name__ == 'dict':
classLabel = classify(secondDict[key], featLabels, testVec)
else: classLabel = secondDict[key]
return classLabel
if __name__ == '__main__':以上是关于机器学习：决策树(Decision Tree)--ID3算法的主要内容，如果未能解决你的问题，请参考以下文章
机器学习算法实践：决策树 (Decision Tree)（转载）