优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感，可以处理不相关特征数据。
缺点：可能会产生过度匹配问题
使用数据类型：数值型和标称型
决策树的一般流程
（1）收集数据：可以使用任何方法；
（2）准备数据：树构造算法只适用于标称型数据，因此数值型数据必须离散化；
（3）分析数据：可以使用任何方法，构造树完成之后，我们应该检查图形是否符合预期；
（4）训练算法：构造树的数据结构；
（5）测试算法：使用经验树计算错误率；
（6）使用算法：此步骤可以适用于任何监督学习算法，而使用决策树可以更好地理解数据的内在含义。
表1中给出5个海洋动物的数据，特征包括：不浮出水面是否可以生存，以及是否有脚蹼。我们可以将这些动物分为两类：鱼类和非鱼类。 下面将以这个例子学习决策树。
如何划分数据集？
一些决策树采用二分法划分数据，本文采用ID3算法划分数据集。
划分数据集的大原则是：将无序的数据变得更加有序。
如何评测哪种数据划分方式最好？
在划分数据集之前和之后信息发生的变化称为信息增益（information gain），知道如何计算信息增益，我们就可以计算每个特征值划分数据集获得的信息增益，获得信息增益最高的特征就是最好的选择。
如何计算信息增益？
集合信息的度量方式称为香农熵或简称熵（entropy）。
计算熵
其中p(xi)是选择该分类的概率，n为分类的数目。
使用Python计算信息熵：
# coding=utf-8
from math import log
import operator
# 计算给定数据集合的香农熵
def calcShannonEnt(dataSet):
numEntries = len(dataSet)
labelCounts = {}
for featVec in dataSet:
currentLabel = featVec[-1]
if currentLabel not in labelCounts.keys():
labelCounts[currentLabel] = 0
labelCounts[currentLabel] += 1
shannonEnt = 0.0
for key in labelCounts:
prob = float(labelCounts[key]) / numEntries
shannonEnt -= prob * log(prob, 2)
return shannonEnt
def createDataSet():
dataSet = [[1, 1, 'yes'], [1, 1, 'yes'], [1, 0, 'no'], [0, 1, 'no'], [0, 1, 'no']]
labels = ['no surfacing', 'flippers']
return dataSet, labels
以上代码中，calcShannonEnt() 计算熵，createDataSet() 给出一组鉴定数据
执行命令查看结果：
熵越高，则混合的数据也越多。
我们可以在数据集中添加更多的分类，来观察熵是如何变化的。这里增加第三个名为maybe的分类，测试熵的变化：
划分数据集
对每个特征划分数据集的结果计算一次信息熵，然后判断按照哪个特征划分数据集是最好的划分方法。
在trees.py中加入如下代码：
# 按照给定特征划分数据集
def splitDataSet(dataSet, axis, value):
retDataSet = []
for featVec in dataSet:
# 将符合特征的数据抽取出来
if featVec[axis] == value:
reducedFeatVec = featVec[:axis]
reducedFeatVec.extend(featVec[axis+1:])
retDataSet.append(reducedFeatVec)
return retDataSet
# 选择最好的数据集划分方式
def chooseBestFeatureToSplit(dataSet):
# 每行数据个数-1
numFeatures = len(dataSet[0]) - 1
# 计算数据集合的熵
baseEntropy = calcShannonEnt(dataSet)
bestInfoGain = 0.0
bestFeature = -1
# 遍历每一列
for i in range(numFeatures):
# 提取dateSet数据集中的第i列是所有值
featList = [example[i] for example in dataSet]
uniqueVals = set(featList)
newEntropy = 0.0
for value in uniqueVals:
# 按照value划分数据集，即找出第i列中是value的所有数据
subDataSet = splitDataSet(dataSet, i, value)
# 这些数据占整个数据集的比例prob
prob = len(subDataSet) / float(len(dataSet))
# 对每种划分方式计算信息熵，再乘以prob， 然后把所有信息熵相加
newEntropy += prob * calcShannonEnt(subDataSet)
infoGain = baseEntropy - newEntropy
# 比较所有特征中的信息熵增益，返回最好特征划分的索引值
if(infoGain > bestInfoGain):
bestInfoGain = infoGain
bestFeature = i
return bestFeature
执行命令查看结果：
代码运行结果告诉我们，第0个特征是最好的用于划分数据集的特征。
到此，我们学习了如何度量数据集的信息熵，如何有效地划分数据集，下面将介绍如何将这些函数功能放在一起，构建决策树。
递归构建决策树
工作原理：
（1）得到原始数据集；
（2）然后基于最好的属性值划分数据集，由于特征值可能多于两个，因此可能存在大于两个分支的数据划分；
（3）第一次划分之后，数据将被向下传递到树分支的下一个节点，在这个节点上，我们可以再次划分数据。
递归结束的条件：
程序遍历完所有划分数据集的属性，或者每个分支下的所有实例都具有相同的分类。如下图
如果数据处理了所有的属性，但是类标签依然不是唯一的，此时我们该如何定义该叶子节点？
在这种情况下，我们通常采用多数表决的方法决定叶子节点的分类。代码实现如下：
在trees.py文件中加入如下代码：
def majorityCnt(classList):
classCount = {}
for vote in classList:
if vote not in classCount.keys():
classCount[vote] = 0
classCount[vote] += 1
# 按照dict中value的值从大到小排序
sortedClassCount = sorted(classCount.iteritems(), key = operator.itemgetter(1), reverse=True)
# 返回出现次数最多的分类名称
return sortedClassCount[0][0]
下面是创建树的代码：
def createTree(dataSet, labels):
classList = [example[-1] for example in dataSet]
# 类别完全相同则停止继续划分
if classList.count(classList[0]) == len(classList):
return classList[0]
# 如果遍历完了所有的特征，返回出现次数最多的
if len(dataSet[0]) == 1:
return majorityCnt(classList)
# 找出最好数据划分方式特征属性所在的列序号
bestFeat = chooseBestFeatureToSplit(dataSet)
# 获取该列的特征属性的标签
bestFeatLabel = labels[bestFeat]
myTree = {bestFeatLabel:{}}
# 删除标签列表中序号为bestFeat的标签
del(labels[bestFeat])
# 得到列表包含的所有属性值
featValues = [example[bestFeat] for example in dataSet]
uniqueVals = set(featValues)
for value in uniqueVals:
subLabels = labels[:]
myTree[bestFeatLabel][value] = createDataSet(splitDataSet(dataSet, bestFeat, value), subLabels)
return myTree
执行命令查看结果：
绘制树形图
决策树的主要优点是直观易于理解，如果不能将其直观地显示出来，就无法发挥其优势。下面将使用Matplotlib注解绘制树形图
新建treePlotter.py文件，在此文件中加入如下代码：
# coding=utf-8
import matplotlib.pyplot as plt
decisionNode = dict(boxstyle="sawtooth", fc="0.8")
leafNode = dict(boxstyle="round4", fc="0.8")
arrow_args = dict(arrowstyle="<-")
def plotNode(nodeTxt, centerPt, parentPt, nodeType):
createPlot.ax1.annotate(nodeTxt, xy=parentPt, xycoords='axes fraction', xytext = centerPt, textcoords='axes fraction', va="center", ha="center", bbox=nodeType, arrowprops=arrow_args)
'''
def createPlot():
fig = plt.figure(1, facecolor = 'white')
fig.clf()
createPlot.ax1 = plt.subplot(111, frameon = False)
plotNode('a decision node', (0.5, 0.1), (0.1, 0.5), decisionNode)
plotNode('a leaf node', (0.8, 0.1), (0.3, 0.8), leafNode)
plt.show()
'''
# 获取叶子节点的数目
def getNumLeafs(myTree):
numLeafs = 0
firstStr = myTree.keys()[0]
secondDict = myTree[firstStr]
for key in secondDict.keys():
if type(secondDict[key]).__name__ == 'dict':
numLeafs += getNumLeafs(secondDict[key])
else:
numLeafs += 1
return numLeafs
# 获取树的层数
def getTreeDepth(myTree):
maxDepth = 0
firstStr = myTree.keys()[0]
secondDict = myTree[firstStr]
for key in secondDict.keys():
if type(secondDict[key]).__name__ == 'dict':
thisDepth = 1 + getTreeDepth(secondDict[key])
else:
thisDepth = 1
if thisDepth > maxDepth:
maxDepth = thisDepth
return maxDepth
def retrieveTree(i):
listOfTrees = [{'no surfacing': {0:'no', 1:{'flippers':{0:'no', 1:'yes'}}}}, {'no surfacing':{0:'no', 1:{'flippers':{0:{'head':{0:'no', 1:'yes'}}, 1:'no'}}}}]
return listOfTrees[i]
# 在父子节点间填充文本信息
def plotMidText(cntrPt, parentPt, txtString):
xMid = (parentPt[0] - cntrPt[0])/2.0 + cntrPt[0]
yMid = (parentPt[1] - cntrPt[1])/2.0 + cntrPt[1]
createPlot.ax1.text(xMid, yMid, txtString)
def plotTree(myTree, parentPt, nodeTxt):
numLeafs = getNumLeafs(myTree)
depth = getTreeDepth(myTree)
firstStr = myTree.keys()[0]
cntrPt = (plotTree.xOff + (1.0 + float(numLeafs)) / 2.0 / plotTree.totalW, plotTree.yOff)
plotMidText(cntrPt, parentPt, nodeTxt)
plotNode(firstStr, cntrPt, parentPt, decisionNode)
secondDict = myTree[firstStr]
plotTree.yOff = plotTree.yOff - 1.0/plotTree.totalD
for key in secondDict.keys():
if type(secondDict[key]).__name__ == 'dict':
plotTree(secondDict[key], cntrPt, str(key))
else:
plotTree.xOff = plotTree.xOff + 1.0/plotTree.totalW
plotNode(secondDict[key], (plotTree.xOff, plotTree.yOff), cntrPt, leafNode)
plotMidText((plotTree.xOff, plotTree.yOff), cntrPt, str(key))
plotTree.yOff = plotTree.yOff + 1.0 / plotTree.totalD
def createPlot(inTree):
fig = plt.figure(1, facecolor = 'white')
fig.clf()
axprops = dict(xticks=[], yticks=[])
createPlot.ax1 = plt.subplot(111, frameon=False, **axprops)
plotTree.totalW = float(getNumLeafs(inTree))
plotTree.totalD = float(getTreeDepth(inTree))
plotTree.xOff = -0.5/plotTree.totalW
plotTree.yOff = 1.0
plotTree(inTree, (0.5, 1.0), '')
plt.show()
执行命令查看结果：
运行结果：
测试算法：使用决策树执行分类
依靠训练数据构造决策树之后，我们可以将它用于实际数据的分类中。
在trees.py文件中添加如下代码：
#使用决策数对数据进行分类
def classify(inputTree, featLabels, testVec):
firstStr = inputTree.keys()[0]
secondDict = inputTree[firstStr]
featIndex = featLabels.index(firstStr)
for key in secondDict.keys():
if testVec[featIndex] == key:
if type(secondDict[key]).__name__ == 'dict':
classLabel = classify(secondDict[key], featLabels, testVec)
else:
classLabel = secondDict[key]
return classLabel
执行命令查看结果：
决策树的存储
现在我们已经创建了使用决策树的分类器，但每次使用分类器时，必须重新构造决策树，这将会耗费大量的时间。因此，为了节省时间，最好能够在每次执行分类时调用已经构造好的决策树。
# 使用Pickle模块存储决策树
def storeTree(inputTree, filename):
import pickle
fw = open(filename, 'w')
pickle.dump(inputTree, fw)
fw.close()
def grabTree(filename):
import pickle
fr = open(filename)
return pickle.load(fr)
通过上面的代码，我们可以将分类器存储在硬盘上，而不用每次对数据分类时重新学习一遍，
这也是决策树的优点之一，像第2章介绍的k-近邻算法就无法持久化分类器。
实例：使用决策树预测隐形眼镜类型
（1）收集数据：提供的文本文件
（2）准备数据：解析tab键分隔的数据行
（3）分析数据：快速检查数据，确保正确地解析数据内容，使用createPlot()函数绘制最终的树形图
（4）训练算法：使用createTree()函数
（5）测试算法：编写测试函数验证决策树可以正确分类给定的数据实例
（6）使用算法：存储树的数据结构，以便下次使用时无需重新构造树
申明：本文为本人学习中所记之笔记，欢迎各位读者前来交流学习心得，如有批评建议请在下方评论处留言，转载请注明出处：http://blog.csdn.net/jay_xio/article/details/44516623
作者：Jay_Xio