1.2 决策树代码实现

1 代码结构图

2 源码下载地址

下载源码

3 代码实现

from sklearn.feature_extraction import DictVectorizer
import csv
from sklearn import tree
from sklearn import preprocessing
from sklearn.externals.six import StringIO
import numpy as np# csv文件里面的数据
csvData = open(r'D:\workspace\MachineLearning\07stage\1-fundamental\01\DecisionTree\AllElectronics.csv','r')
# 解析csv文件数据
readerData = csv.reader(csvData)
# 将csv数据转为list数据
sourceData = []
for row in readerData:sourceData.append(row)
headers = sourceData[0] # 得到表头数据
labelList = [] # 分类结果
featureList = [] # 特征值数据
coreData = sourceData[1:]
for data in coreData:rowDict = {}labelList.append(  data[ len(data)-1 ]   )for i in range(1,len(data)-1):rowDict[ headers[i] ] = data[i]featureList.append(rowDict)
"""
将特征值数据进行向量化
比如：
featureList = [{'age': 'youth'},{'age': 'old'},{'age': 'mid'}]
进行向量化后得到结果:
[[0. 0. 1.][0. 1. 0.][1. 0. 0.]]
各维度的解释为:
['age=mid', 'age=old', 'age=youth']
"""
vec = DictVectorizer() # 特征值向量化工具类
featureArray = vec.fit_transform(featureList).toarray() #进行向量化
featureNames = vec.get_feature_names();#得到各个维度的含义"""
将[[no],[no],[yes],[yes],[yes] ]
转为[ [0],[0],[1],[1],[1] ]
"""
lb = preprocessing.LabelBinarizer()
labels = lb.fit_transform(labelList)
"""
采用信息熵来做决策树
"""
classifier = tree.DecisionTreeClassifier(criterion='entropy')
classifier = classifier.fit(featureArray,labels)#将算好的信息熵保存到文件中
with open('AllElectronicsDot.dot','w') as f:f = tree.export_graphviz(classifier,feature_names=featureNames,out_file=f)"""
使用graphviz绘图工具将AllElectronicsDot.dot转为pdf格式
使用命令: dot -Tpdf AllElectronicsDot.dot -o AllElectronicsPdf.pdf
""""""
预测数据
[ youth,high,no,fair ]
"""
newData = featureArray[0,:]; # 拷贝csv文件中第一行数据
newData[0] = 1
newData[1] = 0
newData[2] = 0
predictParam = []
predictParam.append(newData)predictValue = classifier.predict(predictParam)
print("predictValue " + str(predictValue))

1.2 决策树代码实现相关推荐

【机器学习】决策树代码练习
本课程是中国大学慕课<机器学习>的"决策树"章节的课后代码. 课程地址: https://www.icourse163.org/course/WZU-146409617 ...
python决策树代码实现
python决策树代码实现实现一个简单的决策树,可以同时处理属性值是连续和离散的情况. 使用sklearn里面的鸢尾花等数据集验证,正确率还不错(90%+) Github地址:https://git ...
决策树代码代码——python源代码，看完你就完全懂了
决策树决策树在周志华的西瓜书里面已经介绍的很详细了(西瓜书P73-P79),那也是我看过讲的最清楚的决策树讲解了,我这里就不献丑了,这篇文章主要是分享决策树的代码. 在西瓜书中介绍了三种决策树,分别 ...
机器学习：决策树过拟合与剪枝，决策树代码实现（三）
文章目录楔子变量方法数据预处理剪枝获取待剪集: 针对ID3,C4.5的剪枝损失函数的设计基于该损失函数的算法描述基于该损失函数的代码实现针对CART的剪枝损失函数的设计基于该损 ...
机器学习：结点的实现，决策树代码实现（二）
文章目录楔子定义变量: 定义方法获得划分的feature 生成结点停止条件及其处理 fit() 生成树剪枝楔子前面已经实现了各种信息量的计算,那么我们划分的基本有了,那么我们需要使用这个基 ...
机器学习：信息熵，基尼系数，条件熵，条件基尼系数，信息增益，信息增益比，基尼增益，决策树代码实现（一）
文章目录初始化,涉及到使用的变量: 信息熵定义公式,经验公式代码: 基尼系数定义公式,经验公式代码: 条件熵,条件基尼系数条件熵定义公式,经验公式条件基尼系数定义公式,经验公式代码: ...
python决策树代码解读_建模分析之机器学习算法（附pythonR代码）
0序随着移动互联和大数据的拓展越发觉得算法以及模型在设计和开发中的重要性.不管是现在接触比较多的安全产品还是大互联网公司经常提到的人工智能产品(甚至人类2045的的智能拐点时代).都基于算法及建模来 ...
自己尝试使用简单数据集实现决策树代码——《机器学习实战》
记录学习过程,每天学会一点点,早日玩转机器学习......(手动呵呵微笑). 一.核心代码 1.数据集部分上图为所给的海洋生物数据,则以1代表可以付出水面.有脚蹼:0代表无法浮出水面.无脚蹼:yes ...
读书笔记：机器学习实战(2)——章3的决策树代码和个人理解与注释
首先是对于决策树的个人理解: 通过寻找最大信息增益(或最小信息熵)的分类特征,从部分已知类别的数据中提取分类规则的一种分类方法. 信息熵: 其中,log底数为2,额,好吧,图片我从百度截的.. 这里只 ...

1.2 决策树代码实现

1.2 决策树代码实现相关推荐

最新文章

热门文章