matlab实现id3,MATLAB简单实现ID3

再看《MATLAB数据分析与挖掘实战》，简单总结下今天看到的经典的决策树算法——ID3.

ID3：在决策树的各级节点上，使用信息增益的方法作为属性的选择标准，来帮助确定生成每个节点时所应采取的合适属性。

关于信息增益，知乎上这个回答也讲的很不错。信息增益=熵 - 条件熵，信息增益越大，说明该条件对事件确定性的影响越大。所以，在决策树中，我们将信息增益值作为测试属性。把测试属性取值相同的样本划为同一个子样本集。

基本流程：

·对当前样本，计算所有属性的信息增益，并将信息增益作为测试属性；

·若子样本集的类别属性只含有单个属性，则分支为叶子节点，判断其属性值并贴上相应的，然后返回调用处；否则对子样本集递归调用算法。

原理看起来有点复杂，其实用MATLAB实现起来及其简单：

%% 使用ID3决策树算法预测销量高低

clear;

% 参数初始化

inputfile = ‘F:\Techonolgoy\MATLAB\file\MTALAB数据分析与挖掘实战\Datasets\chapter5\chapter5\示例程序\data\sales_data.xls‘; % 销量及其他属性数据

%% 数据预处理

disp(‘正在进行数据预处理...‘);

[matrix,attributes_label,attributes] = id3_preprocess(inputfile);

%% 构造ID3决策树，其中id3()为自定义函数

disp(‘数据预处理完成，正在进行构造树...‘);

tree = id3(matrix,attributes_label,attributes);

%% 打印并画决策树

[nodeids,nodevalues] = print_tree(tree);

tree_plot(nodeids,nodevalues);

disp(‘ID3算法构建决策树完成！‘);

ID3缺点：

·偏向选择取值最多的即所谓的高度分支属性，不一定最优。

·只能处理离散属性。

原文：http://www.cnblogs.com/buzhizhitong/p/5880184.html

matlab实现id3,MATLAB简单实现ID3相关推荐

matlab 2009a使用教程,实验一安装MATLAB R2009a软件及其简单操作
实验一安装MATLAB R2009a软件及其简单操作一.实验目的 1.掌握MATLAB R2009a软件的安装. 2.熟悉启动和退出matlab的方法. 3.熟悉matlab命令窗口的组成. 4.掌 ...
2020-12-18 Matlab LQR 推导及简单应用
Matlab LQR 推导及简单应用本文主要介绍LQR的直观推导,说明LQR目标函数J选择的直观含义以及简单介绍矩阵Q,R的选取,最后总结LQR控制器的设计步奏,并将其应用在一个简单的倒立摆例子上. ...
matlab 滤波_MATLAB之简单卡尔曼滤波
卡尔曼滤波在控制中是一种常用的且非常有效的算法,前段时间在学习使用之后加深了对其的认识,滤波后的数据着实令我大吃一惊,今天我用MATLAB进行了一个简单的仿真,分享给大家一起来学习. 在这节教程中还包 ...
MATLAB 数字图像处理---车牌简单识别【亲测有效】
文章内容:利用 MATLAB 对图像进行简单处理,包括图像的模糊.锐化.和直方图均衡化:对图像进行边缘检测:并对利用 MATLAB 对图像中的数字提取识别. 目录 1 MATLAB 对图像进行简单处理 ...
matlab程序如何使用,如何使用MATLAB创建一个最简单的程序
<如何使用MATLAB创建一个最简单的程序>由会员分享,可在线阅读,更多相关<如何使用MATLAB创建一个最简单的程序(4页珍藏版)>请在人人文库网上搜索. 1.如何使用MAT ...
matlab实现的一个简单动画
matlab实现的一个简单动画全部代码 clc;%清屏 ysy=figure('name','猪猪女孩');%标题 axis([0 80 0 80]); hold on; axis off; set ...
matlab 摄像头拍照,matlab摄像头拍照
图像采集: 该单元是指道路上安装的摄像头在检测到有车辆通过的同时进行拍照并...在 MATLAB 中我们可以调用 im2gray 函数对图像进行灰度化处理. 4.2.2图像的...... 2 车辆牌 ...
【 MATLAB 】使用 MATLAB 求由差分方程表示的滤波器的响应的两种方法
例题: 一个3阶低通滤波器由下面差分方程描述: y(n) = 0.0181 x(n) + 0.0543 x(n-1) + 0.0543 x(n-2) + 0.0181 x(n-3) + 1.76 y( ...
matlab模块 python,Matlab 和Python结合使用
今天介绍的内容比较基础,希望能达到抛砖引玉的效果. Matlab 和 Python 结合使用无非分为两种情形: Matlab中使用Python包: Python中使用Matlab. 1. Matlab ...

matlab实现id3,MATLAB简单实现ID3

matlab实现id3,MATLAB简单实现ID3相关推荐

最新文章

热门文章