李航《统计学习方法》感知机代码

import numpy as np
import timedef loadData(filename):'''加载minist训练集数量：60000测试集数量：10000'''print('start to read data')#存放数据及标记的listdataArr = []labelArr= []#打开文件,只读形式打开fr = open(filename,'r')#将文件逐行读取for line in fr.readlines():#line.strip()删除换行符，line.split(',')以','分割curLine = line.strip().split(',')#Mnist有0-9个标记，由于是二分类任务，所以将>=5的作为1，<5的作为-1if int(curLine[0]) >= 5:labelArr.append(1)else:labelArr.append(-1)#存放标记dataArr.append([int(num)/255 for num in curLine[1:]])return dataArr,labelArrdef perceptron(dataArr,labelArr,iter = 50):'''感知机训练过程可以理解为将mnist数据集中28*28=784大小的像素值看做是不同维度的数值相当于在784维空间中寻找一个超平面，可以将>=5和<5进行很好的分类输入：dataArr训练集labelArr训练集标签iter迭代循环次数，默认为50输出：训练权重w和偏置b'''print('start to train')#将数据转换为矩阵形式dataMat = np.mat(dataArr)           #m行n列labelMat = np.mat(labelArr).T    #m行1列m,n = np.shape(dataMat)#w为1行n列w = np.zeros((1,n))b = 0h = 0.0001for k in range(iter):for i in range(m):xi = dataMat[i]  #1行n列yi = labelMat[i] #1行1列#"-yi * (w * xi.T + b)"就是感知机的导数if -1 * yi * (w * xi.T + b) >= 0:#w和b的更新w = w + h * yi * xib = b + h * yiprint('Round %d:%d training' %(k, iter))return w, bdef model_test(dataArr,labelArr,w,b):'''测试准确率输入：dataArr测试数据集labelArr测试集标签w 训练得到的权重wb 训练得到的偏置b返回：准确率'''print('start to test')dataMat = np.mat(dataArr)    #m*nlabelMat = np.mat(labelArr).T # n* 1m,n = np.shape(dataMat)#errorCnt记录错误样本数errorCnt = 0for i in range(m):xi = dataMat[i]yi = labelMat[i]result = -1 * yi * (w * xi.T + b)if result >= 0:errorCnt += 1accruRate = 1 - (errorCnt / m)return accruRateif __name__ == '__main__':#获取当前时间start = time.time()#获取训练集及标签trainData,trainLabel = loadData('./mnist_train.csv')testData,testLabel = loadData('./mnist_test.csv')w,b = perceptron(trainData,trainLabel,30)accruRate = model_test(testData,testLabel,w,b)end = time.time()print('accuracy rate is:',accruRate)print('time span:',end - start)

李航《统计学习方法》感知机代码相关推荐

李航统计学习方法----感知机章节学习笔记以及python代码
目录 1 感知机模型 2 感知机学习策略 2.1 数据集的线性可分性 2.2 感知机学习策略 3 感知机学习算法 3.1 感知机学习算法的原始形式 3.2 感知机算法的对偶形式 4 感知机算法pyth ...
【李航统计学习方法】感知机模型
目录一.感知机模型二.感知机的学习策略三.感知机学习算法感知机算法的原始形式感知机模型的对偶形式参考文献本章节根据统计学习方法,分为模型.策略.算法三个方面来介绍感知机模型. 首先介绍感 ...
李航统计方法——感知机
李航统计学习方法--感知机文章目录李航统计学习方法--感知机 1.数据集的线性可分性 2.感知机学习策略 3.感知机学习算法 3.1感知机学习算法原始形式 3.2感知机学习算法的对偶形式 1.数据 ...
机器学习：李航-统计学习方法-代码实现
<统计学习方法>的代码实现分享 <统计学习方法>这本书,附件里并没有代码实现,于是许多研究者复现了里面算法的代码,并放在github里分享,这里介绍几个比较热门的<统计学 ...
统计学习方法 pdf_李航统计学习方法（第三章）
第3章 k 近邻法 k 近邻法(k-NN)是一种基于实例的学习方法,无法转化为对参数空间的搜索问题(参数最优化问题).它的特点是对特征空间进行搜索.除了k近邻法,本章还对以下几个问题进行较深入的讨论: ...
统计学习方法|感知机原理剖析及实现
欢迎直接到我的博客查看最近文章:www.pkudodo.com.更新会比较快,评论回复我也能比较快看见,排版也会更好一点. 原始blog链接: http://www.pkudodo.com/2018/ ...
《统计学习方法》代码更新了-（github的star数5300+）
李航老师的<统计学习方法>可以说是机器学习的入门宝典,许多机器学习培训班.互联网企业的面试.笔试题目,很多都参考这本书.2019年5月1日,<统计学习方法第二版>出版了!本人的 ...
手机上的机器学习资源！Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>.CS229数学基础等,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成 ...
新建网站了！Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现，可以在线阅读了！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成了网页版,可以在线阅读 ...
吴恩达深度学习笔记_Github标星过万的吴恩达机器学习、深度学习课程笔记，《统计学习方法》代码实现，可以在线阅读了！...
吴恩达机器学习.深度学习,李航老师<统计学习方法>,可以说是机器学习入门的宝典.本文推荐一个网站"机器学习初学者",把以上资源的笔记.代码实现做成了网页版,可以在线阅读 ...

李航《统计学习方法》感知机代码

李航《统计学习方法》感知机代码

李航《统计学习方法》感知机代码相关推荐

最新文章

热门文章