统计学习方法第二章感知机

原理不多描述，直接上代码

原始形式

import numpy as npdef perceptron(x_arr,y_arr,eta = 1):data_mat = np.mat(x_arr)label_mat = np.mat(y_arr).Tm,n = np.shape(data_mat)w = np.zeros((n,1))b = 0wrong_flag = Truewhile wrong_flag:count = 0for i in range(m):cal = np.sum(label_mat[i] * (w.T * data_mat[i].T + b))if cal <= 0:w = w + eta * (label_mat[i] * data_mat[i]).Tb = b + eta * label_mat[i]count += 1if count == 0:wrong_flag = Falsereturn w,b

用书上的实例点测试（3,3),(4,3),(1,1)，对应的y值为1,1,-1，结果得到w = [1,1].T，b = -3

关于对偶形式，我的理解就是把w用原始点通过线性组合表示出来。
对偶形式：

import numpy as npdef perceptron_dual(x_arr,y_arr,eta = 1):data_mat = np.mat(x_arr)label_mat = np.mat(y_arr).Tm,n = np.shape(data_mat)#Gram矩阵gram = data_mat * data_mat.Talpha = np.zeros((m,1))b = 0wrong_flag = Truewhile wrong_flag:  count = 0for i in range(m):cal = np.sum(label_mat[i] * (np.multiply(alpha,label_mat).T * gram[i].T + b))          if cal <= 0:alpha[i] = alpha[i] + etab = b + eta * label_mat[i]count += 1if count == 0:wrong_flag = Falsereturn alpha,b

同样用上面的实例点进行测试，可以得到alpha = [2,0,5].T,b = -3

统计学习方法第二章感知机相关推荐

统计学习方法第二章作业：感知机模型原始形式与对偶形式代码实现
原始形式实现 import numpy as np import matplotlib.pyplot as pltclass Perceptron_orginal:def __init__(self, ...
统计机器学习第二章感知机
对于线性方程w*x+b = 0 对应于空间的一个超平面S,其中w是超平面的法向量,b是超平面的截距.超平面将空间划分为两个部分,位于平面两边的点分属于正负两类. 前提:数据线性可分,可以找的一个超平面 ...
统计学习方法-第二章课后习题答案整理
2.1Minsky和Papert指出: 感知机因为是线性模型, 所以不能表示复杂的函数,如异或. 验证感知机为什么不能表示异或参考链接: https://blog.csdn.net/yangfeis ...
机器学习理论《统计学习方法》学习笔记：第二章感知机
<统计学习方法>学习笔记:第二章感知机 2 感知机 2.1 感知机模型 2.2 感知机学习策略 2.2.1 数据的线性可分性 2.2.2 感知机学习策略 2.3 感知机学习算法 2.3. ...
统计学习方法笔记第二章-感知机
统计学习方法笔记第二章-感知机 2.1 感知机模型 2.2感知机学习策略 2.2.1数据集的线性可分型 2.2.2感知机学习策略 2.3感知机学习算法 2.3.1感知机算法的原始形式 2.3.2算法的 ...
统计学习方法第一章学习心得
统计学习方法第一章学习心得以下可能有不当之处,请各位朋友停步指正,先谢过各位. 上一帖子说道,统计学习方法的三要素: 模型.策略.算法. 模型:模型的假设空间策略:模型的选择准则,即:定义最优 ...
【统计学习方法笔记】——第二章感知机
目录前言一.感知机模型 1.1 定义 1.2 几何解释二. 感知机学习策略 2.1 数据集的线性可分 2.2 感知机学习策略三.感知机学习算法 3.1 感知机学习算法的原始形式 3.2 算法的 ...
《统计学习方法第二版》学习笔记2——感知机
第2章感知机目录第2章感知机前言 1 理论部分 1.1 感知机模型 1.2 感知机学习策略 1.3 感知机算法 1.3.1 原始形式算法 1.3.2 对偶形式算法 2 代码部分 2.1 Pe ...
《统计学习方法第二版》学习笔记1——概论
第1章统计学习及监督学习概率论目录第1章统计学习及监督学习概率论前言 1 理论部分 1.1 统计学习 1.2 统计学习的分类 1.3 统计学习方法三要素 1.4 模型评估与模型选择 1.5 ...

统计学习方法第二章感知机

统计学习方法第二章感知机相关推荐

最新文章

热门文章

统计学习方法 第二章 感知机

统计学习方法 第二章 感知机相关推荐

最新文章

热门文章

统计学习方法第二章感知机

统计学习方法第二章感知机相关推荐