周志华-机器学习西瓜书-第三章习题3.3 编程实现对率回归

本文为周志华机器学习西瓜书第三章课后习题3.3答案，编程实现对率回归，数据集为书本第89页的数据

使用tensorflow实现过程

# coding=utf-8
import tensorflow as tf
from numpy import *
import  numpy as np
import matplotlib.pyplot as pltdata = mat([[0.697,0.460,1],[0.774,0.376,1],[0.634,0.264,1],[0.608,0.318,1],[0.556,0.215,1],[0.403,0.237,1],[0.481,0.149,1],[0.437,0.211,1],[0.666,0.091,0],[0.243,0.267,0],[0.245,0.057,0],[0.343,0.099,0],[0.639,0.161,0],[0.657,0.198,0],[0.360,0.370,0],[0.593,0.042,0],[0.719,0.103,0]])x_train=data[:,0:2].astype(float32)
y_train=data[:,2].astype(float32)
y_train = mat(y_train)
w=tf.Variable(tf.zeros([2,1]))
b=tf.Variable(tf.zeros([1,1]))
y=1/(1+tf.exp(-(tf.matmul(x_train,w)+b)))
loss = tf.reduce_mean(- y_train.reshape(-1, 1) * tf.log(y) - (1 - y_train.reshape(-1, 1)) * tf.log(1 - y))
train=tf.train.GradientDescentOptimizer(0.5).minimize(loss)
init=tf.global_variables_initializer()
sess=tf.Session()
sess.run(init)
for i in range(1000):sess.run(train)
print(i,sess.run(w).flatten(),sess.run(b).flatten())

画图过程

#画图
X0 = array(data[:8])#选择训练集中为好瓜的样本
X1 = array(data[8:])#选择训练集中为坏瓜的样本
ax = plt.subplot(111)
ax.scatter(X0[:,0],X0[:,1],c='g',label='+')#选择好瓜样本的第一列和第二列 画出散点图
ax.scatter(X1[:,0],X1[:,1],c='b',label='-')#选择坏瓜样本的第一列和第二列 画出散点图
x1 = arange(-0.9,1.0,0.1)
y1 = (-b-w[0]*x1)/w[1]
plt.sca(ax)
plt.plot(x1,sess.run(y1).flatten())
plt.legend()#设置图例
plt.show()

控制台输出

END~

转载于:https://www.cnblogs.com/hyacinthwyd/p/8884874.html

周志华-机器学习西瓜书-第三章习题3.3 编程实现对率回归相关推荐

【吃瓜教程】周志华机器学习西瓜书第三章答案
线性模型结构梳理 3.1 试析在什么情形下式3.2中不必考虑偏置项b 答案一: 偏置项b在数值上代表了自变量取0时,因变量的取值: 1.当讨论变量x对结果y的影响,不用考虑b: 2.可以用变量归一化( ...
机器学习（周志华）西瓜书课后习题4.3 信息熵决策树算法——python实现（包括树的可视化）
机器学习(周志华)西瓜书课后习题4.3 信息熵决策树算法--python实现(包括树的可视化) 算法原理 1.信息熵 2.信息增益我们所以要做的就是不断地从当前剩余的属性当中选取最佳属性对样本集进 ...
小白学机器学习西瓜书-第三章对数几率回归
小白学机器学习西瓜书-第三章对数几率回归 3.3 对数几率回归 3.3.1 对数几率函数 3.3.1 估计参数上一部分我们介绍了线性回归,包括简单的二元回归和多元回归,这两个主要解决的是拟合预测的问 ...
机器学习_周志华（西瓜书）课后习题答案第一章 Chapter1
机器学习_周志华课后习题答案第一章 Chapter1 习题1.1 Q:表1.1中若只包含编号为1和4的两个样例,试给出相应的版本空间. 由所给出的数据集(训练集)可知,属性3个:色泽.根蒂.敲声, ...
机器学习_周志华_西瓜书_学习笔记_第二章--模型的评估与选择
2 模型的评估与选择 2.1 误差与过拟合我们将学习器对样本的实际预测结果与样本的真实值之间的差异成为:误差(error).定义: 在训练集上的误差称为训练误差(training error)或经验 ...
从周志华的西瓜书到李宏毅的机器学习开源项目，一文总结Datawhale系列分享
今天是开源组织Datawhale一周岁生日,这一年来,Datawhale 分享了很多优质内容,希望通过这篇总结帮助大家更好地系统学习. Datawhale是一个专注于AI领域的开源组织,也是我的亲密伙 ...
周志华机器学习（西瓜书）学习笔记（持续更新）
<周志华机器学习>笔记第1章绪论 1.1 引言 1.2 基本术语 1.3 假设空间 1.4 归纳偏好 1.5 发展历程 1.6 应用现状第2章模型评估与选择 2.1 经验误差与过拟 ...
【周志华机器学习】三、线性模型
文章目录参考资料 1. 线性回归 1.1 概述应用举例 1.2 分析 1.3 对数线性回归 1.4 过拟合.欠拟合如何解决 L2正则化(岭回归) L1正则化(Lasso回归) ElasticNet ...
【周志华机器学习】十四、概率图模型
文章目录参考资料 1. 基本概念 2. 隐马尔可夫模型(HMM) 2.1 隐马尔可夫三大问题 1. 第一个问题解法 2. 第二个问题解法 3. 第三个问题解法 3. 马尔可夫随机场(MRF) 3.1 ...

周志华-机器学习西瓜书-第三章习题3.3 编程实现对率回归

周志华-机器学习西瓜书-第三章习题3.3 编程实现对率回归相关推荐

最新文章

热门文章