一、回归模型间的关系,回归是统计学中最有力的算法之一:

1.1 回归:(regression):用已知样本对未知公式参数的估计,给出一个点集D,用一个函数去拟合这个点集,并且使得点集与拟合函数间的误差最小,如果这个函数曲线是一条直线,那就被称为线性回归,如果曲线是一条二次曲线,就被称为二次回归

1.2.线性回归(linear regression):回归的一种,回归函数是一次函数,例如:f(x,y,z,…)=ax+by+cz+…+…其中x,y,z是训练样本集中样本的各个特征(feature),a,b,c是模型的未知参数。

1.3.逻辑回归(logistic regression):将result归一化到[0, 1]区间,即使用一个逻辑方程将线性回归归一化。


二 、线性回归(linear regression)

线性回归中的函数并不是指线性函数,属于监督学习。

hθ(x)=θ0+θ1x h_{\theta }\left ( x \right )=\theta _{0}+\theta _{1}x

我们常称x为feature,h(x)为hypothesis

diabetes dataset (数据集)

  • 样本总数 442
  • 维数 10 这里只用到了1维
  • 特征范围-.2 < x < .2
  • 标签:integer 25 - 346

#_*_ coding:utf-8 _*_
#__author__=="dragon"import matplotlib.pyplot as plt
import numpy as np
from sklearn import datasets,linear_model#从sklearn中导入数据
diabetes = datasets.load_diabetes()
#只用到数据集中的一种特征
diabetes_x = diabetes.data[:,np.newaxis,2]
#将数据分成训练和测试集
diabetes_x_train = diabetes_x[:-20]##442
diabetes_x_test = diabetes_x[-20:]##20
##将标签分为测试和训练集合
diabetes_y_train = diabetes.target[:-20]
diabetes_y_test = diabetes.target[-20:]
##建立一个线线回归对象
regr = linear_model.LinearRegression()
#训练
regr.fit(diabetes_x_train,diabetes_y_train)
#coefficients
print('coefficients = %f\n' % float(regr.coef_))
##均方误差(残差)
print('Residual sum of squares: %.2f' % np.mean((regr.predict(diabetes_x_test)-diabetes_y_test)**2))
##变异指数,为1时最优
print('variance score: %.2f' % regr.score(diabetes_x_test,diabetes_y_test))
##输出图
plt.scatter(diabetes_x_test,diabetes_y_test,color='red')
plt.plot(diabetes_x_test,regr.predict(diabetes_x_test),color='blue',linewidth=3)
plt.xticks(())
plt.yticks(())
plt.show()

输出结果:

coefficients = 938.237861
Residual sum of squares: 2548.07
variance score: 0.47

输出图片:

源码地址:

我戳!!!!!

最新回归算法理解、实现及应用(1)线性回归相关推荐

  1. python 决策树回归参数_使用 Python 和 scikit-learn 学习回归算法

    本教程已纳入面向开发者的机器学习这一学习路径. 简介 在本教程中,我们将介绍解决基于回归的机器学习问题的基础知识,并对当前最流行的一些算法进行比较研究. 设置 注册或登录. 从 Try IBM Wat ...

  2. 【Python】 python | 人工智能 | ai | 回归算法

    一.概述 1.回归算法理解,回归算法,即回归出数据中的规律(解模型) 2.回归算法可能存在过拟合情况 3.只是初学,未能深究 4.课程推荐,慕课-零基础学Python 二.演示代码 import nu ...

  3. 机器学习-LogisticRegression逻辑回归算法

    logistic回归又称logistic回归分析,是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊断,经济预测等领域.例如,探讨引发疾病的危险因素,并根据危险因素预测疾病发生的概率等.以胃癌病 ...

  4. 回归算法 - 线性回归求解 θ(最大似然估计求解)

    回顾线性回归的公式:θ是系数,X是特征,h(x) 是预测值. h(x) = θ0 + θ1x1 + θ2x2 + - + θnxn h(x) = Σ θixi( i=0~n ) h(x) = θTX ...

  5. 算法理解|从头开始理解梯度提升算法

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 作者:Prince Grover 编译:ronghuaiyang ...

  6. Machine Learning | (9) 回归算法-线性回归

    Machine Learning | 机器学习简介 Machine Learning | (1) Scikit-learn与特征工程 Machine Learning | (2) sklearn数据集 ...

  7. 第七课.Logistic回归算法

    Logistic 回归,又名逻辑回归,它从线性回归发展而来,是一种广义的线性回归模型:该模型预测输出的是样本类别的条件概率分布,因而可以取概率值最大的类别作为分类结果,实质上是一个分类模型. 目录 算 ...

  8. 逻辑回归算法c语言_逻辑回归算法背后的数学

    逻辑回归算法背后的数学 看完深蓝学院的机器学习公开课后,对于逻辑回归部分,打算写篇学习笔记记录总结一下,也和大家共同分享. 1 基本思能 逻辑回归(Logistic Regression)和线性回归( ...

  9. 分析决策树算法和逻辑回归算法的不同之处

    首先我们导入一组airplan.xlsx数据. 数据表中的age表示年龄.FLIGHT_COUNT表示飞行次数.BASE_POINTS_SUM表示飞行里程.runoff_flag表示流失与否,定义1为 ...

  10. 【机器学习】九种顶流回归算法及实例总结

    线性回归通常是人们为机器学习和数据科学学习的第一个算法.它简单易懂,但是由于其功能有限,在实际业务中并不是最佳选择.大多数情况下,线性回归被用作基线模型来评估和比较研究中的新方法. 在处理实际问题时, ...

最新文章

  1. 精确哈克,以贪婪为基础的欺诈式引流法
  2. 李飞飞AI100报告第二弹,提出14大AI机遇与挑战,82页pdf
  3. 2021中国低代码市场研究报告
  4. 大佬分享:程序员必知的干货
  5. pandas中DataFrame的学习笔记~
  6. Lucene(.net)学习
  7. 2.2 CSS3基本语法 + 选择器
  8. 解决SQL数据库无法附加
  9. 【window】重启IIS服务
  10. 树莓派部署yolov3
  11. Win10+Linux双系统删除Linux
  12. [Keil][Verilog][微机原理] 流水灯、存储器、外部中断实验_北京邮电大学计算机原理与应用课程实验报告
  13. pytorch 12 支持任意维度数据的梯度平衡机制GHM Loss的实现(支持ignore_index、class_weight,支持反向传播训练,支持多分类)
  14. KS和IV的区分比较
  15. Getaverse,走向 Web3 的远方桥梁
  16. C语言基础——数据输入输出
  17. 学习【Cesium】第六篇,Cesium地图点云与地形的加载(学不会揍我)
  18. Neo4j数据库知识图谱查询关联人物关系和cypher查询
  19. linux 如何简单地隐藏文件及显示隐藏文件
  20. 认识图片放大工具PhotoZoom的菜单栏

热门文章

  1. 以德服人——合格的产品经理
  2. SSM 实现 RESTful 风格
  3. 中国石油大学c语言程序设计答案,中国石油大学《C语言程序设计》期末复习题和答案.doc...
  4. java中foreach怎么访问_JAVA中的foreach怎么用
  5. Neo4j之下载安装:windows
  6. nyoj412 Same binary weight(bitset类运用)
  7. android 前后台,Android App前后台监控
  8. 日语python_Python日志和日语(或任何非ascii)
  9. c#加粗代码_C# 8中的可空引用类型
  10. Linux c 多线程写日志,linux c/c++多线程程序的编写(转)