唐宇迪学习笔记9:逻辑回归与梯度下降策略
目录
一、案例实战:Python实现逻辑回归任务概述
Logistic Regression
1、读取数据
2、看数据维度
3、 'Admitted'==1/'Admitted'==0图像
实现The logistic regression
二、案例实战:完成梯度下降模块
1、sigmoid 函数
表达式
sigmoid 函数画图展示
2、完成预测函数
3、构造数据
检查结果
4、数据组合
损失函数
计算梯度
三、案例实战:停止策略与梯度下降案例
1、比较3中不同梯度下降方法
2、将数据进行洗牌
3、时间对结果的影响
4、功能性函数
5、结果
四、案例实战:实验对比效果
1、对比不同停止策略
根据损失值停止
根据梯度变化停止
2、对比不同的梯度下降方法
Stochastic descent
Mini-batch descent
精度
一、案例实战:Python实现逻辑回归任务概述
Logistic Regression
我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员,你想根据两次考试的结果来决定每个申请人的录取机会。你有以前的申请人的历史数据,你可以用它作为逻辑回归的训练集。对于每一个培训例子,你有两个考试的申请人的分数和录取决定。为了做到这一点,我们将建立一个分类模型,根据考试成绩估计入学概率。
#三大件
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline
1、读取数据
import os
path = 'data' + os.sep + 'LogiReg_data.txt'
pdData = pd.read_csv(path, header=None, names=['Exam 1', 'Exam 2', 'Admitted'])
pdData.head()
2、看数据维度
pdData.shape
3、 'Admitted'==1/'Admitted'==0图像
positive = pdData[pdData['Admitted'] == 1] # returns the subset of rows such Admitted = 1, i.e. the set of *positive* examples
negative = pdData[pdData['Admitted'] == 0] # returns the subset of rows such Admitted = 0, i.e. the set of *negative* examplesfig, ax = plt.subplots(figsize=(10,5))
ax.scatter(positive['Exam 1'], positive['Exam 2'], s=30, c='b', marker='o', label='Admitted')
ax.scatter(negative['Exam 1'], negative['Exam 2'], s=30, c='r', marker='x', label='Not Admitted')
ax.legend()
ax.set_xlabel('Exam 1 Score')
ax.set_ylabel('Exam 2 Score')
实现The logistic regression
目标:建立分类器(求解出三个参数 )
设定阈值,根据阈值判断录取结果
二、案例实战:完成梯度下降模块
要完成的模块:
sigmoid
: 映射到概率的函数model
: 返回预测结果值cost
: 根据参数计算损失gradient
: 计算每个参数的梯度方向descent
: 进行参数更新accuracy
: 计算精度
1、sigmoid
函数
- g:R→[0,1]
-
唐宇迪学习笔记9:逻辑回归与梯度下降策略相关推荐
- 逻辑回归与梯度下降策略之Python实现
逻辑回归与梯度下降策略之Python实现 1. 映射到概率的函数sigmoid 2. 返回预测结果值model函数 3. 计算损失值cost 4. 计算梯度gradient 5. 进行参数更新 6. ...
- 唐宇迪学习笔记10:项目实战-交易数据异常检测
目录 一.任务目标解读 信用卡欺诈检测 任务流程: 主要解决问题: 二.项目挑战与解决方案制定 1.导入我们的工具包 2.数据读取 3.数据标签分布 三.数据标准化处理 四.下采样数据集制作 五.交叉 ...
- 唐宇迪学习笔记4:Python可视化库——Seaborn
目录 一.整体布局风格设置 五种主题风格 1.darkgrid 2.whitegrid 3.dark 4.white 5.ticks 二.风格细节设置 1.指定画图距离轴线的位置 2.指定轴的隐藏与否 ...
- 唐宇迪学习笔记1:Python环境安装、Pytho科学计算库——Numpy
目录 一.AI数据分析入门 1.案例来源 2.Python环境配置(Python3) Python的安装 Python库安装工具 Jupyter Notebook 二.Python科学计算库--Nu ...
- 唐宇迪学习笔记18:案例——SVM调参实例
目录 一.SVM案例:线性支持向量机 SVM:支持向量机 支持向量基本原理 例子 Support Vector Machines: 最小化 雷区 训练一个基本的SVM 对比实验 二.软间隔C值对结果的 ...
- 唐宇迪学习笔记3:Python数据可视化库——Matplotlib
目录 一.Matplotlib概述 最基本的图 线条格式 线条颜色 颜色与格式结合 二.子图与标注 绘制多个线 指定线条的宽度 自定义参数 子图 给图上加上注释 三.风格设置 四.条形图 五.条形图 ...
- 唐宇迪学习笔记20:聚类算法——DBSCAN
目录 一.DBSCAN聚类算法 (Density-Based Spatial Clustering of Applications with Noise) 二.DBSCAN工作流程 工作流程 参数选择 ...
- 吴恩达《机器学习》学习笔记七——逻辑回归(二分类)代码
吴恩达<机器学习>学习笔记七--逻辑回归(二分类)代码 一.无正则项的逻辑回归 1.问题描述 2.导入模块 3.准备数据 4.假设函数 5.代价函数 6.梯度下降 7.拟合参数 8.用训练 ...
- 吴恩达《机器学习》学习笔记五——逻辑回归
吴恩达<机器学习>学习笔记五--逻辑回归 一. 分类(classification) 1.定义 2.阈值 二. 逻辑(logistic)回归假设函数 1.假设的表达式 2.假设表达式的意义 ...
- 逻辑回归的梯度下降公式详细推导过程
逻辑回归的梯度下降公式 逻辑回归的代价函数公式如下: J(θ)=−1m[∑i=1my(i)loghθ(x(i))+(1−y(i))log(1−hθ(x(i)))]J(\theta)=-\frac{ ...
最新文章
- LeetCode 905	 Sort Array By Parity--Java stream,Python lambda表达式一行 解法
- source ubuntu 退出_ubuntu停source、sh、bash、/执行脚本的区别
- Ant Design Pro开发后台管理系统(新增页面)
- 对Java泛型的简单理解
- Tower-web 0.3.1/2 发布,类型完善和修复更新
- 利用Python绘制中国新型冠状病毒疫情图(国家和省)
- 蓝牙芯片排行_7月TWS 全球品牌出货量排行榜出炉
- window环境搭建go语言运行环境
- Python-JS (JS介绍~JS的基础数据类型)
- R-CNN学习笔记3:Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition(SPP-net)
- android手机视频,安卓手机视频加密软件
- 【项目管理】《挑战埃及》沙盘介绍
- RTMP协议封装H264格式详解
- 零信任学习系列一——研读NIST零信任架构(正式版)
- win7系统怎样开启wmi服务器,WMI服务是什么?Win7系统如何禁用WMI服务?
- win10更换自己喜欢的鼠标样式,马里奥、wow、lol都可以哦
- log4j.properties 使用说明
- 1块钱30分钟利用华为云服务器配置一台云电脑并搭建一个简易网站(步步截图较详细)
- css 上中下三行布局 4种方式
- 开山斧 V0.3 WIN 版本
热门文章
- AndroidStudio实现在图片上涂鸦并记录涂鸦轨迹
- java+整合handwrite_解决java.lang.UnsatisfiedLinkError: JNI_ERR returned from JNI_OnLoad
- oracle同音模糊查询
- 给DW2XLS源代码增加了同时导出多个dw的代码(合并多个dw)
- 《深入浅出MFC》第一、二章笔记
- 深入浅出 MFC_华中理 工_简体版电子书pdf下载
- java web程序设计任务驱动教程答案,Java Web应用程序开发任务驱动式教程
- jks签名文件转pk8
- Excel函数实战技巧精粹(三)常用函数之INDEX与MATCH组合详解
- Android系统在超级终端下必会的命令大全(adb shell命令大全)
- 逻辑回归与梯度下降策略之Python实现