ML:基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、支持向量机(SVM_Linear、SVM_Rbf)、LDA线性判别分析算法进行二分类预测(决策边界可视化)

目录

基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、支持向量机(SVM_Linear、SVM_Rbf)、LDA线性判别分析算法进行二分类预测(决策边界可视化)

设计思路

输出结果

核心代码


相关文章
ML:基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、SVM支持向量机、LDA线性判别分析算法进行二分类预测(决策边界可视化)
ML:基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、SVM支持向量机、LDA线性判别分析算法进行二分类预测(决策边界可视化)实现

基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、支持向量机(SVM_Linear、SVM_Rbf)、LDA线性判别分析算法进行二分类预测(决策边界可视化)

设计思路

输出结果

w_target.shape:  (3,) [ 1.17881511 -5.13265596 -6.55556511]
Pre_Logistic_function <class 'function'>
Product_x_function [1.         0.10262954 0.43893794]
data_x (300, 3) [[ 1.         -0.15378708  0.9615284 ][ 1.          0.36965948 -0.0381362 ][ 1.         -0.21576496 -0.31364397][ 1.          0.45809941 -0.12285551][ 1.         -0.88064421 -0.20391149]]

核心代码

def gradient_descent(data_x, data_y, w_h=None, eta=1.0, max_iterations=10000, epsilon=0.001):if w_h == None:w_h = np.array([0.0 for i in range(data_x.shape[1])])w_h_i = [np.copy(w_h)]  for i in range(max_iterations):subset_indices = range(data_x.shape[0])grad_E_in = np.mean(np.tile(- data_y[subset_indices] /( 1.0 + np.exp(data_y[subset_indices] * w_h.dot(data_x[subset_indices].T)) ),(data_x.shape[1], 1)).T *   data_x[subset_indices], axis=0)w_h -= eta * grad_E_inw_h_i.append(np.copy(w_h))if np.linalg.norm(grad_E_in) <= np.linalg.norm(w_h) * epsilon:breakreturn np.array(w_h_i)LoR = linear_model.LogisticRegression()
LoR.fit(data_x,data_y)
y_train=LoR.predict(data_x)LoRpp_function = lambda z: LoR.predict_proba(z)[:,0]
BG_Grid_BaseLoR = apply_to_fill(z_grid, LoRpp_function)full_N_fig = plot_dataset_and_hypothesis(3,data_x, data_y, xy_1, xy_2, BG_Grid_BaseLoR,title=r'LoR: Hypothesis, $N={:}$'.format(N))SVM_Linear = svm.SVC(kernel='linear')
SVM_Linear.fit(data_x,data_y)SVM_LinearPre_function = lambda z: SVM_Linear.predict(z)
BG_Grid_BaseSVM_Linear = apply_to_fill(z_grid, SVM_LinearPre_function)full_N_fig = plot_dataset_and_hypothesis(5,data_x, data_y, xy_1, xy_2, BG_Grid_BaseSVM_Linear, title=r'SVM_Linear: Hypothesis, $N={:}$'.format(N))

ML:基于自定义数据集利用Logistic、梯度下降算法GD、LoR逻辑回归、Perceptron感知器、SVM支持向量机、LDA线性判别分析算法进行二分类预测(决策边界可视化)相关推荐

  1. ML之catboost:基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两种方式)

    ML之catboost:基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两种方式) 目录 基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两 ...

  2. DL之DNN:基于自定义数据集利用深度神经网络(输入层(10个unit)→2个隐藏层(10个unit)→输出层1个unit)实现回归预测实现代码

    DL之DNN:基于自定义数据集利用深度神经网络(输入层(10个unit)→2个隐藏层(10个unit)→输出层1个unit)实现回归预测实现代码 目录 基于自定义数据集利用深度神经网络(输入层(10个 ...

  3. 基于6种监督学习(逻辑回归+决策树+随机森林+SVM+朴素贝叶斯+神经网络)的毒蘑菇分类

    公众号:尤而小屋 作者:Peter 编辑:Peter 大家好,我是Peter~ 本文是kaggle案例分享的第3篇,赛题的名称是:Mushroom Classification,Safe to eat ...

  4. ML之FE:基于自定义数据集(银行客户信息贷款和赔偿)对比实现特征衍生(手动设计新特征、利用featuretools工具实现自动特征生成)

    ML之FE:基于自定义数据集(银行客户信息贷款和赔偿)对比实现特征衍生(手动设计新特征.利用featuretools工具实现自动特征生成) 目录 基于自定义数据集(银行客户信息贷款和赔偿)对比实现特征 ...

  5. ML之FE:基于自定义数据集(银行客户信息贷款和赔偿)对比实现特征衍生(手动设计新特征、利用featuretools工具实现自动构造特征/特征衍生)

    ML之FE:基于自定义数据集(银行客户信息贷款和赔偿)对比实现特征衍生(手动设计新特征.利用featuretools工具实现自动构造特征/特征衍生) 目录 基于自定义数据集(银行客户信息贷款和赔偿)对 ...

  6. ML之LoR:基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分卡模型之以toad框架全流程讲解

    ML之LoR:基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分卡模型之以toad框架全流程讲解 目录 基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分卡模型之以to ...

  7. ML之LoR:基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分卡模型之以scorecardpy框架全流程讲解

    ML之LoR:基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分卡模型之以scorecardpy框架全流程讲解 目录 基于信用卡数据集利用LoR逻辑回归算法实现如何开发通用信用风险评分 ...

  8. ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

    ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略 目录 基于BigMartSales数 ...

  9. ML之FE:基于BigMartSales数据集利用Featuretools工具实现自动特征工程之详细攻略daiding

    ML之FE:基于BigMartSales数据集利用Featuretools工具实现自动特征工程之详细攻略daiding 目录 基于BigMartSales数据集利用Featuretools工具实现自动 ...

最新文章

  1. Sandbox 文件存放规则
  2. Neutron Router 工作原理 - 每天5分钟玩转 OpenStack(142)
  3. 在studio中使用libsdl2.so,编译SDL Demo
  4. python导入csv文件中特定列-如何使用标头完整的python导入csv文件,其中第一列为非数字...
  5. 【LeetCode】3月26日打卡-Day11
  6. mysql php 问号_PHP / MySQL:某些字符未正确编码并显示为问号
  7. IO File.copy 实现文件的复制
  8. 【操作系统】进程管理(二)
  9. spellcheck 属性 html5的新属性,对元素内容进行拼写检查
  10. [BZOJ5334][TJOI2018]数学计算(exgcd/线段树)
  11. 转载:真正高人的解读——《三体 读后感》【宇宙尺度的战争】
  12. 影响宝宝脾胃健康的3个“真凶”,难怪孩子脾胃总是调不好!
  13. 在imitate中遇到的问题
  14. 扫二维码登陆微信 统计微信男女比例并绘图
  15. Mybatis批量update修改实例
  16. How to reassign lifecycle in Windchill
  17. 平价的蓝牙耳机哪家质量好?学生党公认的五款高品质蓝牙耳机
  18. PHP学习笔记——图形图像
  19. convert ps pcl emf wmf to pdf files using ghostscript
  20. 业务实战记录(1):帮业务人员做道Excel题

热门文章

  1. 按键精灵文字识别插件_按键精灵——如何实现办公自由(二)
  2. php 后台配置系统,使用 laravel-admin 配置后台管理系统
  3. activiti 工作流_springboot+activiti+angular 集成activiti工作流实现,源码分享
  4. Codeforces Round #482 (Div. 2)
  5. 如何优雅的处理业务逻辑中的定时和延时问题?
  6. 大话程序猿眼里最全的高并发,快收藏!
  7. 当git上只做文件大小写重命名的修改时,如何躲坑...
  8. Java专家系列:CPU Cache与高性能编程
  9. React入门指引与实战
  10. 多线程:interrupted、isinterrupted区别