机器学习使用三分法找最优解参数

先说一下，这个算法其实就是一个简单的贪心和三分的实现
其用于计算的模型是类似于

这样的模型，但是这里不同的是，针对于机器学习中的特定性，我们需要的一般是极大值，在这里只有最小值，但是其实是一样的。
今天的是两个变量的更新，下一次更新多个变量。

python实现

# -*- coding: utf-8 -*-
"""
Created on Mon Sep  9 18:44:30 2019@author: C-82
"""
'''
首先是三维空间内的曲线，想象是一个凸上去的形状
'''
'''
func函数是计算正确率的函数
也就是你要进行调参的机器学习模型
这个需要你自己进行实现
'''
def func(x,y):return
'''
下面是四个常量
分别对应了两个参数的上下界
'''
XL = 0
XR = 10000
YL = 0
YR = 10000
'''
x,y
用于保存最终的计算结果,也就是模型的参数，默认初始值是（0，0）
'''
def optimize(x = XL,y = YL):'''最终的正确率初始化为0'''ans = 0'''开始进行两个变量的三分交叉计算'''while True:'''定x对y进行三分'''l = XLr = XRwhile r - l > 0.0000001:lmid = l + (r - l) / 3rmid = l + (r - l) / 3 * 2if(func(x,lmid) < func(x,rmid)):l = lmidelse:r = rmidy = r'''定y对x进行三分'''l = YLr = YRwhile r - l > 0.0000001:lmid = l + (r - l) / 3rmid = l + (r - l) / 3 * 2if func(lmid,y) < func(rmid,y):l = lmidelse:r = rmidx = r'''算法结束的条件'''if abs(ans - func(x,y)) < 0.0000001:breakans = max(ans,func(x,y))'''ret保存返回结果'''ret = {}ret['x'] = xret['y'] = yret['correctnessRate'] = ansreturn ret

举个例子：拟合计算z = 4 - x * x - y * y的极值点

def func(x,y):return 4 - x * x - y * y
'''
下面是四个常量
分别对应了两个参数的上下界
'''
XL = -10000
XR = 10000
YL = -10000
YR = 10000
'''
x,y
用于保存最终的计算结果,也就是模型的参数，默认初始值是（0，0）
'''
def optimize(x = XL,y = YL):'''最终的正确率初始化为0'''ans = 0'''开始进行两个变量的三分交叉计算'''while True:'''定x对y进行三分'''l = XLr = XRwhile r - l > 0.0000001:lmid = l + (r - l) / 3rmid = l + (r - l) / 3 * 2if(func(x,lmid) < func(x,rmid)):l = lmidelse:r = rmidy = r'''定y对x进行三分'''l = YLr = YRwhile r - l > 0.0000001:lmid = l + (r - l) / 3rmid = l + (r - l) / 3 * 2if func(lmid,y) < func(rmid,y):l = lmidelse:r = rmidx = r'''算法结束的条件'''if abs(ans - func(x,y)) < 0.0000001:breakans = max(ans,func(x,y))'''ret保存返回结果'''ret = {}ret['x'] = xret['y'] = yret['correctnessRate'] = ansreturn retprint(optimize(10,10))

运行结果：
{‘x’: 3.752887422336493e-08, ‘y’: -3.857856258637885e-08, ‘correctnessRate’: 3.9999999999999973}
欢迎关注公众号BBIT
让我们共同学习共同进步！

机器学习使用三分法找最优解参数相关推荐

机器学习模型评估与超参数调优详解
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:李祖贤深圳大学,Datawhale高校群成员机器学习分为两类 ...
使用optuna为机器学习模型挑选最优参数进行模型构建实战
使用optuna为机器学习模型挑选最优参数进行模型构建实战目录使用optuna为机器学习模型挑选最优参数进行模型构建实战 Optuna是什么
ML之回归预测：利用八(9-1)种机器学习算法对无人驾驶汽车参数(2017年的data,18+2)进行回归预测值VS真实值
ML之回归预测:利用八(9-1)种机器学习算法对无人驾驶汽车参数(2017年的data,18+2)进行回归预测值VS真实值目录模型评估输出结果模型评估相关文章:ML之回归预测:利用八(9-1 ...
第七十四篇：机器学习优化方法及超参数设置综述
第七十四篇:机器学习优化方法及超参数设置综述置顶 2019-08-25 23:03:44 廖佳才阅读数 207更多分类专栏: 深度学习版权声明:本文为博主原创文章,遵循 CC 4.0 BY-S ...
Python使用模拟退火（Simulated Annealing）算法构建优化器获取机器学习模型最优超参数组合（hyperparameter）实战+代码
Python使用模拟退火(Simulated Annealing)算法构建优化器获取机器学习模型最优超参数组合(hyperparameter)实战+代码目录
机器学习 | MATLAB实现支持向量机回归参数设定
机器学习 | MATLAB实现支持向量机回归参数设定目录机器学习 | MATLAB实现支持向量机回归参数设定基本介绍参数描述学习总结参考资料基本介绍 RegressionSVM 是一种支 ...
auot lisp 选择集处理_第64集 python机器学习：用预处理进行参数选择
在机器学习过程中,大多数机器学习应用不仅需要应该用单个算法,而且还需要将许多不同的处理步骤和机器学习模型链接在一起. 接下来我们将引入本章学习的内容--Pipeline类:该类可以简化构造变换和模型链 ...
机器学习聚类篇——DBSCAN的参数选择及其应用于离群值检测
机器学习聚类篇--DBSCAN的算法原理.参数选择及其应用于离群值检测摘要 1. DBSCAN算法原理 1.1 基本概念定义 1.2 算法流程 2. 参数选择 2.1 领域半径:Eps的选取方法( ...
【机器学习基础】支持向量机超参数的可视化解释
作者 | Soner Yıldırım 编译 | VK 来源 | Towards Datas Science 支持向量机(SVM)是一种应用广泛的有监督机器学习算法.它主要用于分类任务,但也适用于回归 ...

机器学习使用三分法找最优解参数

机器学习使用三分法找最优解参数相关推荐

最新文章

热门文章

机器学习 使用三分法找最优解参数

机器学习 使用三分法找最优解参数相关推荐

最新文章

热门文章

机器学习使用三分法找最优解参数

机器学习使用三分法找最优解参数相关推荐