机器学习算法GBDT的面试总结
def findLossAndSplit(x,y):
# 我们用 x 来表示训练数据
# 我们用 y 来表示训练数据的label
# x[i]表示训练数据的第i个特征
# x_i 表示第i个训练样本
# minLoss 表示最小的损失
minLoss = Integet.max_value
# feature 表示是训练的数据第几纬度的特征
feature = 0
# split 表示切分点的个数
split = 0# M 表示 样本x的特征个数
for j in range(0,M):# 该维特征下,特征值的每个切分点,这里具体的切分方式可以自己定义for c in range(0,x[j]):L = 0# 第一类R1 = {x|x[j] <= c}# 第二类R2 = {x|x[j] > c}# 属于第一类样本的y值的平均值y1 = ave{y|x 属于 R1}# 属于第二类样本的y值的平均值y2 = ave{y| x 属于 R2}# 遍历所有的样本,找到 loss funtion 的值for x_1 in all xif x_1 属于 R1: L += (y_1 - y1)^2 else:L += (y_1 - y2)^2if L < minLoss:minLoss = Lfeature = isplit = c
return minLoss,feature ,split
定义训练数据
train_data = [[5.1,3.5,1.4,0.2],[4.9,3.0,1.4,0.2],[7.0,3.2,4.7,1.4],[6.4,3.2,4.5,1.5],[6.3,3.3,6.0,2.5],[5.8,2.7,5.1,1.9]]
定义label
label_data = [[1,0,0],[1,0,0],[0,1,0],[0,1,0],[0,0,1],[0,0,1]]
index 表示的第几类
def findBestLossAndSplit(train_data,label_data,index):
sample_numbers = len(label_data)
feature_numbers = len(train_data[0])
current_label = []
# define the minLossminLoss = 10000000# feature represents the dimensions of the featurefeature = 0# split represents the detail split valuesplit = 0# get current labelfor label_index in range(0,len(label_data)):current_label.append(label_data[label_index][index])# trans all featuresfor feature_index in range(0,feature_numbers):## current feature valuecurrent_value = []for sample_index in range(0,sample_numbers):current_value.append(train_data[sample_index][feature_index])L = 0## different split valueprint current_valuefor index in range(0,len(current_value)):R1 = []R2 = []y1 = 0y2 = 0for index_1 in range(0,len(current_value)):if current_value[index_1] < current_value[index]:R1.append(index_1)else:R2.append(index_1)## calculate the samples for first classsum_y = 0for index_R1 in R1:sum_y += current_label[index_R1]if len(R1) != 0:y1 = float(sum_y) / float(len(R1))else:y1 = 0## calculate the samples for second classsum_y = 0for index_R2 in R2:sum_y += current_label[index_R2]if len(R2) != 0:y2 = float(sum_y) / float(len(R2))else:y2 = 0## trans all samples to find minium loss and best splitfor index_2 in range(0,len(current_value)):if index_2 in R1:L += float((current_label[index_2]-y1))*float((current_label[index_2]-y1))else:L += float((current_label[index_2]-y2))*float((current_label[index_2]-y2))if L < minLoss:feature = feature_indexsplit = current_value[index]minLoss = Lprint "minLoss"print minLossprint "split"print splitprint "feature"print featurereturn minLoss,split,feature
findBestLossAndSplit(train_data,label_data,0)
机器学习算法GBDT的面试总结相关推荐
- [机器学习算法]GBDT梯度提升决策树
参考:https://blog.csdn.net/google19890102/article/details/51746402/ 一.回顾 1.有监督学习方法 (1).模型:给定自变量和因变量进行预 ...
- 机器学习算法总结之Boosting:Boosting Tree、GBDT
写在前面 上一篇 机器学习算法总结之Boosting family:AdaBoost 提到Boost但是没说它的整个框架及分类,在这里记一下. Boosting(提升方法) = 加法模型 + 前向分步 ...
- 《百面机器学习算法工程师带你去面试》资料学习
<百面机器学习算法工程师带你去面试>收录了超过100道机器学习算法工程师的面试题目和解答,其中大部分源于Hulu算法研究岗位的真实场景.本书从日常工作.生活中各种有趣的现象出发,不仅囊括了 ...
- 2020年招聘算法岗,面试官最看重哪些新技术能力?
[导读]合格的算法工程师真正应该具备什么技能?在面试时,面试官又会如何验证你具备这些新技能?毕业仅一年,相继拿下头条.阿里.腾讯等offer的本文作者,为你绘制了一幅面试技能雷达图. 1 ◆◆ 哲学第 ...
- 常见面试之机器学习算法思想简单梳理
找工作时(IT行业),除了常见的软件开发以外,机器学习岗位也可以当作是一个选择,不少计算机方向的研究生都会接触这个,如果你的研究方向是机器学习/数据挖掘之类,且又对其非常感兴趣的话,可以考虑考虑该岗位 ...
- 这份GitHub万星的机器学习算法面试大全请大家注意查收
https://www.toutiao.com/a6677723633890099715/ 实习季已经开始,秋招也需要进入准备阶段.小编给大家带来一个好的项目中,作者为川大研究生,为大家准备了 ML ...
- 机器学习算法总结--GBDT
参考如下 机器学习(四)- 从gbdt到xgboost 机器学习常见算法个人总结(面试用) xgboost入门与实战(原理篇) 简介 GBDT是一个基于迭代累加的决策树算法,它通过构造一组弱的学习器( ...
- 【转】常见面试之机器学习算法思想简单梳理
转:http://www.chinakdd.com/article-oyU85v018dQL0Iu.html 前言: 找工作时(IT行业),除了常见的软件开发以外,机器学习岗位也可以当作是一个选择,不 ...
- 【面试复习系列】常用机器学习算法知识点及其解析,面试官会考的几乎都有,欢迎补充
图片慢慢上传,看不到图片的请点这里: 常用机器学习算法知识点及其解析,面试官会考的几乎都有 LR:logistic regression 对数几率回归/逻辑回归 sigmoid函数的作用就是用于把输 ...
最新文章
- 如何用数学函数去理解机器学习?
- Linux内存管理 - 页表的映射过程初步了解
- JavaScript工具库之Lodash
- sem_我知道的关键词1
- linux要求关闭httpd服务,Apache2.4.4的安装及实现service和chkconfig系统控制httpd开启关闭...
- 使用七牛云对网站进行加速基本配置
- mongo的php查询,使用PHP进行简单查询的mongo查询速度慢
- Find the longest route with the smallest starting point
- 从系统盘符选错到认识硬盘的各种分区
- 人工智能的发展_人工智能发展带来的机遇
- user32.dll 函数说明
- 我写的万年历插件(含天干地支,农历,阳历,节气,各种节假日等),基于MooTools 1.4
- VirtualBox安装教程(Win10)含软件安装包
- Linux-v10-01天-授课
- EBS INV:单位
- 使用fir im进行内测托管
- 职称计算机初级应知应会书,职称计算机考试用书
- 〖Python WEB 自动化测试实战篇⑧〗- 实战 - 利用 selenium 处理弹出框
- 命令行创建文件和文件夹
- About TexturePacker
热门文章
- MySQL buffer pool里的三种链表和三种page
- 嵌入式的薪资还是挺低的
- openwrt 音频开发
- 修改Win10 alt+F4默认选项为关机
- Datawhale组队-Pandas(下)文本数据(打卡)
- java requestparams_java – 如何验证@RequestParams不为空?
- flash动画设计期末作业_「2019年下学期」第二十五二十六节:期末作品三-吉祥物设计...
- 【Pytorch神经网络实战案例】29 【代码汇总】GitSet模型进行步态与身份识别(CASIA-B数据集)
- 爬虫实战学习笔记_6 网络请求request模块:基本请求方式+设置请求头+获取cookies+模拟登陆+会话请求+验证请求+上传文件+超时异常
- k8s pod内部容器_第三章 pod:运行于kubernetes中的容器