随便看看AutoGluon-Tabular

论文提到预先准备一些模型，并且按一个手设的priority进行训练

# Higher values indicate higher priority, priority dictates the order models are trained for a given level.
DEFAULT_MODEL_PRIORITY = dict(RF=100,XT=90,KNN=80,GBM=70,CAT=60,NN=50,LR=40,custom=0,
)

感觉设的很随意

MODEL_TYPES = dict(RF=RFModel,XT=XTModel,KNN=KNNModel,GBM=LGBModel,CAT=CatboostModel,NN=TabularNeuralNetModel,LR=LinearModel,
)

可能是Amazon经费有限，就整合了这几个模型

autogluon.scheduler.fifo.FIFOScheduler#run总算在这看到了超参优化的影子了

self.searcher
RandomSearcher(
ConfigSpace: Configuration space object:Hyperparameters:feature_fraction, Type: UniformFloat, Range: [0.75, 1.0], Default: 1.0learning_rate, Type: UniformFloat, Range: [0.01, 0.1], Default: 0.0316227766, on log-scalemin_data_in_leaf, Type: UniformInteger, Range: [2, 30], Default: 20num_leaves, Type: UniformInteger, Range: [16, 96], Default: 31
.
Number of Trials: 0.
Best Config: {}
Best Reward: -inf)

随机搜索
如果能找到AG配置的超参空间，也很有价值

BaseSearcher被哪些类继承了？

GP优化相关的类在autogluon.searcher.bayesopt.autogluon.gp_fifo_searcher.GPFIFOSearcher

这应该就是paper里面用来拟合tabular数据的NN了
autogluon.utils.tabular.ml.models.tabular_nn.tabular_nn_model.TabularNeuralNetModel
autogluon.utils.tabular.ml.models.tabular_nn.embednet.EmbedNet

构造ColumnTransformer
autogluon.utils.tabular.ml.models.tabular_nn.tabular_nn_model.TabularNeuralNetModel#_create_preprocessor

TabularNN还是值得研究的，有空看一下

随便看看AutoGluon-Tabular相关推荐

AutoGluon处理多模态数据方法及案例——Multimodal Data Tables: Tabular, Text, and Image
多模式数据表:表格.文本和图像注意:本教程需要 GPU 才能训练图像和文本模型.此外,具有适当 CUDA 版本的 MXNet 和 Torch 需要安装 GPU. PetFinder 数据集我们将使 ...
自动机器学习-AutoGluon: AutoML for Text, Image, and Tabular Data
什么是AutoML? 自动化机器学习(AutoML)入门简介 AutoML即为Auto+ML,是自动化+机器学习两个学科的结合体:从技术角度来说,则是泛指在机器学习各阶段流程中有一个或多个阶段采取自动 ...
AutoGluon包使用示例（表格、图像与多模态）
前言前些天看李沐老师的课,发现一个AutoMl包AutoGluon,李沐老师说使用该包在Kaggle泰坦尼克号生还预测中取得前10%的成绩,在房价预测中拿到了第1名的成绩(用到了表格+文本的多模态模 ...
利用autogluon对房价进行预测
AutoGluon 的兼容性和扩展性,可以很容易地将科研算法开展到大规模实验中. 三大应用领域 image(image classification.object detection) text(te ...
automl框架:AutoGluon介绍
文章目录 automl框架:AutoGluon介绍原理安装案例加载数据集测试通过leaderboard查看各个学习器参考 automl框架:AutoGluon介绍原理大部分autom ...
AutoGluon学习笔记
捡起记Blog的习惯学习视频链接跟李沐学AI 1. AutoGluon技术原理 Automl:自动对数据抽取特征并进行模型训练.大部分automl框架是基于超参数搜索技术.Autogluon则依赖于 ...
Kaggle（入门）
How to Win a Data Science Competition: Learn from Top Kagglers 网易公开课文章目录概念相关理论常见的机器学习 Linear Tre ...
AutoGluon-教程1-简单的入门模型
写在前面因为本人实在是懒,而且有关于机器学习和深度学习的基础知识不是很牢固,但又想着借着人工智能高大上的旗号整出一些好玩的模型,这边听说有一个模块能简简单单的就构建出深度学习模型,而且调参出的效果还 ...
论文阅读 AutoGluon-Tabular
这个就是AUTOML自动机器学习框架,相较于其他的深度学习,它融合了一点深度学习模型. AutoGluon-Tabular: Robust and Accurate AutoML for Struct ...
2021年，谁才是表格类数据模型的王者？
上次在聊 autoML 框架时顺带提了一下对于表格类数据(也是商业类问题的主要数据形式)表现较好的模型的选择,最近正好在 Twitter 上看到几篇不错的文章,就来稍微展开讨论一下.以我目前的认知,表 ...

随便看看AutoGluon-Tabular

随便看看AutoGluon-Tabular相关推荐

最新文章

热门文章