自动学习——《Learning to Teach》—

自动学习（AutoML）：通过自动化的方式，机器试图学习到最优的学习策略，从而避免机器学习从业者低效的手动调整方式。
经典的自动学习方法：
（1）用于超参数调节的贝叶斯优化（Bayesian Optimization）
（2）用于优化器和网络结构调整的元学习技术（Meta learning/Learning to learn）
传统的机器学习算法还是最近的自动学习算法，重点都是如何让AI更好的学习：两种学习算法的训练过程都是在固定的数据集上，通过最小化固定的损失函数，优化得到位于模型假设空间（Hypothesis Space）里最优的模型。差别仅仅在于优化过程是否是自动进行的。
Learning to Teach：
（1）数据教学力图为机器学习过程寻找到最优的数据集——教科书
（2）损失函数教学力图为机器学习过程寻找到最优的损失函数——优秀教师
（3）模型空间教学力图为机器学习过程定义最优的模型假设空间——教给学生的技能集合（skills set）
论文定义了两个模型：学生模型和教师模型，前者即为通常意义下的机器学习模型，后者则负责为前者提供合适的数据、损失函数或者模型假设空间。
论文只进行了数据教学的实验：学生模型是用于分类的深度神经网络，适用随机梯度下降来进行优化。教师模型是一个三层的前向网络，其职责是负责为学生模型的每步更新提供合适的批次数据（Mini-batch Data）。使用强化学习中的Reinforce算法来进行教师模型的训练更新。
问题的关键：如何训练教师模型？While one can choose different approaches to train the teacher model, in this paper, we employ reinforcement learning (RL) for this purpose. （论文原文）
具体步骤：（论文原文）
如何通过教师模型来输出下一步学生模型所需要的Mini-batch Data?（重点关注数据教学的实验部分）
mini-batch stochastic gradient descent (SGD) as its learning rule (i.e., the argmin part in Eqn. 1). Mini-batch SGD is a sequential process, in which mini-batches of data {D1, • • •Dt, … } arrive sequentially in a random order. Here Dt = (d1, • • • , dM) is the mini-batch of data arriving at the t-th time step and consisting of M training instances.
Furthermore, in reality it is computationally prohibitive to scan over all the remaining training data to select out Dt at each step. To overcome this, after receiving the randomly arrived mini-batch Dt of M training instances, our teacher model A dynamically determine which instances in Dt are used for training and the others are abandoned.

reference

自动学习——《Learning to Teach》——ICLR2018相关推荐

TF之NN：利用神经网络系统自动学习散点(二次函数+noise+优化修正)输出结果可视化(matplotlib动态演示)
TF之NN:利用神经网络系统自动学习散点(二次函数+noise+优化修正)输出结果可视化(matplotlib动态演示) 目录输出结果代码设计输出结果代码设计 import tensorflo ...
【AutoML】归一化(Normalization)方法如何进行自动学习和配置
大家好,欢迎来到专栏<AutoML>,在这个专栏中我们会讲述AutoML技术在深度学习中的应用.这一期讲述在归一化机制中的应用. 作者&编辑 | 言有三数据经过归一化和标准化后可 ...
rms归一化_【AutoML】归一化(Normalization)方法如何进行自动学习和配置
大家好,欢迎来到专栏<AutoML>,在这个专栏中我们会讲述AutoML技术在深度学习中的应用.这一期讲述在归一化机制中的应用. 作者&编辑 | 言有三数据经过归一化和标准化后可 ...
特征重要性、特征集成+FeatureUnion、特征选择变换器+ColumnTransformer、标签特征变换+TransformedTargetRegressor、特征质量、自动学习数据中的特征
特征重要性.特征集成+FeatureUnion.特征选择变换器+ColumnTransformer.标签特征变换+TransformedTargetRegressor.特征质量.自动学习数据中的特征 ...
谷歌大脑最新研究：用AutoML的方式自动学习Dropout模式，再也不用手动设计
鱼羊发自凹非寺量子位报道 | 公众号 QbitAI 深度神经网络往往存在过拟合的问题,需要Dropout.权重衰减这样的正则化方法的加持. 而最近的研究表明,如果对Dropout"剪 ...
交换机自动学习vlan
如图所示:LSW1创建静态vlan 10,SW2和SW3没有配置vlan,通过配置gvrp和trunk,让SW2.SW3自动学习vlan LSW1 <Huawei>undo termina ...
使用ModelArts自动学习完成猫狗声音分类
准备数据点击下载猫狗声音数据集至本地: 解压,文件包结构大概如下图所示 data ├── test │ ├── cats │ │ ├── cat_20.wav │ │ ├── ...... │ │ ...
好想学python机器人_拥有自动学习的Python机器人-ChatterBot
「聊天机器人」一直是许多企业.学界在专研的东西,它可以用于许多用途上,例如淘宝会有机器人客服人员,会透过机器人来帮助你解决问题,又或者是很多聊天室都会有聊天机器人这种东西,例如Line 当中有人制作出 ...
手把手教你使用ModelArts的自动学习识别毒蘑菇分类
想当年,白雪公主吃了毒蘑菇,换来了白马王子的一吻.如果白雪公主没有吃毒蘑菇,还会遇到白马王子吗?张小白觉得不见得--说不定她会遇到张小白.张小白给她AI MindSpore Lite推理了一下,她就不 ...

自动学习——《Learning to Teach》——ICLR2018

自动学习——《Learning to Teach》——ICLR2018相关推荐

最新文章

热门文章