Ablation study 是什么意思？

在读论文的时候看到一个短语叫ablation study，这是什么研究方法呢？

就是通过控制变量法证明算法的有效性。

-----------------------------------------------------------------------------------------

更多参考答案：

参考答案1：

作者：尼箍纳斯凯奇
链接：https://www.zhihu.com/question/60170398/answer/207709956
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

An ablation study typically refers to removing some “feature” of the model or algorithm, and seeing how that affects performance.

Examples:

An LSTM has 4 gates: feature, input, output, forget. We might ask: are all 4 necessary? What if I remove one? Indeed, lots of experimentation has gone into LSTM variants, the GRU being a notable example (which is simpler).
If certain tricks are used to get an algorithm to work, it’s useful to know whether the algorithm is robust to removing these tricks. For example, DeepMind’s original DQN paper reports using (1) only periodically updating the reference network and (2) using a replay buffer rather than updating online. It’s very useful for the research community to know that both these tricks are necessary, in order to build on top of these results.
If an algorithm is a modification of a previous work, and has multiple differences, researchers want to know what the key difference is.
Simpler is better (inductive prior towards simpler model classes). If you can get the same performance with two models, prefer the simpler one.

参考答案2：

作者：SleepyBag
链接：https://www.zhihu.com/question/60170398/answer/673961942
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

目的其实就是为了控制变量。

比如说你为了提升baseline的性能，给它加了两个模块A,B，加完之后效果果然提高了很多。于是你急急忙忙开始写论文，写到你的贡献，你给了两条：1.模块A，2.模块B。

但是这样写有个问题：尽管AB同时加上去对模型有提升效果，但是你并没有证明A、B两个模块分别都是有意义的。

所以为了验证A、B两个模块是不是真的都有用，你需要做ablation study。方法也很简单：

在baseline的基础上加上模块A，看效果。
在baseline的基础上加上模块B，看效果。
在baseline的基础上同时加上模块AB，看效果。

然后结果可能是，实验1和实验2的结果都不如实验3，那么说明AB都是有用的；然而也有可能你会发现实验1的结果和实验3一样，甚至更好。这就说明你的想法是有问题的，模块B其实并没有起到作用，提升只来自于模块A。

综上所述，ablation study就是你在同时提出多个思路提升某个模型的时候，为了验证这几个思路分别都是有效的，做的控制变量实验的工作。

Ablation study 是什么意思？相关推荐

什么是ablation study（消融实验）？
诸神缄默不语-个人CSDN博文目录本文是对学术概念"ablation study(消融实验)"一词的介绍. 在深度学习论文中,ablation study往往是在论文最终提出的模 ...
ablation study解释
请看Quora上对于ablation study的解释高赞答案: An ablation study typically refers to removing some "feature& ...
什么是ablation study
解说1 原文链接:https://www.zhihu.com/question/60170398/answer/673961942 目的其实就是为了控制变量. 比如说你为了提升baseline的性能, ...
Ablation Study 解释
文章目录什么是 Ablation Study ? 什么是 Ablation Study ? Ablation Study 是消融实验. 可以理解为对比试验. 采用控制变量的方法,选择相应的变量,来验 ...
简单解释Ablation Study
看论文碰到了一个比较陌生的词Ablation Study,简单的来说,可以理解为对比实验,或者控制变量法. 英文解释: An ablation study typically refers to re ...
Ablation Study消融研究
作者:飘哥链接:https://www.zhihu.com/question/291655038/answer/683038545 来源:知乎著作权归作者所有.商业转载请联系作者获得授权,非商业转 ...
消融实验(ablation study)
Robert Long对消融研究(或消融实验)定义:通常用于神经网络,尤其是相对复杂的神经网络,如R-CNN.我们的想法是通过删除部分网络并研究网络的性能来了解网络 "消融"的原始 ...
ablation study 消融实验/消融研究
消融实验通常用于神经网络,尤其是相对复杂的神经网络,如R-CNN.我们的想法是通过删除部分网络并研究网络的性能来了解网络
为什么我们需要ablation study?
用于验证哪一个组件起了最重要的作用: 验证哪一组参数达到最好效果,其他参数为何不可以最主要,为什么可以这么好的效果

Ablation study 是什么意思？

Ablation study 是什么意思？相关推荐

最新文章

热门文章