一、摘要

在本文中，我们研究是自然发生的是/否问题—表示它们是在无提示且不受限制的情况下生成的。我们建立了此类问题的阅读理解数据集BoolQ，并表明它们出乎意料地具有挑战性。他们经常查询复杂的，非事实的信息，并且需要困难的类似蕴含的推理来解决。我们还探讨了一系列迁移学习基准的有效性。我们发现从包含数据传输比从释义或提取质量检查数据传输更有效，而且令人惊讶的是，即使从庞大的经过预训练的语言模型（例如BERT）开始，它仍然继续非常有益。我们最好的方法是在MultiNLI上训练BERT，然后在我们的火车上对其进行重新训练。达到80。

二、结论

我们引入了BoolQ，这是一个新的阅读理解数据集，包含自然出现的是/否问题。我们已经表明，这些问题具有挑战性，需要广泛的推理能力来解决。我们还研究了迁移学习在这项任务中的表现，并发现即使在语言模型预训练的基础上，也可以利用人群来源的蕴涵数据集来提高性能。未来的工作可能包括建立这一任务的文档级版本，这将增加其难度及其与最终用户应用程序的对应性。

yes/no questions from the BoolQ dataset

BoolQ数据集中需要的各种推理

【论文泛读44】BoolQ：探索自然是/否问题的惊人难度相关推荐

【论文泛读】 Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
[论文泛读] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift ...
【论文泛读】 Deep Learning 论文合集
[论文泛读] Deep Learning 论文合集文章目录 [论文泛读] Deep Learning 论文合集 Batch Normalization: Accelerating Deep Netw ...
【论文泛读】 ResNet：深度残差网络
[论文泛读] ResNet:深度残差网络文章目录 [论文泛读] ResNet:深度残差网络摘要 Abstract 介绍 Introduction 残差结构的提出残差结构的一些问题深度残差网络 ...
云计算中微服务相关论文泛读
以下是最近对于云计算中微服务系统调度论文的泛读,欢迎一起探讨问题,如需要论文请私聊. Amoeba: QoS-Awareness and Reduced Resource Usage of Micro ...
方面级情感分析论文泛读02：Syntax-Aware Aspect-Level Sentiment Classification with Proximity-Weighted Convolution
提示1:原文链接提示1:代码链接文章目录前言一.论文信息二.笔记要点 2.1. 目前存在的问题 2.2. 目前解决方法: 2.3.本文方法和创新点 2.4. 实验效果 2.5. 模型结构 2 ...
【论文泛读】Easing Embedding Learning by Comprehensive Transcription of Heterogeneous Information Networks
Easing Embedding Learning by Comprehensive Transcription of Heterogeneous Information Networks [2018 ...
ICRA2017三篇论文泛读
1.Convergence and Consistency Analysis for a 3-D Invariant-EKF SLAM(泛读)(ICRA2017)引用 9 摘要翻译: 在这篇文章中,我 ...
【论文泛读121】边际效用递减：探索BERT知识蒸馏的最小知识
贴一下汇总贴:论文阅读记录论文链接:<Marginal Utility Diminishes: Exploring the Minimum Knowledge for BERT Knowled ...
Hyperspectral Unmixing论文泛读（一）
文章目录李沐:如何读论文? JMnet: Joint Metric Neural Network for Hyperspectral Unmixing UnDIP: Hyperspectral Un ...

【论文泛读44】BoolQ：探索自然是/否问题的惊人难度

一、摘要

二、结论

【论文泛读44】BoolQ：探索自然是/否问题的惊人难度相关推荐

最新文章

热门文章