A Simple but Tough-to-Beat Baseline for Sentence Embeddings阅读笔记
文章目录
- 概述
- 算法
- 实验
- 1. Textual Similarity Tasks
- 2. Supervised Tasks
概述
一篇17年的论文, 采用无监督的方法.
主要思想可以概括为两步:
- 利用词嵌入方法，通过词向量的线性的加权组合对一个句子进行编码
- 利用奇异向量求出最终的句向量。
算法
实验
1. Textual Similarity Tasks
数据集
- all the datasets from SemEval semantic textual similarity (STS) tasks (2012-2015)
- the SemEval 2015 Twitter task
- the SemEval 2014 Semantic Relatedness task
实验设置
词向量分别采用了无监督的GloVe和弱监督的PSL.
α\alphaα固定为10−310^{-3}10−3, 词频利用commoncrawl dataset进行统计.
实验结果
2. Supervised Tasks
- the SICK similarity task
- the SICK entailment task
- the Stanford Sentiment Treebank (SST) binary classification task
实验结果
A Simple but Tough-to-Beat Baseline for Sentence Embeddings阅读笔记相关推荐
- 论文阅读笔记——《a simple but tough-to-beat baseline for sentence embeddings》
<a simple but tough-to-beat baseline for sentence embeddings>published at ICLR 2017. ICLR会议的论文 ...
- COMBINING LABEL PROPAGATION AND SIMPLE MODELS OUT-PERFORMS GRAPH NEURAL NETWORKS（CorrectSmooth）阅读笔记
文章目录 链接 一.摘要 二.引言 三."修正和平滑"模型 四.转导式节点分类实验 四.总结 总结 红色部分为个人的一些解读,不足之处请多多指点! 链接 论文题目:结合标签传播和简 ...
- SIMPLE ONLINE AND REALTIME TRACKING （SORT）论文阅读笔记
论文地址:https://arxiv.org/abs/1602.00763 论文题目:SIMPLE ONLINE AND REALTIME TRACKING github地址:https://gith ...
- A simple but tough-to-beat baseline for sentence embedding
论文原文:A simple but tough-to-beat baseline for sentence embedding 引言 在神经网络泛滥的时候,这篇文章像一股清流,提出了一个无监督的句子建 ...
- 文献阅读：SimCSE：Simple Contrastive Learning of Sentence Embeddings
文献阅读:SimCSE:Simple Contrastive Learning of Sentence Embeddings 1. 文献内容简介 2. 主要方法介绍 3. 主要实验介绍 1. STS ...
- Object Region Mining with Adversarial Erasing: A Simple Classification to Semantic Segmentation阅读笔记
Object Region Mining with Adversarial Erasing: A Simple Classification to Semantic Segmentation Appr ...
- Simple Baselines for Human Pose Estimation 阅读笔记
SimpleBaseline姿态估计阅读笔记 ECCV2018 论文链接 代码链接 摘要: 近年来,姿态估计在取得重大进展的同时,总体算法和系统复杂性也日益增加,加剧了算法分析和比较的难度,本项工作提 ...
- （阅读笔记）PARE：A Simple and Strong Baseline for Monolingual and MultilingualDistantly Supervis
来源:2022.ACL PARE:用于单语和多语远程监督关系提取的简单而强大的基线 模型的优势: 1.模型简单: 2.每个token都可以和句子中的其他token交换信息(包内句子交换信息,充分利用包 ...
- Qt文档阅读笔记-Simple Anchor Layout Example解析
这个例子展示了锚布局在视图场景中的使用. 此篇例子其实就是教QGraphicsAnchorLayout类的使用. 首先创建了QGraphicScene(场景),3个widgets(a,b,c),以及一 ...
- Qt文档阅读笔记-Qt Quick 3D - Simple Example解析
程序运行截图如下: 还是动的. 官方出这篇博文的目的是如何教我们使用Qt Quick 3D去渲染简单的场景. 首先是设置其场景. 在main.qml文件中设置整个场景,导入QtQuick3D组建,用于 ...
最新文章
- App功能测试的注意点
- docker commit （从容器创建一个新的镜像）
- php读取mysql分页查询
- 【Android 应用开发】Canvas 精准绘制文字 ( 文本边界坐标解析 | 绘图位置 )
- java--遍历自定义数组
- 各种拿webshell
- JavaScript 中的this的简便判断
- UVa 11481 (计数) Arrange the Numbers
- 【CodeForces - 508B】Anton and currency you all know （思维贪心）
- vue设置输入框输入长度_Vue实现input宽度随文字长度自适应操作
- dcmtk编译 android,windows下编译dcmtk的Android版本
- 后宫宛如传服务器维护,后宫宛如传完整版
- [转载]QMessageBox 用法
- linq的字段自增长属性设置_云途晨报9月9日前，这5类ebay物品属性必须完成更新;Wish体积重计算方式即将更新...
- 模拟人生4修改服务器,模拟人生4常用秘籍与修改技巧心得
- 17 RFID卡的读写
- AI 人工智能 干货分享
- oracle导入指定字符集入,EXP/IMP 与 字符集、导入导出等
- linux每日命令,Linux日常命令整理
- jQuery的deferred对象深析