S3VM和TSVM的不同

转载：http://ycool.com/post/6vc4vf7

自己总结的一点学习心得，希望了解的人给予补充。

TSVM都是比较早的，后来的一般都叫S3VM。提出的人不一样。
Vapnik, 1998; Joachims, 1999) under the name Transductive Support Vector Machine (TSVM), and in (Bennett & Demiriz, 1998; Fung & Mangasarian,2001) under the name Semi-Supervised Support Vector Machine (S3VM).

A major line of research on extending SVMs to handle partially labeled datasets is based on the following idea: solve the standard SVM problem while treating the unknown labels as additional optimization variables. By maximizing the margin in the presence of unlabeled data, one learns a decision boundary that traverses through low data-density regions while respecting labels in the input space.
In other words, this approach implements the cluster assumption for semi-supervised learning – that points in a data cluster have similar labels.
This idea was first introduced in [14] under the name Transductive SVM, but since it learns an inductive rule defined over the entire input space, we refer to this approach as Semi-supervised SVM (S3VM).

S3VMs were introduced as Transductive SVMs, originally designed for the task of directly estimating labels of unlabeled points. However S3VMs provide a decision boundary in the entire input space, and so they can provide labels of unseen test points as well. For this reason, we believe that S3VMs are inductive semi-supervised methods and not strictly transductive.

理论上可以证明，对于可分数据。TSVM、S3VM解必定是某种相近度量下相近直推学习机的解，并且它们都是通过控制VC维的上界以达到好的泛化性能的，只是VC维上界的控制函数的取法不同。

S3VM和TSVM的不同相关推荐

半监督学习(Semi-Supervised Learning, SSL)-简述及论文整理
本文参考An Overview of Deep Semi-Supervised Learning,An overview of proxy-label approaches for semi-supe ...
机器学习笔记(十三)半监督学习
13.半监督学习这章介绍半监督学习方法. 13.1未标记样本先说两个概念: 1)有标记样本(Labeled) 训练样本集Dl={(x1,y1), (x2,y2),-, (xl,yl)},这l个样本 ...
【机器学习】半监督学习
转自:https://www.cnblogs.com/kamekin/p/9683162.html,感谢博主一.半监督学习 1-1.什么是半监督学习让学习器不依赖外界交互.自动地利用未标记样本来提 ...
半监督学习【机器学习】
神经网络中,各种AutoEncoder应当是最有效地无监督学习方法,下面是偏向机器学习方面的半监督学习总结,来源周志华的[machine learning]. 半监督学习[机器学习] 前面我们一直围绕 ...
机器学习读书笔记：半监督学习
文章目录半监督学习生成式方法半监督SVM 基于分歧的方法图半监督学习半监督聚类半监督学习在真实应用场景中,训练样本集的数目通常会很大.但是都是未标记数据,特别是在一些跨领域行业中,比 ...
西瓜书入门辅助【机器学习周志华】一些关于机器学习的重要基础概念提炼
周志华. 机器学习 = Machine Learning. 清华大学出版社, 2016. Print. 文章目录周志华. 机器学习 = Machine Learning. 清华大学出版社, 2016 ...
第十三章半监督学习
13.1 未标记样本事实上,未标记样本虽未直接包含标记信息,但若它们与有标记样本是从同样的数据源独立同分布采样而来,则它们所包含的关于数据分布的信息对建立模型将大有裨益.下图给出一个直观的例示.若仅 ...
【机器学习】之第十三章——半监督学习
13.1.未标记样本在现实生活中,通常学习任务是已标记样本较少,而未标记的样本很多,那么按照传统监督学习的思想,便只能用已标记的少部分样本去训练学习器,这将会导致学习器的泛化性能不够好,因此如何利用 ...
【周志华机器学习】十三、半监督学习
文章目录参考资料 1. 未标记样本 1.1 主动学习 1.2 常见假设 1.3 半监督学习划分 2. 生成式方法 3. 半监督SVM 4. 基于分歧的方法 5. 半监督聚类 5.1 Constrai ...
【深度学习】半监督学习入门：伪标签学习和无监督SVM
一.半监督学习 1-1.什么是半监督学习让学习器不依赖外界交互.自动地利用未标记样本来提升学习性能,就是半监督学习(semi-supervised learning). 要利用未标记样本,必然要做一 ...

S3VM和TSVM的不同

S3VM和TSVM的不同相关推荐

最新文章

热门文章