Passive Aggressive Alogrithm
原始论文:Online Passive-Aggressive Algorithms by Crammer at al.
本文主要参考对象:Passive-Aggresive Blog by Giuseppe Bonaccorso
PA模型在分类和回归上都可以运用,在文本,我们主要讨论二元分类问题。
PA属于online learning,自然也拥有了OL的优点,也就是,当数据分布随着时间改变而改变时,PA的权重也会逐渐改变,使得新算法能够更好地预测。
PA的预测方式是:
就像SVM一样,PA的损失函数也是Hinge Loss function。
注意,在预测准确时,恒为正,在预测错误时,恒为负。所以,当预测结果是正确的时候,而且远离margin时,模型不必要被修改,除此之外,模型都需要被调整,因为loss 不等于0。
当然了,要讨论PA,就像要讨论SVM那样,一定缺少不了对soft-margin的讨论。由于时间问题,在此略去,有兴趣的读者可以看看上面的那个链接。Passive-Aggresive Blog by Giuseppe Bonaccorso
补充阅读:
PA是SVM延申到Online learning领域。ResearchGate: PA vs SVM
文章链接汇总:
原始论文:Online Passive-Aggressive Algorithms by Crammer at al.
本文主要参考对象:Passive-Aggresive Blog by Giuseppe Bonaccorso
PA是SVM延申到Online learning领域。ResearchGate: PA vs SVM
Passive Aggressive Alogrithm相关推荐
- sklearn学习总结(超全面)
https://blog.csdn.net/fuqiuai/article/details/79495865 前言 sklearn想必不用我多介绍了,一句话,她是机器学习领域中最知名的python模块 ...
- Online ML那点事-!
一:译自wiki: KeyWord:标签反馈; Survey: online machine learning is a model of induction that learns one i ...
- Python数模笔记-Sklearn(4)线性回归
1.什么是线性回归? 回归分析(Regression analysis)是一种统计分析方法,研究自变量和因变量之间的定量关系.回归分析不仅包括建立数学模型并估计模型参数,检验数学模型的可信度,也包括利 ...
- sklearn文档-第一次笔记
1.1.1 Ordinary Least Squares(普通最小二乘法) LinearRegression(线性回归)是一个线性模型,其具有系数 s=(w1-wp)s=(w1-wp) s=(w_1\ ...
- SKlearn中的函数学习总结(持续更新)
关于SKlearn中的函数学习及关键代码部分,会持续更新 (参考sklearn官方文档) 一:分类.回归 二:降维 三:模型评估与选择 四:数据预处理 五:模型保存 大类 小类 适用问题 实现文档 说 ...
- 大三学生简历_不要再问那些没有的高级开发人员了。 开始指导大三学生。
大三学生简历 by Ryan Bigg 通过瑞安·比格(Ryan Bigg) 不要再问那些没有的高级开发人员了. 开始指导大三学生. (Stop asking senior developers wh ...
- scikit-learn学习系列 - 广义线性模型
下面是一组用于回归的方法,其中目标值是输入变量的线性组合.在数学上,如果y^是预测值 在整个模块中,我们指定向量 w=(w1,...,wp) as coef_ and w0 as intercept_ ...
- 在线机器学习算法及其伪代码
机器学习:需要从已知的数据 学习出需要的模型 在线算法:需要及时处理收集的数据,并给出预测或建议结果,并更新模型 通用的在线学习算法步骤如下: 1. 收集和学习现有的数据 2. 依据模型或规则,做出决 ...
- 经历过黑暗才更渴望黎明_黑暗的图案,你如何操纵以给予更多
经历过黑暗才更渴望黎明 On every major website, a game is being played. 在每个主要网站上,都在玩游戏. The aim? To take as much ...
- 机器学习模型1——线性回归和逻辑回归
前置知识 最大似然估计 最小二乘法 梯度下降算法 高斯分布 主要内容 注意:下面的w和θ指的都是自变量的斜率. 线性回归 利⽤回归⽅程(函数)对⼀个或多个⾃变量(特征值)和因变量(⽬标值)之间关系进⾏ ...
最新文章
- vs2013 error MSB8031 MBCSMFC问题的解决
- boost::geometry::detail::overlay::approximately_equals用法的测试程序)
- Yii源码阅读笔记 - 日志组件
- 关于mysql修改密码 set password for root@localhost = password(‘xxx‘);报错解决方法
- python根据行名称生成二维数组
- 设计师值得学习的分类网站
- mysql远程连接打不开_MySql远程连接无法打开解决办法
- [Mac OSX技巧] 通过命令行开启安全性与隐私中的任何来源
- 调查问卷java源码_2020年Java技术趋势
- plsql创建中文表头_不安装oracle连接plsql,Oracle instantclient安装详解
- Deep Learning 和 Knowledge Graph howto
- bzoj 1207: [HNOI2004]打鼹鼠【dp】
- C文件操作——ftell函数_ferror函数_clearerr函数_rewind函数
- SatSun CRMS V2010 整站系统
- python 货币换算库_【菜鸟学Python】案例一:汇率换算
- 什么是图形加速卡(二)
- 基于JAVA的KTV点歌系统,管理系统。
- 如何像「西瓜足迹」一样,将用户导流到公众号上变现?
- restrict关键
- intouch实时报警