原始论文:Online Passive-Aggressive Algorithms by Crammer at al.

本文主要参考对象:Passive-Aggresive Blog by Giuseppe Bonaccorso

PA模型在分类和回归上都可以运用,在文本,我们主要讨论二元分类问题。

PA属于online learning,自然也拥有了OL的优点,也就是,当数据分布随着时间改变而改变时,PA的权重也会逐渐改变,使得新算法能够更好地预测。

PA的预测方式是:

就像SVM一样,PA的损失函数也是Hinge Loss function。
注意,在预测准确时,恒为正,在预测错误时,恒为负。所以,当预测结果是正确的时候,而且远离margin时,模型不必要被修改,除此之外,模型都需要被调整,因为loss 不等于0。

当然了,要讨论PA,就像要讨论SVM那样,一定缺少不了对soft-margin的讨论。由于时间问题,在此略去,有兴趣的读者可以看看上面的那个链接。Passive-Aggresive Blog by Giuseppe Bonaccorso

补充阅读:

PA是SVM延申到Online learning领域。ResearchGate: PA vs SVM


文章链接汇总:

原始论文:Online Passive-Aggressive Algorithms by Crammer at al.

本文主要参考对象:Passive-Aggresive Blog by Giuseppe Bonaccorso

PA是SVM延申到Online learning领域。ResearchGate: PA vs SVM

Passive Aggressive Alogrithm相关推荐

  1. sklearn学习总结(超全面)

    https://blog.csdn.net/fuqiuai/article/details/79495865 前言 sklearn想必不用我多介绍了,一句话,她是机器学习领域中最知名的python模块 ...

  2. Online ML那点事-!

    一:译自wiki:    KeyWord:标签反馈; Survey: online machine learning is a model of induction that learns one i ...

  3. Python数模笔记-Sklearn(4)线性回归

    1.什么是线性回归? 回归分析(Regression analysis)是一种统计分析方法,研究自变量和因变量之间的定量关系.回归分析不仅包括建立数学模型并估计模型参数,检验数学模型的可信度,也包括利 ...

  4. sklearn文档-第一次笔记

    1.1.1 Ordinary Least Squares(普通最小二乘法) LinearRegression(线性回归)是一个线性模型,其具有系数 s=(w1-wp)s=(w1-wp) s=(w_1\ ...

  5. SKlearn中的函数学习总结(持续更新)

    关于SKlearn中的函数学习及关键代码部分,会持续更新 (参考sklearn官方文档) 一:分类.回归 二:降维 三:模型评估与选择 四:数据预处理 五:模型保存 大类 小类 适用问题 实现文档 说 ...

  6. 大三学生简历_不要再问那些没有的高级开发人员了。 开始指导大三学生。

    大三学生简历 by Ryan Bigg 通过瑞安·比格(Ryan Bigg) 不要再问那些没有的高级开发人员了. 开始指导大三学生. (Stop asking senior developers wh ...

  7. scikit-learn学习系列 - 广义线性模型

    下面是一组用于回归的方法,其中目标值是输入变量的线性组合.在数学上,如果y^是预测值 在整个模块中,我们指定向量 w=(w1,...,wp) as coef_ and w0 as intercept_ ...

  8. 在线机器学习算法及其伪代码

    机器学习:需要从已知的数据 学习出需要的模型 在线算法:需要及时处理收集的数据,并给出预测或建议结果,并更新模型 通用的在线学习算法步骤如下: 1. 收集和学习现有的数据 2. 依据模型或规则,做出决 ...

  9. 经历过黑暗才更渴望黎明_黑暗的图案,你如何操纵以给予更多

    经历过黑暗才更渴望黎明 On every major website, a game is being played. 在每个主要网站上,都在玩游戏. The aim? To take as much ...

  10. 机器学习模型1——线性回归和逻辑回归

    前置知识 最大似然估计 最小二乘法 梯度下降算法 高斯分布 主要内容 注意:下面的w和θ指的都是自变量的斜率. 线性回归 利⽤回归⽅程(函数)对⼀个或多个⾃变量(特征值)和因变量(⽬标值)之间关系进⾏ ...

最新文章

  1. vs2013 error MSB8031 MBCSMFC问题的解决
  2. boost::geometry::detail::overlay::approximately_equals用法的测试程序)
  3. Yii源码阅读笔记 - 日志组件
  4. 关于mysql修改密码 set password for root@localhost = password(‘xxx‘);报错解决方法
  5. python根据行名称生成二维数组
  6. 设计师值得学习的分类网站
  7. mysql远程连接打不开_MySql远程连接无法打开解决办法
  8. [Mac OSX技巧] 通过命令行开启安全性与隐私中的任何来源
  9. 调查问卷java源码_2020年Java技术趋势
  10. plsql创建中文表头_不安装oracle连接plsql,Oracle instantclient安装详解
  11. Deep Learning 和 Knowledge Graph howto
  12. bzoj 1207: [HNOI2004]打鼹鼠【dp】
  13. C文件操作——ftell函数_ferror函数_clearerr函数_rewind函数
  14. SatSun CRMS V2010 整站系统
  15. python 货币换算库_【菜鸟学Python】案例一:汇率换算
  16. 什么是图形加速卡(二)
  17. 基于JAVA的KTV点歌系统,管理系统。
  18. 如何像「西瓜足迹」一样,将用户导流到公众号上变现?
  19. restrict关键
  20. intouch实时报警

热门文章

  1. GBase 8atmp 目录权限改变导致加载失败
  2. 贝叶斯统计:概率思维的魔法
  3. 票据纸张尺寸对照表_纸张小科普 | 白卡纸
  4. excel复选框_在Excel公式中使用复选框结果
  5. python 爬取图片、没有后缀名_python爬虫,图片是无格式的
  6. CCF-CSP计算机职业资格认证备考
  7. Android模拟器特征码比对工具
  8. 微信小程序测试应该注意的事项
  9. 空降领导怎么快速融入团队
  10. 简洁好用的数据库表结构文档生成工具screw