先看上面l21范数的定义,注意原始矩阵是n行t列的,根号下平方是对列求和,也就是说是在同一行中进行操作的,根号部分就相当于一个l2范数,由此可以看出l21范数实则为矩阵X每一行的l2范数之和。

在矩阵稀疏表示模型中,把它作为正则化项有什么作用呢?前面说到它是每一行的l2范数之和,在最小化问题中,只有每一行的l2范数都最小总问题才最小。而每一个行范数取得最小的含义是,当行内尽可能多的元素为0时,约束才可能取得最小。而行内尽可能地取0意思是说行稀疏!

综上可以这样解释,不同于l1范数(矩阵元素绝对值之和)的稀疏要求,l21范数还要求行稀疏!

机器学习中的范数规则化之L21范数相关推荐

  1. 机器学习中的范数规则化之核范数及其应用

    我的博客中参考了大量的文章或者别的作者的博客,有时候疏忽了并未一一标注,本着分享交流知识的目的,如果侵犯您的权利,这并非我的本意,如果您提出来,我会及时改正. 主要内容概述: 1.核范数的引入及其作用 ...

  2. 机器学习算法源码全解析(三)-范数规则化之核范数与规则项参数选择

    前言 参见上一篇博文,我们聊到了L0,L1和L2范数,这篇我们絮叨絮叨下核范数和规则项参数选择.知识有限,以下都是我一些浅显的看法,如果理解存在错误,希望大家不吝指正.谢谢. 机器学习算法源码全解析( ...

  3. 机器学习中的范数规则化之(二)核范数与规则项参数选择

    机器学习中的范数规则化之(二)核范数与规则项参数选择 zouxy09@qq.com http://blog.csdn.net/zouxy09 上一篇博文,我们聊到了L0,L1和L2范数,这篇我们絮叨絮 ...

  4. 机器学习中的范数规则化之(二)核范数与规则项参数选择以及RPCA

    机器学习中的范数规则化之(二)核范数与规则项参数选择 三.核范数 核范数||W||*是指矩阵奇异值的和,英文称呼叫Nuclear Norm.这个相对于上面火热的L1和L2来说,可能大家就会陌生点.那它 ...

  5. 机器学习中的范数规则化之L0、L1、L2范数

    我的博客中参考了大量的文章或者别的作者的博客,有时候疏忽了并未一一标注,本着分享交流知识的目的,如果侵犯您的权利,这并非我的本意,如果您提出来,我会及时改正. 本篇博客主要是为了解决机器学习中的过拟合 ...

  6. 机器学习中的范数规则化之(一)L0、L1与L2范数

    机器学习中的范数规则化之(一)L0.L1与L2范数 zouxy09@qq.com http://blog.csdn.net/zouxy09 参考资料:<机器学习中常常提到的正则化到底是什么意思? ...

  7. l2范数求导_机器学习中的范数规则化之(一)L0、L1与L2范数 非常好,必看

    机器学习中的范数规则化之(一)L0.L1与L2范数 今天我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化.我们先简单的来理解下常用的L0.L1.L2和核范数规则化.最后聊下规则化项参数的选择问题 ...

  8. l2范数求导_机器学习中的范数规则化之(一)L0、L1与L2范数

    source: https://blog.csdn.net/zouxy09/article/details/24971995 zouxy09@qq.com http://blog.csdn.net/z ...

  9. 机器学习算法源码全解析(二)-范数规则化之L0、L1与L2范数

    前言 今天我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化.我们先简单的来理解下常用的L0.L1.L2和核范数规则化.最后聊下规则化项参数的选择问题.这里因为篇幅比较长,为了不吓到大家,我将这个 ...

最新文章

  1. 【设计模式】装饰者模式
  2. intraweb php,使用 IntraWeb (40) - 自定义 Session 数据
  3. doc文件转换html,HTML+CSS入门 如何使用POI将doc文件转换为HTML
  4. 服务器密码机部分文件的介绍学习
  5. 淘淘相关工具类【json,httpClient,id,FTP,exception,cookie(包括共享cookie的设置等)】
  6. python twisted教程 二:缓慢的诗
  7. 【翻译】sql注入方式
  8. 典型重构3 (Try/Catch)
  9. 苹果蓝牙连接不上是什么原因_为什么无线鼠标几乎都不用蓝牙连接呢?延迟、回报率是硬伤...
  10. 企业微信推送suite_ticket对接
  11. 计算机快捷键英语,输入法电脑中英文切换快捷键
  12. 全国各地电信网通铁通DNS服务器IP地址
  13. 免费登陆百度搜索引擎
  14. 需求调研前的准备工作
  15. 80386 Programmer's Manual: Chapter 9 Exceptions and Interrupts(Personal Translation)
  16. 彼得.得鲁克与因果定律
  17. SQL优化中索引列使用函数之灵异事件
  18. js将字符串按照逗号分割
  19. DSPE-PEG2K-MAL|磷脂聚乙二醇马来酰亚胺(DSPE-PEG-MAL)|二硬脂酰基磷脂酰乙醇胺 聚乙二醇 马来酰亚胺,齐岳生物
  20. 单片机:中断系统控制二极管的亮灭

热门文章

  1. bzoj2661: [BeiJing wc2012]连连看
  2. Scheme报错define-values: assignment disallowed; cannot change constant
  3. V-rep学习笔记:ROSInterface
  4. (转载)C语言右移运算符的问题(特别当与取反运算符一起时)
  5. ionic3 生命周期
  6. 数据结构开发(6):静态单链表的实现
  7. maven 在pom.xml 中指定仓库位置
  8. noip2016 蚯蚓
  9. 为bootstrap+angularJs打造的表格代码生成器
  10. 【甘道夫】HBase基本数据操作的详细说明【完整版,精绝】