先看上面l21范数的定义,注意原始矩阵是n行t列的,根号下平方是对列求和,也就是说是在同一行中进行操作的,根号部分就相当于一个l2范数,由此可以看出l21范数实则为矩阵X每一行的l2范数之和。

在矩阵稀疏表示模型中,把它作为正则化项有什么作用呢?前面说到它是每一行的l2范数之和,在最小化问题中,只有每一行的l2范数都最小总问题才最小。而每一个行范数取得最小的含义是,当行内尽可能多的元素为0时,约束才可能取得最小。而行内尽可能地取0意思是说行稀疏!

综上可以这样解释,不同于l1范数(矩阵元素绝对值之和)的稀疏要求,l21范数还要求行稀疏!

机器学习中的范数规则化之L21范数相关推荐

  1. 机器学习中的范数规则化之核范数及其应用

    我的博客中参考了大量的文章或者别的作者的博客,有时候疏忽了并未一一标注,本着分享交流知识的目的,如果侵犯您的权利,这并非我的本意,如果您提出来,我会及时改正. 主要内容概述: 1.核范数的引入及其作用 ...

  2. 机器学习算法源码全解析(三)-范数规则化之核范数与规则项参数选择

    前言 参见上一篇博文,我们聊到了L0,L1和L2范数,这篇我们絮叨絮叨下核范数和规则项参数选择.知识有限,以下都是我一些浅显的看法,如果理解存在错误,希望大家不吝指正.谢谢. 机器学习算法源码全解析( ...

  3. 机器学习中的范数规则化之(二)核范数与规则项参数选择

    机器学习中的范数规则化之(二)核范数与规则项参数选择 zouxy09@qq.com http://blog.csdn.net/zouxy09 上一篇博文,我们聊到了L0,L1和L2范数,这篇我们絮叨絮 ...

  4. 机器学习中的范数规则化之(二)核范数与规则项参数选择以及RPCA

    机器学习中的范数规则化之(二)核范数与规则项参数选择 三.核范数 核范数||W||*是指矩阵奇异值的和,英文称呼叫Nuclear Norm.这个相对于上面火热的L1和L2来说,可能大家就会陌生点.那它 ...

  5. 机器学习中的范数规则化之L0、L1、L2范数

    我的博客中参考了大量的文章或者别的作者的博客,有时候疏忽了并未一一标注,本着分享交流知识的目的,如果侵犯您的权利,这并非我的本意,如果您提出来,我会及时改正. 本篇博客主要是为了解决机器学习中的过拟合 ...

  6. 机器学习中的范数规则化之(一)L0、L1与L2范数

    机器学习中的范数规则化之(一)L0.L1与L2范数 zouxy09@qq.com http://blog.csdn.net/zouxy09 参考资料:<机器学习中常常提到的正则化到底是什么意思? ...

  7. l2范数求导_机器学习中的范数规则化之(一)L0、L1与L2范数 非常好,必看

    机器学习中的范数规则化之(一)L0.L1与L2范数 今天我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化.我们先简单的来理解下常用的L0.L1.L2和核范数规则化.最后聊下规则化项参数的选择问题 ...

  8. l2范数求导_机器学习中的范数规则化之(一)L0、L1与L2范数

    source: https://blog.csdn.net/zouxy09/article/details/24971995 zouxy09@qq.com http://blog.csdn.net/z ...

  9. 机器学习算法源码全解析(二)-范数规则化之L0、L1与L2范数

    前言 今天我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化.我们先简单的来理解下常用的L0.L1.L2和核范数规则化.最后聊下规则化项参数的选择问题.这里因为篇幅比较长,为了不吓到大家,我将这个 ...

最新文章

  1. 服务器集群负载均衡(F5,LVS,DNS,CDN)区别以及选型
  2. 60. Permutation Sequence
  3. python中使用sys模板和logging模块获取行号和函数名的方法
  4. Spring Boot笔记-@Scheduled(cron=““)设置调度任务
  5. 分布式缓存Memcached---开篇的话
  6. python设计模式3-抽象工厂模式
  7. poj2793 素数和
  8. 字典重复key的合并
  9. Delphi版 ArcEngine Mapcontrol与PageControl同步
  10. 实习成长之路: 重新认识IOC,你可能对IoC有些误会?
  11. openai-gpt_GPT-3对非技术专业人员意味着什么
  12. mysql配置文件(完整版)
  13. intel hd3000 本 在 64位 ubuntu10.04 下 液晶亮度无法调节 的解决之道(亲测)
  14. 训练好的word2vec模型(中文词向量)
  15. DY-SV17F运用集—语音IC
  16. 具体案例 快速原型模型_【复习资料】软件工程之快速原型模型
  17. 考研计算机时间安排表,2019计算机考研这份复习时间表让你自律
  18. 百度有啊前端技术初窥
  19. 基于虚拟机的VxWorks实验平台设计与实现(读研时的一篇论文)
  20. JAVA自定义信件消息模板内容

热门文章

  1. cocos2d-x画线
  2. scala helloworld
  3. 转载:Linux批量远程管理主机命令_pssh用法详解
  4. 搭建顶级域名下的个人博客网站
  5. MAGENTO与性能优化
  6. xampp的mysql和phpnow的mysql,xampp的apache和visualsvn的apache和phpnow的apache
  7. ASP.net MVC Mock Context(上下文)
  8. HTTP Error 502.5 - Process Failure 解决方案
  9. (转)Putty server refused our key的三种原因和解决方法
  10. 【白皮书分享】2021国有企业数字化转型指数与方法路径白皮书.pdf(附下载链接)...