听了三天讲座后,对于基础理论课反而有点不适应,会多想几个为什么,真的吗。知名课最好还是看最新的,与时俱进。

【01】为什么是CNN?

这个问题,现在有transformer和mlp的工作,还真不好回答

上图展现了图像分类中特征的从低层到高层表示。

课程里给出了三个基于观察的解释,很重要,后面也会用到。

01 只要部分信息就能给出答案

  • 这是分类吧,检测和分割得看全局啊

    这张图里,只需要看到鸟喙就能确定有个鸟,不需要看见全局的图像。
  • 容易被攻击?不过可以做真实图像鉴别的工作

02 相同模式会出现在不同区域


检测鸟喙的部分应当是同一个检测器,而不是不同的位置采取不同的检测器。

03 对图像下采样后不影响识别


这说明可以使用更少的参数来处理图像。
后续明天再说。

三个理由完全没懂

这个架构不一定了

讲卷积的基础概念啊,可以快点

妙,这里讲出来了,filter可以检测出特征来,而且一个filter胜任多个同种特征

filter size,image size,padding,stride

特征图。feature map。

能用hsv去搞吗?

filter的值就是权重

部分连接,共用同样的weight

没看明白哪里共享了

哦哦,明白了,3和1不是权重!是神经元,隐藏层的,他们和前面的连接是共享的,这张图里都是9根线。

这个怎么train,有现成的框架,如果要自己写的话,就和普通的一样?(想起杰哥,自己手写,强啊)

不能微分了???

pixel

25*25个filter???

会考虑深度,每一个filter都会对前面的所有层内积求和?这一层的filter深度和前一层feature map深度一样的

固定一些前面提取边缘的层?这部分不动?

CNN in Keras

2333,大人,时代变了!现在是Pytorch的天下啦

动手搭建卷积神经网络?

CNN学到了什么

什么能让网络响应最大,固定参数,找x,去让输出最大

这不是深度学习可视化那篇论文吗

这几个filter学到的是纹路

!!可以拿来做文章里面的可解释性解释!!!还可以用来debug!

要用gradient ascent吗???

固定参数,寻找使filter输出最大的输入,把它显示出来,当成filter学到的东西

每部分的filter检测方法不一样?

和想象的直接0 1 2不一样啊,人看不出来,为什么?虚假的相关性2,学到了人不能感知的信息模式?怎么解决?很容易受攻击吧

如果我把4的图像弄到一张正常的0或1,他是不是会输出4?可以通过这样的方法来获取攻击图像吗?

两种攻击方式,噪声的区别

+改成-,因为是max

使图像大部分是空白没有内容的(像素0)

绝对值怎么微分

受益匪浅啊!可解释性的问题!基础课有必要大家的都听一下吗?

Deep Dream?

夸大自己看到的东西?

有点意思,怎么做到的?

DeepStyle,风格迁移?

weight = style

https://zhuanlan.zhihu.com/p/136804220

有点掉san啊说实话

CNN用来下围棋?

除了supervised的部分,其实还有reinforcement的部分

这种方式感觉只考虑了当前的局势?

Alpha Go

什么时候用CNN呢?有图像任务的那种特性

模式比图像小,不同的区域可能有同样意义的模式

围棋不行吧?subsampling。一直很困惑2333

paper,读一读?没有仔细描述过CNN架构2333

zero padding

没有用max pooling

妙哇!

语音处理

横轴时间,纵轴频率,这样就可以应用CNN了?人能看出来???我天!

speech2text

不是时间方向移动?

因为CNN后面会接LSTM之类的,比CNN的时间序列建模能力要好

但是频率方向上的,有用?

怎么说呢,大有感触啊!那个根据任务需求来设计的tip!

词向量,词向量矩阵,矩阵!这个filter怎么移动?要用maxpoolling吗?

词向量的维度是相互独立的,每个维的意义隐式但

确实存在,所以维度上移动没有意义?

非常棒啊!!!

李宏毅深度学习|Datawhale-7月 Task06 卷积神经网络相关推荐

  1. 深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战

    深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战 卷积神经网络,听起来像是计算机科学.生物学和数学的诡异组合,但它们已经成为计算机视觉领域中最具影响力 ...

  2. 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(一)

    [深度学习]基于Pytorch的卷积神经网络API妙用(一) 文章目录 1 不变性 2 卷积的数学分析 3 通道 4 互相关运算 5 图像中目标的边缘检测 6 基于Pytorch的卷积核 7 特征映射 ...

  3. 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(二)

    [深度学习]基于Pytorch的卷积神经网络API妙用(二) 文章目录1 Padding和Stride 2 多输入多输出Channel 3 1*1 Conv(笔者在看教程时,理解为降维和升维) 4 池 ...

  4. 深度学习笔记(26) 卷积神经网络

    深度学习笔记(26) 卷积神经网络 1. CONV 2. POOL 3. Layer 4. FC 5. 卷积的优势 1. CONV 假设,有一张大小为32×32×3的输入图片,这是一张RGB模式的图片 ...

  5. 花书+吴恩达深度学习(十四)卷积神经网络 CNN 之经典案例(LetNet-5, AlexNet, VGG-16, ResNet, Inception Network)

    目录 0. 前言 1. LeNet-5 2. AlexNet 3. VGG-16 4. ResNet 残差网络 5. Inception Network 如果这篇文章对你有一点小小的帮助,请给个关注, ...

  6. 花书+吴恩达深度学习(十二)卷积神经网络 CNN 之全连接层

    目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...

  7. 【深度学习】5:CNN卷积神经网络原理

    前言:先坦白的说,深度神经网络的学习在一开始对我造成的困扰还是很大的,我也是通过不断地看相关的视频资料.文献讲解尝试去理解记忆.毕竟这些内容大多都是不可查的,我们看到的都只是输入输出的东西,里面的内部 ...

  8. 基于深度学习的图像分类:使用卷积神经网络实现猫狗分类器

    摘要: 深度学习在计算机视觉领域中具有广泛的应用.本文将介绍如何使用卷积神经网络(CNN)实现一个猫狗分类器.我们将使用Python和TensorFlow框架搭建一个简单的卷积神经网络模型,并利用猫狗 ...

  9. 深度学习笔记其六:现代卷积神经网络和PYTORCH

    深度学习笔记其六:现代卷积神经网络和PYTORCH 1. 深度卷积神经网络(AlexNet) 1.1 学习表征 1.1 缺少的成分:数据 1.2 缺少的成分:硬件 1.2 AlexNet 1.2.1 ...

最新文章

  1. 加密工具类 - CryptoUtils.java
  2. 用Elm语言降低失败的风险
  3. IDC:2015年全球专用备份一体机市场稳健增长
  4. 怎样自动提取邮件的内容_这些最新的外贸搜索开发工具(图灵搜、谷歌搜索提取工具、易查查),你会使用吗?...
  5. 完美解决IE8有两个进程的问题
  6. Unhandled event loop exception Item not added
  7. ISA2006发布Exchange服务器 RPC OVER HTTPS
  8. html菜鸟教程zoom,插件 jQuery.panzoom 中文API文档
  9. 树莓派Raspberrypi安装Kali Linux保姆教程(通过树莓派安装ARM Kali教程)
  10. 极速扫描器 masscan
  11. 电力拖动自动控制系统_教授为你解读“电气工程及其自动化”专业类
  12. (离散)令R={m|m=a+b√2,a,b∈Q,+为普通加法},定义映射g:R→  R 为g(a+b√2)= a-b√2,试证:g是/R,+/到/R,+/的自同构映射
  13. 菜鸟一枚,请大家多多关照
  14. NFT 推荐|Funguys 王国作品集第一弹
  15. c++逆天改命进阶--继承
  16. 4个终于被破解的世界密码
  17. 综述天分、标网、矢网、扫频仪的异同
  18. TM1650数码管驱动芯片驱动数码管读取按键程序
  19. Linux 系统结构详解——新手上路
  20. php排名统计图_php 生成各类统计图实例

热门文章

  1. Linux系统下vi和vim的区别
  2. Reentlock实现原理摘记
  3. 左手微晶3.0,右手潜艇级净味,冰箱智慧储鲜赛道“王者”浮现?
  4. 基于python的语音识别系统,Python语音识别技术路线
  5. linux py2exe打包,如何在Ubuntu上使用py2exe(或pyinstaller)创建.exe
  6. 苹果手机 iphone 从旧手机 转移单个应用 数据 聊天记录 到新手机
  7. Docker学习1 - Docker
  8. 索莫菲模型的一些理解 Smomerfeld Model
  9. Ubuntu 16.04下安装ffmpeg和opencv的安装与简介
  10. C++回调函数中调用Python函数出现的死锁问题调试及解决