李宏毅深度学习|Datawhale-7月 Task06 卷积神经网络
听了三天讲座后,对于基础理论课反而有点不适应,会多想几个为什么,真的吗。知名课最好还是看最新的,与时俱进。
【01】为什么是CNN?
这个问题,现在有transformer和mlp的工作,还真不好回答
上图展现了图像分类中特征的从低层到高层表示。
课程里给出了三个基于观察的解释,很重要,后面也会用到。
01 只要部分信息就能给出答案
- 这是分类吧,检测和分割得看全局啊
这张图里,只需要看到鸟喙就能确定有个鸟,不需要看见全局的图像。 - 容易被攻击?不过可以做真实图像鉴别的工作
02 相同模式会出现在不同区域
检测鸟喙的部分应当是同一个检测器,而不是不同的位置采取不同的检测器。
03 对图像下采样后不影响识别
这说明可以使用更少的参数来处理图像。
后续明天再说。
三个理由完全没懂
这个架构不一定了
讲卷积的基础概念啊,可以快点
妙,这里讲出来了,filter可以检测出特征来,而且一个filter胜任多个同种特征
filter size,image size,padding,stride
特征图。feature map。
能用hsv去搞吗?
filter的值就是权重
部分连接,共用同样的weight
没看明白哪里共享了
哦哦,明白了,3和1不是权重!是神经元,隐藏层的,他们和前面的连接是共享的,这张图里都是9根线。
这个怎么train,有现成的框架,如果要自己写的话,就和普通的一样?(想起杰哥,自己手写,强啊)
不能微分了???
pixel
25*25个filter???
会考虑深度,每一个filter都会对前面的所有层内积求和?这一层的filter深度和前一层feature map深度一样的
固定一些前面提取边缘的层?这部分不动?
CNN in Keras
2333,大人,时代变了!现在是Pytorch的天下啦
动手搭建卷积神经网络?
CNN学到了什么
什么能让网络响应最大,固定参数,找x,去让输出最大
这不是深度学习可视化那篇论文吗
这几个filter学到的是纹路
!!可以拿来做文章里面的可解释性解释!!!还可以用来debug!
要用gradient ascent吗???
固定参数,寻找使filter输出最大的输入,把它显示出来,当成filter学到的东西
每部分的filter检测方法不一样?
和想象的直接0 1 2不一样啊,人看不出来,为什么?虚假的相关性2,学到了人不能感知的信息模式?怎么解决?很容易受攻击吧
如果我把4的图像弄到一张正常的0或1,他是不是会输出4?可以通过这样的方法来获取攻击图像吗?
两种攻击方式,噪声的区别
+改成-,因为是max
使图像大部分是空白没有内容的(像素0)
绝对值怎么微分
受益匪浅啊!可解释性的问题!基础课有必要大家的都听一下吗?
Deep Dream?
夸大自己看到的东西?
有点意思,怎么做到的?
DeepStyle,风格迁移?
weight = style
https://zhuanlan.zhihu.com/p/136804220
有点掉san啊说实话
CNN用来下围棋?
除了supervised的部分,其实还有reinforcement的部分
这种方式感觉只考虑了当前的局势?
Alpha Go
什么时候用CNN呢?有图像任务的那种特性
模式比图像小,不同的区域可能有同样意义的模式
围棋不行吧?subsampling。一直很困惑2333
paper,读一读?没有仔细描述过CNN架构2333
zero padding
没有用max pooling
妙哇!
语音处理
横轴时间,纵轴频率,这样就可以应用CNN了?人能看出来???我天!
speech2text
不是时间方向移动?
因为CNN后面会接LSTM之类的,比CNN的时间序列建模能力要好
但是频率方向上的,有用?
怎么说呢,大有感触啊!那个根据任务需求来设计的tip!
词向量,词向量矩阵,矩阵!这个filter怎么移动?要用maxpoolling吗?
词向量的维度是相互独立的,每个维的意义隐式但
确实存在,所以维度上移动没有意义?
非常棒啊!!!
李宏毅深度学习|Datawhale-7月 Task06 卷积神经网络相关推荐
- 深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战
深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战 卷积神经网络,听起来像是计算机科学.生物学和数学的诡异组合,但它们已经成为计算机视觉领域中最具影响力 ...
- 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(一)
[深度学习]基于Pytorch的卷积神经网络API妙用(一) 文章目录 1 不变性 2 卷积的数学分析 3 通道 4 互相关运算 5 图像中目标的边缘检测 6 基于Pytorch的卷积核 7 特征映射 ...
- 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(二)
[深度学习]基于Pytorch的卷积神经网络API妙用(二) 文章目录1 Padding和Stride 2 多输入多输出Channel 3 1*1 Conv(笔者在看教程时,理解为降维和升维) 4 池 ...
- 深度学习笔记(26) 卷积神经网络
深度学习笔记(26) 卷积神经网络 1. CONV 2. POOL 3. Layer 4. FC 5. 卷积的优势 1. CONV 假设,有一张大小为32×32×3的输入图片,这是一张RGB模式的图片 ...
- 花书+吴恩达深度学习(十四)卷积神经网络 CNN 之经典案例(LetNet-5, AlexNet, VGG-16, ResNet, Inception Network)
目录 0. 前言 1. LeNet-5 2. AlexNet 3. VGG-16 4. ResNet 残差网络 5. Inception Network 如果这篇文章对你有一点小小的帮助,请给个关注, ...
- 花书+吴恩达深度学习(十二)卷积神经网络 CNN 之全连接层
目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...
- 【深度学习】5:CNN卷积神经网络原理
前言:先坦白的说,深度神经网络的学习在一开始对我造成的困扰还是很大的,我也是通过不断地看相关的视频资料.文献讲解尝试去理解记忆.毕竟这些内容大多都是不可查的,我们看到的都只是输入输出的东西,里面的内部 ...
- 基于深度学习的图像分类:使用卷积神经网络实现猫狗分类器
摘要: 深度学习在计算机视觉领域中具有广泛的应用.本文将介绍如何使用卷积神经网络(CNN)实现一个猫狗分类器.我们将使用Python和TensorFlow框架搭建一个简单的卷积神经网络模型,并利用猫狗 ...
- 深度学习笔记其六:现代卷积神经网络和PYTORCH
深度学习笔记其六:现代卷积神经网络和PYTORCH 1. 深度卷积神经网络(AlexNet) 1.1 学习表征 1.1 缺少的成分:数据 1.2 缺少的成分:硬件 1.2 AlexNet 1.2.1 ...
最新文章
- 加密工具类 - CryptoUtils.java
- 用Elm语言降低失败的风险
- IDC:2015年全球专用备份一体机市场稳健增长
- 怎样自动提取邮件的内容_这些最新的外贸搜索开发工具(图灵搜、谷歌搜索提取工具、易查查),你会使用吗?...
- 完美解决IE8有两个进程的问题
- Unhandled event loop exception Item not added
- ISA2006发布Exchange服务器 RPC OVER HTTPS
- html菜鸟教程zoom,插件 jQuery.panzoom 中文API文档
- 树莓派Raspberrypi安装Kali Linux保姆教程(通过树莓派安装ARM Kali教程)
- 极速扫描器 masscan
- 电力拖动自动控制系统_教授为你解读“电气工程及其自动化”专业类
- (离散)令R={m|m=a+b√2,a,b∈Q,+为普通加法},定义映射g:R→ R 为g(a+b√2)= a-b√2,试证:g是/R,+/到/R,+/的自同构映射
- 菜鸟一枚,请大家多多关照
- NFT 推荐|Funguys 王国作品集第一弹
- c++逆天改命进阶--继承
- 4个终于被破解的世界密码
- 综述天分、标网、矢网、扫频仪的异同
- TM1650数码管驱动芯片驱动数码管读取按键程序
- Linux 系统结构详解——新手上路
- php排名统计图_php 生成各类统计图实例
热门文章
- Linux系统下vi和vim的区别
- Reentlock实现原理摘记
- 左手微晶3.0,右手潜艇级净味,冰箱智慧储鲜赛道“王者”浮现?
- 基于python的语音识别系统,Python语音识别技术路线
- linux py2exe打包,如何在Ubuntu上使用py2exe(或pyinstaller)创建.exe
- 苹果手机 iphone 从旧手机 转移单个应用 数据 聊天记录 到新手机
- Docker学习1 - Docker
- 索莫菲模型的一些理解 Smomerfeld Model
- Ubuntu 16.04下安装ffmpeg和opencv的安装与简介
- C++回调函数中调用Python函数出现的死锁问题调试及解决