研一汇报第五周（2019.11.17）

第5周汇报内容：
1、论文
2、《深度学习》第8章
3、cs231n
4、项目工作汇报
5、上周遗留问题：softmax
6、下周计划
cs231n重看13-。开始熟悉项目。《机器学习》-西瓜书。（完结cs231n，找合适的机器学习视频）。tf2.0继续敲啊。

1、论文：《VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION》 Karen Simonyan∗ & Andrew Zisserman+ University of Oxford

主要内容
研究了卷积网络深度在大规模图像识别环境中对其准确性的影响，使用（3×3）卷积滤波器对增加深度的网络进行全面评估，通过将深度推至16-19层可以实现对现有技术配置的重大改进。

convNet配置的通用布局：
分类实验
数据集： ILSVRC-2012 dataset (which was used for ILSVRC 2012–2014 chal- lenges). The dataset includes images of 1000 classes
数据集划分: training (1.3M images), validation (50K images), and testing (100K images with held-out class labels).

尺度评估
训练时的标度抖动（S∈[256; 512]）也会比在最小边固定的图像上进行训练（S = 256或S = 384）产生更好的结果。
通过范围设定值，比固定尺度进行训练集增强有助于捕获多尺度图像统计信息。
1、单尺度评估
S ∈ [256; 512]
Q = 0.5(Smin + Smax) 256 or 384

2、多尺度评估
S ∈ [Smin; Smax]
Q = {Smin, 0.5(Smin + Smax), Smax}.

3、多交叉验证
S ∈ [256， 512] Q = {256, 384, 512}.

“VGG-19”对比结果

结论
深度有利于提高大规模图像分类的精度。
2、《深度学习》

2.1 深度学习进一步提高精度的技术和线索：
集成学习，学习率衰减，Data Agmentation(数据扩充)等。
*Data Agmentation(数据扩充)基于算法‘人为的’扩充输入图像（训练图像），对于输入图像通过施加旋转，平移，垂直或者水平方向的移动等微小变化，增加图像的数量。
2.2加深层
好处：减少网络的参数数量，达到同等水平的表现力，使学习更加高效。
2.3网络-深度学习
VGG （基于CNN）VGG16，VGG19
基于3*3的小型滤波器的卷积层的运算，是连续进行的，重复进行卷积层2～4次，再通过池化层将大小减半的处理，最后由全连接层输出结果
【VGG16】
GoogleLeNet网络，纵向有深度，在横向上有广度（Inception结构）

ResNet
快捷结构只是原封不动地传递输入数据，所以，反向传播时将来自上游的梯度原封不动的传递给下游。
【迁移学习】eg：准备一个和VGG相同结构的网络，把学习完的权重，作为初始值，以新数据为对象，进行再学习，迁移学习在数据集较少时非常有效。

4、深度学习的高速化
GPU 图像处理，大量并行计算（乘积累加）
CPU 连续的复杂计算
NVIDIA -> CUDA（面向GPU计算的综合开发环境），cuDNN是CUDA 上的运行库，为深度学习最优化的函数。
***通过im2col以大型矩阵的乘积的方式汇总计算，更容易发挥GPU的能力。
5、分布式学习
框架 Tensorflow CNTK
如何分布式计算：
它包含了机器间的通信，数据的同步等多个问题，----->所有的问题交给Tensorflow框架。
6、深度学习应用

物体检测
是从图像中确定物体的位置，并进行分类。
图像分割
在像素水平上对图像进行分类，以像素为单位，对每个对象分别着色，的监督数据进行学习。
FCN(Fully Convolutional Network)， FCN将全连接层，替换成发挥作用相同的卷积层。
图像标题生成
代表方法 ---->NIC(Neural Image Caption)
NIC由深层的CNN卷积层和处理自然语言的RNN（Recurrent Neural Network）构成。
多模态处理：将组合图像和自然语言等多种信息进行处理的方法称为多模态处理。
7、深度学习未来
图像风格变化
图像的生成GAN
DCGAN -无监督学习
使用生成者和识别者两个神经网络，生成者生成近似真品的图像，识别者判断它是不是真图像，在生成识别中彼此对抗，学习。
自动驾驶
Deep Q-Network(强化学习)
计算机也在摸索试验的过程中自主学习，称为强化学习。
强化学习基本框架是代理(Agent)根据环境选择行动，然后通过这个行动改变环境，根据环境变化，代理获得某种报酬，强化学习的目的是决定代理的行动，以获取更好的
报酬。

CS231n 文件截图丢失。暂不汇报。

4、项目工作汇报
遇到的问题以及解决思路
问题描述：1、环境问题，原因：idea 使用不熟。[解决方法]

思路：多次尝试，一个一个排除，在确定jdk版本，maven没问题，在自己知识范围内确定所有可以确定的，下一步请教做好的同学师兄。经验迁移。节省时间。
项目：函数
前端学习
ajax–菜鸟教程总结
5、softmax
概念：损失函数是表示神经网络性能的‘恶劣程度’的指标，既当前的神经网络对监督数据在多大程度上不拟合，在多大程度上不一致。
损失函数，可以为任意函数，但一般使用均方误差和交叉熵误差。

softmax 是在输出层，输出0.0～1.0之间的实数,最后的输出是每个分类被取到的概率.

研一汇报第五周（2019.11.17）相关推荐

第五周-第11章节-Python3.5-内置模块详解之Xml模块
Python XML操作 XML(可扩展性标记语言)是一种非常常用的文件类型,主要用于存储和传输数据.在编程中,对XML的操作也非常常见. 本文根据python库文档中的xml.etree.Eleme ...
2019年6月6日第十五周体育馆团体预约系统UML软件工程项目日志
体育馆团体预约系统 UML软件工程项目日志 June,6th ,2019 目录一. 博客地址 1 二. 客户提交内容 1 三. 项目背景 2 四. 项目范围和前景 2 五. 沟通记录 3 六. 甲方 ...
2019 第五周作业
2019春季第五周作业这个作业属于哪个课程 C语言程序设计ll 这个作业要求在哪里 (https://edu.cnblogs.com/campus/zswxy/software-engineerin ...
第一次日志大二下11周2019.5.12
2019.2.12 在胡总的教导下,开始写第一篇自己的学习博客,也不知道后续会怎么样,应该会还算看的下去吧. 之前有学习过C,JAVA,JAVA设计模式,JSP,计算机组成原理,计算机操作系统,数据结 ...
项目实训第五周团队及个人进展汇报
第五周(3.29-4.4) 本周我们主要召开了两次会议. 第一次会议是在3.29,会议内容考虑了具体的问题生成的处理办法.经过我们资料的查询,由于现在的许多模型在这方面上都是以英文作为输入进行问题的生 ...
学号20189220 2018-2019-2 《密码与安全新技术专题》第五周作业
学号20189220 2018-2019-2 <密码与安全新技术专题>第五周作业课程:<密码与安全新技术专题> 班级: 1892 姓名: 余超学号:20189220 上课教 ...
豚鼠学习html第五周
豚鼠学习html第五周一. 1. b与i标签 2.引用标签的基本操作 3.ifarm嵌套内容 4.pr与wbr标签 5.pre与code标签 6.map与area 7.embed与object标签 ...
20135219洪韶武——信息安全系统设计基础第五周学习总结
信息安全系统设计基础第五周学习总结学习任务:教材第四章[处理器体系结构] 学习时间:10小时一.教材知识点梳理[4.1-4.3] 1.ISA[指令集体系结构] 一个处理器支持的指令和指令的字节级 ...
《Java程序设计》第五周学习总结
学号 20175313 <Java程序设计>第五周学习总结教材学习内容总结第六章主要内容掌握接口的定义接口声明:interface 接口名接口体:包含常量的声明和抽象方法. 接口 ...

研一汇报第五周（2019.11.17）

研一汇报第五周（2019.11.17）相关推荐

最新文章

热门文章