（笔记）神经网络压缩，Ristretto: Hardware-Oriented Approximation of Convolutional Neural Networks（一）
目录
- 目录
- 原文
- 简要介绍
- 摘要
- 第一章介绍略
- 第二章卷积神经网络略
- 第三章相关工作略
原文
paper: http://lepsucd.com/wp-content/uploads/2015/08/Thesis_Philipp_Gysel.pdf
code: https://github.com/MichalBusta/Ristretto-caffe/commit/55c64c202fc8fca875e108b48c13993b7fdd0f63
2016年硕士论文
作者：Philipp Matthias Gysel
学校：B.S. (Bern University of Applied Sciences, Switzerland)
简要介绍
Ristretto是一个和Caffe类似的框架。本文介绍了几种网络压缩的方法，压缩特征图和参数。方法包括定点法、动态定点法、迷你浮点法和乘法变移位法，所压缩的网络包括LeNet、CIFAR-10、AlexNet和CaffeNet等。注：Ristretto原指一种特浓咖啡（Caffe），本文的Ristretto沿用了Caffe的框架。
摘要
卷积神经网络（CNN）近年来获得巨大成功，尤其在图像识别方面。然而深度CNN需要巨大的计算能力和内存空间，制约了其进一步在移动终端或嵌入式系统的应用。
是什么：Ristretto是一个框架，针对深度学习CNN的硬件加速，能以已训练的模型为输入，低位数的压缩模型作为输出。其中模型的中间变量（特征图）和层参数都用更低的位数进行存取，其减小计算成本。
性能：Ristretto能用GPU加速。
效果：在保证准确率损失在1%以内的前提下，Ristretto能压缩CaffeNet和SqueezeNet到8bit。
第一章：介绍（略）
第二章：卷积神经网络（略）
第三章：相关工作（略）
（笔记）神经网络压缩，Ristretto: Hardware-Oriented Approximation of Convolutional Neural Networks（一）相关推荐
- 【论文阅读笔记】Ristretto： Hardware-Oriented Approximation of Convolutional Neural Networks
概念 MAC:multiplication-accumulation operations 2. Convolutional Neural Networks 2.2.1 Normalization l ...
- Ristretto Hardware-Oriented Approximation of Convolutional Neural Networks
Ristretto: Hardware-Oriented Approximation of Convolutional Neural Networks 文章目录 Ristretto: Hardware ...
- 卷积神经网络图像纹理合成 Texture Synthesis Using Convolutional Neural Networks
卷积神经网络的图像纹理合成 TextureSynthesis Using Convolutional Neural Networks Taylor Guo, 2017年4月29日 星期六 摘要 本文介 ...
- 论文阅读笔记：Retinal vessel segmentation based on Fully Convolutional Neural Networks
基于全卷积神经网络的视网膜血管分割 关键词:全卷积神经网络.平稳小波变换.视网膜眼底图像.血管分割.深度学习 摘要 本文提出了一种新的方法,将平稳小波变换提供的多尺度分析与多尺度全卷积神经网络相结合, ...
- 【论文笔记】Question Answering over Freebase with Multi-Column Convolutional Neural Networks
一.概要 该文章发于ACL 2015,作者提出了一个基于Freebase,使用multi-column convolutional neural networks(MCCNNs)的自动问答模型,分 ...
- 吴恩达深度学习笔记——卷积神经网络（Convolutional Neural Networks）
深度学习笔记导航 前言 传送门 卷积神经网络(Convolutional Neural Networks) 卷积神经网络基础(Foundations of Convolutional Neural N ...
- 神经网络压缩（6）：Exploring the Regularity of Sparse Structure in Convolutional Neural Networks
Exploring the Regularity of Sparse Structure in Convolutional Neural Networks 方法介绍 目的: 探索稀疏性和预测精度之间的 ...
- 深度模型压缩论文（03）- Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self
文章目录 1.摘要和背景 1.1 摘要 1.2 背景 2.方法和贡献 2.1 方法 2.1.1 训练过程 2.1.2 loss介绍 2.2 贡献 3.实验和结果 3.1 实验 3.2 结果 4.总结和 ...
- 深度学习之卷积神经网络(Convolutional Neural Networks, CNN)
前面, 介绍了DNN及其参数求解的方法(深度学习之 BP 算法),我们知道DNN仍然存在很多的问题,其中最主要的就是BP求解可能造成的梯度消失和梯度爆炸.那么,人们又是怎么解决这个问题的呢?本节的卷积 ...
最新文章
- 读自动驾驶激光雷达物体检测技术（Lidar Obstacle Detection）（2）：点云滤波FilterCloud（）函数
- python 添加类属性
- su 与 sudo 区别
- oracle不使用游标,oracle – 为什么我们不能在动态SQL语句中使用强引用游标？
- python中多重if语句用法_Python多分支if语句的使用
- 空降了一位CTO，不到3个月，就被发现是一地鸡毛
- CSDN Blog推出专属的离线发布工具 - CSDN剪影
- 【T+】T+和天联高级版软件结合使用的时候，运行T+提示网页崩溃了。
- electron编写我们第一个hello world程序和文件引入
- 微信订阅号改版，我有这些看法
- MogDB官网正式亮相！单机256万tpmC再创佳绩
- 格式化 命令 linux,linux格式化命令(linux格式化磁盘命令fdisk详解)
- 爆肝六万字整理的python基础，快速入门python的首选
- Linux下的Job Control
- 程序开发语言之兵器谱排名
- 网吧看电影你们都用什么IT网站看网吧电影会员免费免VIP的那种
- 城市建筑三维白膜数据的制作
- mmdetection3d基于kitti数据集训练pointpillars模型
- BugkuCTF之分析题之中国菜刀
- 湘大计算机学校聚会,计算机学院计算机专业96级2班校友举行入校20周年返校聚会...