Caffe 中的卷积--权宜之计

Caffe 中的卷积中的效果不是很好，经常被人所诟病。首先来看看作者本人是怎么回答这个问题的。
https://github.com/Yangqing/caffe/wiki/Convolution-in-Caffe:-a-memo

it is a graduate-student level design choice when I was writing the Caffe framework in just 2 months’ budget with a looming thesis deadline.

作者当时只有2个月时间来写 Caffe 框架，马上要博士毕业答辩。所以没有对卷积进行深入优化，找了一个投机取巧的实现方法,将卷积变为矩阵乘法，矩阵运算有现成的优化库可以用。

这里来看看 Caffe 中是怎么实现卷积的。

Caffe中的卷积计算是将卷积核矩阵和输入图像矩阵变换为两个大的矩阵A与B，然后A与B进行矩阵相乘得到结果C（利用GPU进行矩阵相乘的高效性或CPU对应的一些库 MKL, ATLAS, OpenBLAS）.

https://www.zhihu.com/question/28385679
http://blog.csdn.net/xiaoyezi_1834/article/details/50786363

卷积网络性能对比：
https://github.com/soumith/convnet-benchmarks
从这个对比中可以看出 Caffe 的卷积效率不高。

Caffe 中的卷积--权宜之计相关推荐

c++调用caffe ssd_【caffe教程5】caffe中的卷积
本文首发于公众号<有三AI> [caffe解读] caffe从数学公式到代码实现5-caffe中的卷积mp.weixin.qq.com 今天要讲的就是跟卷积相关的一些layer了 im2 ...
Caffe中的卷积实现
https://www.zhihu.com/question/28385679 https://github.com/Yangqing/caffe/wiki/Convolution-in-Caffe: ...
caffe 中base_lr、weight_decay、lr_mult、decay_mult代表什么意思？
在机器学习或者模式识别中,会出现overfitting,而当网络逐渐overfitting时网络权值逐渐变大,因此,为了避免出现overfitting,会给误差函数添加一个惩罚项,常用的惩罚项是所有权 ...
caffe中forward过程总结
caffe中最重要的两个部分就是forward和backward的过程,farward是根据输入数据正向预测输入属于哪一类:backward是根据输出的结果求得代价函数,然后根据代价函数反向求去其相对 ...
caffe中各个层——解析
转自:http://www.cnblogs.com/denny402/p/5071126.html 所有的层都具有的参数,如name, type, bottom, top和transform_para ...
【caffe解读】 caffe从数学公式到代码实现5-caffe中的卷积
文章首发于微信公众号<与有三学AI> [caffe解读] caffe从数学公式到代码实现5-caffe中的卷积今天要讲的就是跟卷积相关的一些layer了 im2col_layer.cpp ...
Caffe中如果高效实现卷积层
卷积层是caffe中比较关键的的一个层,其里面实现运用了大量技巧,关键卷积层的实现可以看看贾清杨是如何吐槽的 https://github.com/Yangqing/caffe/wiki/Convol ...
caffe中RGB图像三通道卷积过程学习推导
idea来源于自己的想法,之前在github看过大神贾杨清的推导slider,caffe中如果计算卷积,加上自己最近有个很小的疑惑,输入的image一般是RGB三通道的彩色图片,但是我们在定义卷积层时 ...
caffe中卷积层的实现
在caffe中卷基层是通过矩阵相乘来实现的实现,直接计算卷积可以由下面的程序表示: 可以看到,这段程序循环嵌套多,时间复杂度高,而使用矩阵相乘的形式:很多现成的矩阵运算库,不重复"造轮子&q ...

Caffe 中的卷积--权宜之计

Caffe 中的卷积--权宜之计相关推荐

最新文章

热门文章