【Android-NCNN-Vulkan】记录一次ncnn-vulkan在低性能开发板上出现的native内存溢出的问题

模型作用：人脸关键点检测

原模型：tensorflow pb.model

转化后：ncnn *.param *.model

主干网络：shufflenet v2

CPU：ARM A53 2.0GHz 2G MEM

GPU：IMG GE 8300

问题描述：

加载两个模型--人脸检测和人脸关键点检测
人脸检测模型：ssd，param 10kb，model 509kb，cpu load param 需要1.7ms，load model 需要 19ms;
但是，使用vulkan load param 需要 32s，load model需要55s，一个初始化需要将近2min;

人脸关键点检测模型：shufflenet v2，param 40kb, model 2.5Mb, cpu load param 需要 5ms，load model 需要 10ms;
但是，使用vulkan load param 需要32s，load model时，mem 中native 狂飙，直接被杀死，导致初始化失败。

内存泄漏问题描述：

主干采用shufflenet v2，最后三层为reduce，由于vulkan不支持reduce，因此用如下方法代替

Pooling pool1 1 1 concat_splitncnn_0 pool1 0=1 1=20 11=20 2=20 12=20 5=1

但是在vulkan ncnn load model 执行到 pipeline.cpp 469行

VkResult ret = vkCreateComputePipelines(vkdev->vkdevice(), 0, 1, &computePipelineCreateInfo, 0, &pipeline);

内存崩掉了，然后被系统强杀。

内存泄漏原因分析：

0=1 表示average pool，1和11表示kernal的h和w，2和12表示pad的h和w，以此来代替reduce操作，该方法在ncnn arm cpu 上能够得到正确的结果，但是在vulkan gpu上内存会出现上述问题。

内存泄漏替换方案：

Pooling pool1 1 1 concat_splitncnn_0 pool1 0=1 4=1

可以在确保正确forward的同时，在该硬件环境上推理速度上升30ms。

load model速度慢问题，参见 【Android-NCNN-Vulkan】ncnn-vulkan load param & model 速度慢。

【PS】复现vulkan average pooling 内存溢出问题：

pool.proto

7767517
2 2
Input            images  0 1 images 0=13 1=13 2=1024
Pooling          pool1   1 1 images pool1 0=1 1=12 11=12 2=12 12=12 5=1

unsigned char m[16];
std::string param = "/pool.proto";
Net->load_param(param.c_str());
Net->load_model(m);

设置kernal 和 stride >=13 时，在本次记录的配置中，出现内存溢出

详细问题参见：https://github.com/Tencent/ncnn/issues/1874

【Android-NCNN-Vulkan】记录一次ncnn-vulkan在低性能开发板上出现的native内存溢出的问题相关推荐

goodix gt911 在 Android 开发板上的适配流程
2019-05-08 关键词:rk3128触摸屏适配.goodix gt911 适配.goodix gt9xx 触摸屏适配.gt9xx.c.rk平台触摸屏适配本篇文章记录了笔者在运行着 Androi ...
开发板上烧上android,Android HAL实践：Mini6410开发板上的mokoid
网上有很多人讲Android的HAL,都是基于jollen的实验代码的, 讲的都很好,但是缺少在板子上的实际操作.虽然这些实践步骤做过一次就很熟悉了,但是第一次还是挺麻烦的,要到处找资料,故特地在此将 ...
【Android 系统开发】编译 Android文件系统 u-boot 内核并烧写到 OK-6410A 开发板上
博客地址 : http://blog.csdn.net/shulianghan/article/details/40299813 本篇文章中用到的工具源码下载 : -- ok-6410A 附带的 A ...
安卓开发板烧写程序与安装软件的区别_在开发板上安装Android
一.安装串口调试工具开发Linux驱动程序无法像开发Android应用程序直接在Eclipse中开发,但是可以通过串口来通信.所以就需要安装串口调试工具,在这儿我们使用的串口调试工具是minicom ...
android移植开发板,Android在TQ2440开发板上的移植
原标题:Android在TQ2440开发板上的移植一.目前进展 1．已经可以通过NFS在开发板上运行最近自己编译了android的文件系统,并在TQ上运行了,比熊猫版的bin程序多些,基本功能已经 ...
在android开发板上测试neon加速实验
今天为了测试在mtk6757上面的neon加速性能,从网上找来一个测试例子保留了它的汇编文件和cpp文件,做了一些简单的修改,然后自己写了一个Android.mk和Application.mk 采用n ...
Android在TQ2440开发板上的移植(转)
一.目前进展 1．Android已经可以通过NFS在TQ2440开发板上运行最近自己编译了android的文件系统,并在TQ上运行了,比熊猫版的bin程序多些,基本功能已经实现,大家可以从: htt ...
android原生系统开发板,刷android系统到开发板上.doc
刷android系统到开发板上将安卓系统刷系统到开发板上马亲民 2014.12.20 1.擦除NAND FLASH中原有的Windows CE1 2.加载USB引导文件4 3.下载Linux内核9 ...
解决android开发在大屏手机图片出现内存溢出
解决android开发在大屏手机图片出现内存溢出 http://jingyan.baidu.com/article/ed2a5d1f3191d109f6be17e8.html

【Android-NCNN-Vulkan】记录一次ncnn-vulkan在低性能开发板上出现的native内存溢出的问题

【Android-NCNN-Vulkan】记录一次ncnn-vulkan在低性能开发板上出现的native内存溢出的问题相关推荐

最新文章

热门文章