20211216:onnx2mnn

概述

官方文档：yuque.com/mnn/cn

官方文档：python-api Python API 使用文档 · 语雀

限制：2021/12/14

当前支持Python2.7、3.5、3.6、3.7，但Windows下不支持2.7。

Tips:

3.8测试可用，numpy需要升级到1.2.0，

否则调用时可能遇到：xception: initMNN: init numpy failed

https://github.com/alibaba/MNN/issues/1500

安装

apt-get install graphviz # 可视化用的，不需要可以不安装

pip install  MNN

（1）mnn命令

（2）mnnconvert命令

模型转换：onnx2mnn

mnnconvert -f ONNX --modelFile mobilenet_v2-b0353104.onnx --MNNModel mobilenet_v2-b0353104.mnn --bizCode MNN

结果验证：验证mnn推理与onnx推理结果

import MNN
import onnx
import onnxruntime
import cv2
import numpy as np
import timedef process(img_roi):img = cv2.cvtColor(img_roi,cv2.COLOR_BGR2RGB)img = cv2.resize(img,(96,96))img = np.float32(img) / 255.0means = np.array([0.5, 0.5, 0.5])stds  = np.array([0.5, 0.5, 0.5])img  -= meansimg  /= stdsimg = np.ascontiguousarray(np.transpose(img, (2, 0, 1)))img = img[np.newaxis, ...]return imgdef inference_mnn(input_data):model_path = './mask.mnn'interpreter = MNN.Interpreter(model_path)session = interpreter.createSession()input_tensor = interpreter.getSessionInput(session)# 获取输入维度#print(input_tensor.getShape())start_time = time.time()tmp_input = MNN.Tensor((1, 3, 96, 96), MNN.Halide_Type_Float, input_data, MNN.Tensor_DimensionType_Caffe)input_tensor.copyFrom(tmp_input)interpreter.runSession(session)infer_result = interpreter.getSessionOutput(session, 'output0')end_time = time.time()print("infer time %s ms " % str((end_time - start_time) * 1000))# 获取输出维度#print(infer_result.getShape())output_data = infer_result.getData()print(output_data)return output_datadef inference_onnx(input_data):model_path = r'./mask_no_module_49_kd.onnx'onnx_session = onnxruntime.InferenceSession(model_path)input_name = []for node in onnx_session.get_inputs():input_name.append(node.name)output_name = []for node in onnx_session.get_outputs():output_name.append(node.name)input_node = 'input0'start_time = time.time()input_feed = {}input_feed[input_node] = input_dataoutput = onnx_session.run(output_name, input_feed)end_time = time.time()print("infer time %s ms " % str((end_time - start_time) * 1000))print(output)return outputif __name__ == "__main__":image_path = './a.jpg'image_data = cv2.imread(image_path)input_data = process(image_data)# mnnoutput_data = inference_mnn(input_data)# onnxoutput_data = inference_onnx(input_data)print("Done!")

20211216:onnx2mnn相关推荐

CRM项目第一天（2021-12-16）1
CRM项目第一天(2021-12-16)1 1.CRM项目介绍: 从0到1的项目开发. 涉及到的技术点: 1.前后端交互. 2.UI 3.jQuery 4.Ajax 5.Spring 6.Spring ...
日语笔记20211216
日语笔记20211216 N5 第二课ごめんください. 有人在么,有人在家么ごめんなさい (御免)对不起,抱歉ください与なさい都有请的意思 -なさい命令的语气较强 -ください命令的语气较弱 ...
ustc小道消息20211216
关于2022年寒假研究生证补办和火车票优惠卡事宜的通知各研究生同学: 为方便研究生寒假购买火车票出行,研究生院即日起至2022年1月21日的每个工作日均可办理研究生证.火车票优惠卡相关事宜.请有补办 ...
今天的一点感悟-20211216
这是学习笔记的第 2392篇文章早上在和老妈打电话的时候,她问起了我的体检情况,我才突然想起来我体检的事情,我的体检报告早就出来了,也打印出来了,但是没有认真的看过,而老爸老妈的体检报告早就打印出来 ...
2021-12-16 统计学-基于R（第四版）第十章课后习题记录及总结
先声明,本博客为个人作业不一定为标准答案,仅供参考 10.1 题目如下 (1) > example10_1<-read.csv("D:/作业/统计学R/<统计学-基于R&g ...
【STP生成树】（桥ID、根桥、cost、RPC、接口ID、BPDU报文格式、端口选举举例）-20211216.20211217
目录一.生成树STP技术背景 1.前言 2.二层交换机的冗余性与环路二.生成树协议 1.生成树协议 2.生成树能动态感知网络拓扑的变化,调整阻塞或放行端口生成树: 通过交互报文感知网络拓扑的 ...
2021-12-16 vue移动端卖座电影项目(十三) 使用vuex的getter筛选comingSoon的显示电影数
1.Getter:把Store中数据处理形成新数据 Getter 可以对 Store 中已有的数据加工处理之后形成新的数据,类似 Vue 中的计算属性. Store 中数据发生变化,Getter 的数 ...
2021-12-16 《聪明的投资者》学习笔记-13.对四家上市公司的比较--普通了解，不必强求
摘自<聪明的投资者>The Intelligent Investor(第4版) 本杰明.格雷厄姆第13章对四家上市公司的比较 1-盈利能力 2-稳定性 3-增长 4-财务状况 5-股息 ...
2021-12-16 混沌性检测微弱特征信号
Duffing振子检测微弱特征信号原理回顾之前我们说过对于不同的待测信号,基于不同的策动力幅值,系统运动的相轨会发生不同的变化.当 γ \gamma γ处于阈值附近,很轻微的变化会使系统状态发生巨 ...

20211216:onnx2mnn

20211216:onnx2mnn相关推荐

最新文章

热门文章