python int32 int8_Int8量化-介绍(一)
前 言
本系列的目是详细叙述当前移动端Int8的方方面面,从最底层的Int8的汇编层实现原理以及汇编性能优化手段,到中间层的移动框架的配套代码实现(标准就以NCNN为例吧),以及上层对应的PC端量化方法(各种论文思路)总结及实现,和最后模型端re-train的方法、策略及指标介绍。
此外,利用PowerPerf(一种专门针对ARM CPU应用性能优化而开发的调试工具)对卷积kernel(汇编算子)各项硬件参数指标进行量化优化也是本文的重点,旨在提炼出一套通用的汇编代码调优方法论,从而使得PowerPerf能适用于所有移动端CPU性能优化场景。
第一章 背景
1.1量化背景
尽管模型size在不断地压缩,但是其计算量通常还是有一两百MFLOPS的样子,这个计算量对于目前的(中低端)移动端CPU算力来说,还是有点吃力的,因此模型端做了最大的努力,移动端也要不甘示弱努力加油!
通常移动端加速的方案时分CPU派跟GPU派的,目前在低端机型上arm的mali GPU性能较差,所以基本配备的还是CPU方案,而中高端机其配备的GPU大部分就是高通的了,其性能整体比CPU强劲,因此,目前在不同的定位平台上不同的方案各有优势,各自根据具体的场景适配选择方案即可。图1-1 ARM芯片规划图
上图1-1是前一阵子(2018.7.12)ARM在腾讯做介绍的ppt,可以看到性能可观!!!可以看到arm在cpu这块会针对性地加强AI能力,我们再看个截图:图1-2 ARM芯片ML部分
看红色框内信息可知a
python int32 int8_Int8量化-介绍(一)相关推荐
- python写一个系统-使用Python写一个量化股票提醒系统
大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...
- 十大python开发软件-必看 | 2020年,Python十大应用领域介绍!
原标题:必看 | 2020年,Python十大应用领域介绍! python作为一门当下极其火爆的编程语言,得到世界范围内无数编程爱好者和开发者喜欢并不是偶然的,除了要比其他编程语言更容易入门,pyth ...
- garch预测 python_【2019年度合辑】手把手教你用Python做股票量化分析
引言 不知不觉,2019年已接近尾声,Python金融量化公众号也有一年零两个月.公众号自设立以来,专注于分享Python在金融量化领域的应用,发布了四十余篇原创文章,超过两万人关注.这一路走来,有过 ...
- 用python读取股票价格_使用Python写一个量化股票提醒系统
大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...
- python运用在哪些地方_必看 | 2020年,Python十大应用领域介绍!
原标题:必看 | 2020年,Python十大应用领域介绍! python作为一门当下极其火爆的编程语言,得到世界范围内无数编程爱好者和开发者喜欢并不是偶然的,除了要比其他编程语言更容易入门,pyth ...
- 量化分析师的python日记_量化分析师的Python日记【第1天:谁来给我讲讲Python?】...
"谁来给我讲讲Python?" 作为无基础的初学者,只想先大概了解一下Python,随便编个小程序,并能看懂一般的程序,那些什么JAVA啊.C啊.继承啊.异常啊通通不懂怎么办,于是 ...
- python量化股票源码_使用Python写一个量化股票提醒系统
大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...
- python金融量化书籍_超强干货 | Python金融数据量化分析教程+机器学习电子书
如今Python语言的学习已经上升到了国家战略的层面上.Python语言是人工智能的基础语言,国家相关教育部门对于"人工智能普及"格外重视,不仅将Python列入到小学.中学和高中 ...
- 基于Python的线性回归预测模型介绍及实践
基于Python的线性回归预测模型介绍及实践 这是一篇学习的总结笔记 参考自<从零开始学数据分析与挖掘> [中]刘顺祥 著 完整代码及实践所用数据集等资料放置于:Github 线性回归预测 ...
最新文章
- 泛型算法----概述,初识泛型算法,定制操作
- Synchronize对象属性改变
- mysql联合索引的数据结构
- apollo分布式配置中心原理
- 独立主题需要有index.php模板文件,wordpress 主题模板文件列表及其作用
- socket_基础2_传输大数据
- error HLP: Help compilation failed with code 1
- 南岸焊接机器人厂_严选原料,机器人焊接,探秘能达到奔驰标准的亿利生产线...
- oracle必备文件,oracle初学者必备基础
- 2017.4.16 车站 思考记录
- mysql监视器MONyog的使用
- BZOJ1934[SHOI2007] Vote 善意的投票
- MFC框架下-调通官方demo以及如何使用SDK进行项目开发
- FFMPEG实现RTSP中H264数据流解码 并且实时播放
- opencv实现移动速度计算
- 小游戏 版本提交审核, 资质提交审核指引
- Scrapy 爬取今日头条街拍图片
- KNOWN_HOSTS处理
- Python Redis 使用
- SET的社会工程学攻击方法
热门文章
- SAP云平台上的SSO Principal Propagation设置
- 为什么我开发的SAP UI5应用里的group by 功能不工作?
- SAP OData的CSRF token在ABAP Netweaver服务器上是怎么生成的
- SAP CRM WebClient UI RTL ticket
- CRM business roles and PFCG roles
- PPR context node destroy logic
- How to resolve syntax error in CL_IM_CMS_SI_GEN_INTF
- SAP CRM WebClient UI how to disable excel export
- Java Spring源代码学习之DispatcherServlet.getHandler
- Mockito框架学习之stub then return