前 言

本系列的目是详细叙述当前移动端Int8的方方面面,从最底层的Int8的汇编层实现原理以及汇编性能优化手段,到中间层的移动框架的配套代码实现(标准就以NCNN为例吧),以及上层对应的PC端量化方法(各种论文思路)总结及实现,和最后模型端re-train的方法、策略及指标介绍。

此外,利用PowerPerf(一种专门针对ARM CPU应用性能优化而开发的调试工具)对卷积kernel(汇编算子)各项硬件参数指标进行量化优化也是本文的重点,旨在提炼出一套通用的汇编代码调优方法论,从而使得PowerPerf能适用于所有移动端CPU性能优化场景。

第一章 背景

1.1量化背景

尽管模型size在不断地压缩,但是其计算量通常还是有一两百MFLOPS的样子,这个计算量对于目前的(中低端)移动端CPU算力来说,还是有点吃力的,因此模型端做了最大的努力,移动端也要不甘示弱努力加油!

通常移动端加速的方案时分CPU派跟GPU派的,目前在低端机型上arm的mali GPU性能较差,所以基本配备的还是CPU方案,而中高端机其配备的GPU大部分就是高通的了,其性能整体比CPU强劲,因此,目前在不同的定位平台上不同的方案各有优势,各自根据具体的场景适配选择方案即可。图1-1 ARM芯片规划图

上图1-1是前一阵子(2018.7.12)ARM在腾讯做介绍的ppt,可以看到性能可观!!!可以看到arm在cpu这块会针对性地加强AI能力,我们再看个截图:图1-2 ARM芯片ML部分

看红色框内信息可知a

python int32 int8_Int8量化-介绍(一)相关推荐

  1. python写一个系统-使用Python写一个量化股票提醒系统

    大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...

  2. 十大python开发软件-必看 | 2020年,Python十大应用领域介绍!

    原标题:必看 | 2020年,Python十大应用领域介绍! python作为一门当下极其火爆的编程语言,得到世界范围内无数编程爱好者和开发者喜欢并不是偶然的,除了要比其他编程语言更容易入门,pyth ...

  3. garch预测 python_【2019年度合辑】手把手教你用Python做股票量化分析

    引言 不知不觉,2019年已接近尾声,Python金融量化公众号也有一年零两个月.公众号自设立以来,专注于分享Python在金融量化领域的应用,发布了四十余篇原创文章,超过两万人关注.这一路走来,有过 ...

  4. 用python读取股票价格_使用Python写一个量化股票提醒系统

    大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...

  5. python运用在哪些地方_必看 | 2020年,Python十大应用领域介绍!

    原标题:必看 | 2020年,Python十大应用领域介绍! python作为一门当下极其火爆的编程语言,得到世界范围内无数编程爱好者和开发者喜欢并不是偶然的,除了要比其他编程语言更容易入门,pyth ...

  6. 量化分析师的python日记_量化分析师的Python日记【第1天:谁来给我讲讲Python?】...

    "谁来给我讲讲Python?" 作为无基础的初学者,只想先大概了解一下Python,随便编个小程序,并能看懂一般的程序,那些什么JAVA啊.C啊.继承啊.异常啊通通不懂怎么办,于是 ...

  7. python量化股票源码_使用Python写一个量化股票提醒系统

    大家在没有阅读本文之前先看下python的基本概念, Python是一种解释型.面向对象.动态数据类型的高级程序设计语言. Python由Guido van Rossum于1989年底发明,第一个公开 ...

  8. python金融量化书籍_超强干货 | Python金融数据量化分析教程+机器学习电子书

    如今Python语言的学习已经上升到了国家战略的层面上.Python语言是人工智能的基础语言,国家相关教育部门对于"人工智能普及"格外重视,不仅将Python列入到小学.中学和高中 ...

  9. 基于Python的线性回归预测模型介绍及实践

    基于Python的线性回归预测模型介绍及实践 这是一篇学习的总结笔记 参考自<从零开始学数据分析与挖掘> [中]刘顺祥 著 完整代码及实践所用数据集等资料放置于:Github 线性回归预测 ...

最新文章

  1. 泛型算法----概述,初识泛型算法,定制操作
  2. Synchronize对象属性改变
  3. mysql联合索引的数据结构
  4. apollo分布式配置中心原理
  5. 独立主题需要有index.php模板文件,wordpress 主题模板文件列表及其作用
  6. socket_基础2_传输大数据
  7. error HLP: Help compilation failed with code 1
  8. 南岸焊接机器人厂_严选原料,机器人焊接,探秘能达到奔驰标准的亿利生产线...
  9. oracle必备文件,oracle初学者必备基础
  10. 2017.4.16 车站 思考记录
  11. mysql监视器MONyog的使用
  12. BZOJ1934[SHOI2007] Vote 善意的投票
  13. MFC框架下-调通官方demo以及如何使用SDK进行项目开发
  14. FFMPEG实现RTSP中H264数据流解码 并且实时播放
  15. opencv实现移动速度计算
  16. 小游戏 版本提交审核, 资质提交审核指引
  17. Scrapy 爬取今日头条街拍图片
  18. KNOWN_HOSTS处理
  19. Python Redis 使用
  20. SET的社会工程学攻击方法

热门文章

  1. SAP云平台上的SSO Principal Propagation设置
  2. 为什么我开发的SAP UI5应用里的group by 功能不工作?
  3. SAP OData的CSRF token在ABAP Netweaver服务器上是怎么生成的
  4. SAP CRM WebClient UI RTL ticket
  5. CRM business roles and PFCG roles
  6. PPR context node destroy logic
  7. How to resolve syntax error in CL_IM_CMS_SI_GEN_INTF
  8. SAP CRM WebClient UI how to disable excel export
  9. Java Spring源代码学习之DispatcherServlet.getHandler
  10. Mockito框架学习之stub then return