什么是GEMM?该怎么去学习GEMM?
什么是GEMM？ 它的英文全称是 GEneral Matrix to Matrix Multiplication (通用矩阵的矩阵乘法)，Gemm在神经网络的计算中占据很重要的位置。 它代表全局矩阵到矩阵的乘法，它本质上完全按照它在tins上所说的那样，将两个输入矩阵乘法在一起，得到一个输出矩阵。它和我在三维图形世界中使用的矩阵操作类型之间的区别在于，它所工作的矩阵通常非常大。
例如，典型网络中的单个层可能需要将256行、1152列矩阵乘以1152行、192列矩阵，以产生256行、192列的结果。天真地说，这需要5700万层(256x1152x192)浮点操作，在现代架构中可以有几十个这样的层，所以我经常看到网络需要几十亿FLOP来计算一帧。
随着AI技术的快速发展，深度学习在各个领域得到了广泛应用。深度学习模型能否成功在终端落地应用，满足产品需求，一个关键的指标就是神经网络模型的推理性能。于是，一大波算法工程师为了算法的部署转岗到先进计算工程师。然而，先进计算并不是一件简单的事，它要求工程师既要精通计算机体系架构，又要熟悉算法的计算流程，于是，稍微有经验的深度学习先进计算工程师都成了各家公司争抢的“香饽饽”。相关人才少，但需求多，先进计算成为了未来的一大趋势。
那么，我们该如何学习GEMM？
第一，我们需要了解一下硬件的基础的体系结构，了解硬件如何工作，才能在软件上实现算法的时候，尽可能去考虑利用硬件的一些特性，来做到高效的、极致的优化。
第二，充分利用SIMD进行指令向量化和多核心并行。大部分现代CPU支持SIMD（Single Instruction Multiple Data，单指令流多数据流）。在同一个CPU循环中，SIMD可在多个值上同时执行相同的运算/指令。
点击下方链接，加入先进计算训练营
先进计算基础训练营测评名单收集
http://hbcjintern.mikecrm.com/2lu8xm8猿代码科技，现向国家大力输送先进计算行业的人才，助力国家智能科技产业的升级发展。而且猿代码科技也与各个地区的国家超算中心有紧密的合作，例如“无锡国家超算中心”、“天津国家超算中心”等，现向全社会人员以及各个高校在校生提供100个名额，如果你如果你想挣到程序员的高薪，又想有稳定的发展，那请点击下方链接，详细咨询，前50名可得先进计算基础课程，提供面试机会，助你进入目标单位。
猿代码-先进计算猿代码（北京）科技有限公司是一家IT类科技公司，致力于软件开发、系统集成及高素质IT开发人才的训练与培养。
http://www.ydma.com/ydm_mobile.html
什么是GEMM?该怎么去学习GEMM?相关推荐
- Python是一门杰出的语言，值得你去学习
为什么要将Python作为第一门语言来学习呢,理由有很多,就像<Python编程:从入门到实践>中说的. Python是一种效率极高的语言:相比于众多其他的语言,使用Python编写时,程 ...
- STM32：从菜鸟到牛人就是如此简单！为了学习单片机而去学习单片机的思路是不对的
来源于知乎,版权归原作者所有 为了学习单片机而去学习单片机的思路是不对的 你问: 如何系统地入门学习stm32? 本身就是一个错误的问题 假如你会使用8051 会写C语言 那么STM32本身并不需要刻 ...
- 2019年嵌入式开发系统详细分析告诉你是否还值得去学习
如今嵌入式可以说是当下比较火热的IT技术之一了,很多数字包括手机.电子字典.可视电话.数字相机.数字摄像机.机顶盒.智能玩具医疗仪器和航空航天设备等都是典型的嵌入式系统.所以,现在可以说嵌入式真的很火 ...
- Java零基础如何去学习Java编程
动力节点Java培训最新上线Java实验班,等你来测试自己适不适合学习Java编程哦! Java那块最难学?因为每个人的基础和起点不同,答案基本上也不会一致,有人觉着写个helloworld都很难.这 ...
- 探讨程序员如何学习你不熟悉的技术，以及用什么样的方法去学习.
由于公司的业务拓展,有一部份的程序要用Delphi来实现(基于原来的程序拓展)现在需要学习Delphi,刚开始接手时感觉不知如何下手(也许是本人才疏学浅),于是在网上找了很多资料,总是感觉那些资料都不 ...
- 零基础转行web前端，如何高效的去学习web前端?
web前端开发要学的知识内容涉及的会很宽泛,虽然说主要是html.css和JavaScript这些基础知识点,但学前端开发除了要学这些基础知识外,学员还要在这之上进行延伸和深入的去学,而且互联网时代不 ...
- 想做C++软件开发工程师,我该如何去学习？
想做C++软件开发工程师,我该如何去学习? 因为C++是一个兼具性能和抽象模型结合体,除了能够保证性能之外,还能用当今最流行的面向对象编程模型,而且生态系统由于这些年的积累,建设的也非常完善,所以在高 ...
- 专访｜带着问题去学习，Apache DolphinScheduler 王福政
| 转载自:开源之夏 | 责编:沈于蓝 | 编辑:胡欣元 | 设计:王福政 本期专访来自 Apache DolphinScheduler Contributor 王福政. 01 自我介绍 我与开源 深 ...
- 云计算基础：云计算运用越来越广泛，我们应该如何去学习云计算
随着时代的发展,云计算越来越普及,越大众化,使用的人越来越多,我们应该如何去学习这门技术呢?这篇文章我们就来介绍如何学习我们的云计算. 学前介绍: 学前介绍 学习资料:HedEX Lite.产品文档. ...
最新文章
- C++ 偏微分数值计算库_【动手学计算机视觉】第一讲：图像预处理之图像去噪...
- sass学习笔记（二）：sass的不同样式风格的输出方法
- 旋转质量轮实验对象上的传感器
- modbus协议和串口服务器,Modbus RTU通信模式与Modbus ASCII通信模式的异同点
- Java集合框架：总结
- 【caffe-Windows】训练自己数据——数据集格式转换
- Android 5.1 API 22 所有sdk文件下载地址
- spring vaadin_在Spring Boot中使用Vaadin的简介
- JavaScript中的数组
- 20162305《程序设计与数据结构》第1周学习总结
- python 制作标签云
- [PHP]全国省市区信息，mysql数据库记录
- Pyhton 兔子繁衍问题（后有递归求法）（设有一对新生的兔子从第4个月开始他们每个月月初都生一对新兔子， 新生的兔子从第4个月开始又每个月月初生一对兔子，求n个月后兔子的总对数）
- 单元測试中 Right-BICEP 和 CORRECT
- 通过微信公众平台获取公众号文章
- 读书笔记： 《亿级流量网站架构核心技术》(开涛的那本)
- 基于java的扫雷游戏设计01
- 清华计算机专硕非全日制,清华大学2018年非全日制MSW专业学位招生信息
- 【python】抓小偷
- 挪威石油基金将起诉大众汽车