加速器吞吐率、能效比的计算

吞吐率和能效比是加速器性能评估的重要指标
首先介绍吞吐率和能效比的公式，然后介绍吞吐量的计算方式

一、吞吐率

吞吐率是指单位时间内运行加、减、乘、除的次数。

吞吐率=吞吐量/运行时间吞吐率= 吞吐量/运行时间吞吐率=吞吐量/运行时间
单位GOPS

二、能效比

能效比=吞吐率/功耗能效比= 吞吐率/功耗能效比=吞吐率/功耗
单位GOPS/w

二、吞吐量的计算

吞吐量指的是网络整体的加、减、乘、除的次数

下面以一个简单的LSTM网络为例：

LSTM结构

lstm网络模型

                     输入大小                        参数                  激活函数

运算操作数统计

                                 LSTM1           LSTM2           DENSE       总操作数

矩阵向量相乘（乘法结果累加）：4325376=33128（128+128）*4

33*（128lstm）*（it+ht）*4个门

Element_wise模块：16896+42240=1412833
Dense：256=128*2

加速器吞吐率、能效比的计算相关推荐

WEB站点之吞吐率、吞吐量、TPS、性能测试
一.吞吐率我们一般使用单位时间内服务器处理的请求数来描述其并发处理能力.称之为吞吐率(Throughput),单位是 "req/s".吞吐率特指Web服务器单位时间内处理的请求数 ...
吞吐率、吞吐量、TPS、性能测试，纸上不谈兵
https://ruby-china.org/topics/26221 一.吞吐率我们一般使用单位时间内服务器处理的请求数来描述其并发处理能力.称之为吞吐率(Throughput),单位是 &quo ...
计算机指令流水线时间计算,计算机指令-流水线和吞吐率
流水线我们把计算机的一条指令抽象成三个步骤(实际不止这些) 现在向计算机发送三条指令A,B,C,如果不采用流水线的方式传输,那么在每个机器周期中的执行步骤如下图所示(我们假设每个步骤都会耗费一个机器 ...
流水线性能吞吐率、加速比、效率计算
流水线性能吞吐率.加速比.效率计算吞吐率 1.最大吞吐率 Tpmax=1△tTpmax=\frac{1}{△t}Tpmax=△t1 2.实际吞吐率 Tp=n(m+(n−1))∗△tTp=\frac ...
【软考学习5】流水线基本概念、周期执行时间、吞吐率、加速比和效率的计算
一.流水线基本概念在学习流水线之前,必须掌握并行的概念,即明白什么是并行. 其中,并行和我们常说的并发是不同的,需要理解这两个概念. 并行指的是:两个或两个以上的事件在同一时刻发生. 并发指的 ...
软考备考-流水线吞吐率的计算
首先,来看题目中的流水线图然后,先画出执行一条指令时的时序图: 纵轴对应题目中的四个段,为四个处理子过程的专用模块,横轴为时间轴. 然后加上第二条指令,看一下时序图.红色边框的为第二条指令的部分每 ...
2.10 流水线吞吐率计算
吞吐率是指单位时间内流水线所完成的任务数量或输出的结果数量. 上图为例. 指令条数 = 100,流水线执行时间 = 203 吞吐率 = 100/203 最大吞吐率理想状态的情况.忽略流水线建立时间 ...
关于cpu流水线的各阶段周期，吞吐率计算问题
本人在复习计组流水线时,遇到了一些问题,再次记录,以备不时之需. 首先要弄明白一点,那就是cpu的各阶段是否具有相同的时钟周期,也就是说,每个阶段所花费的时间是否都是相同的? 为什么会想到这个问题,先 ...
结合“性能监视器” 排查、处理性能瓶颈导致应用吞吐率等指标上不去的问题...
双11备战前夕,总绕不过性能压测环节,TPS 一直上不去 / 不达标,除了代码上的问题外,服务器环境.配置.网络.磁盘.CPU 亦是导致性能瓶颈的重要一环,本文旨在分享最近项目性能压测过程中的排查经验 ...