将Tensor核心引入标准Fortran

将Tensor核心引入标准Fortran
调优的数学库是从HPC系统提取最终性能的一种简单而可靠的方法。但是，对于寿命长的应用程序或需要在各种平台上运行的应用程序，为每个供应商或库版本调整库调用可能是维护的噩梦。
可以自动生成对调优数学库的调用的编译器为提供了两全其美的优势：易于移植和终极性能。在本文中，将展示如何在GPU上无缝加速许多标准Fortran数组内在函数和语言构造。nvfortran编译器通过将Fortran语句映射到NVIDIA cuTENSOR库中的可用功能来自动启用此加速，该库是NVIDIA cuTENSOR的先河，提供GPU加速的张量线性代数库，提供张量收缩，缩小和逐元素运算。
轻松过渡到NVIDIA GPU
以下是标准Fortran数组内在函数如何映射到GPU加速的数学库。在最简单的级别上，只需要两个Fortran语句即可利用cuTENSOR库提供的出色性能：
使用cutensorex
…
c = matmul（a，b）
使用cutensorex预定义模块的第一条语句以重载的Fortran内在过程，数组表达式和重载的赋值形式包含cuTENSOR库的接口。编写接口以仅映射位于GPU设备内存中的阵列。在本文的稍后部分，将从OpenACC和CUDA Fortran程序员的角度讨论这意味着什么。定义了这些接口后，包含matmul()内部调用的第二条语句将自动映射到cuTENSOR函数调用。
这些接口通过识别并匹配可以映射到单个cuTENSOR内核调用的几种常用模式来实现延迟执行。在所有情况下，都将调用多个cuTENSOR函数来设置cuTENSOR所需的句柄，描述符数据结构和工作缓冲区。
但是，只有一个内核被启动到GPU。出于性能考虑，将整个语句（包括分配给左侧数组）映射起来很重要。不希望编译器为右侧操作的输入或结果（中间或最终）创建Fortran中常见的临时数组。
支持的标准Fortran操作
cuTENSOR库包含常规的排列和收缩操作。置换的结果可以可选地通过元素函数来操作，并且可选地缩放。
nvfortran编译器可以识别和映射与通用数组语法结合使用的各种Fortran转换内在函数和基本内在函数，并将其映射到cuTENSOR功能。一些更直接的翻译包括：
d =转置（a）
d =函数（transpose（a））
d = alpha * func（转置（a）

d =重塑（a，shape = […]）
d =重塑（a，shape = […]，order = […]）
d =函数（reshape（a，…））
d = alpha * func（reshape（a，…））

d =点差（a，dim = k，ncopies = n）
d =函数（spread（a，dim = k，ncopies = n））
d = alpha * func（spread（a，dim = k，ncopies = n））
matmul()也可以在cuTENSOR中排列to的输入，并且可以缩放和累加结果。这导致几种可能的组合，例如以下语句：
c = matmul（a，b）
c = c + matmul（a，b）
c = c-matmul（a，b）
c = c + alpha * matmul（a，b）
d = alpha * matmul（a，b）+ beta * c

c = matmul（转置（a），b）
c = matmul（reshape（a，shape = […]，order = […]），b）
c = matmul（a，转置（b））
c = matmul（a，reshape（b，shape = […]，order = […]））
使用标准Fortran中的NVIDIA Tensor Core
当使用cutensorex模块中包含的用于随机数生成的功能时，利用cuTENSOR和NVIDIA Tensor Core就像下面的代码示例一样容易：
程序主体
使用cutensorex
整数，参数:: ni = 5120，nj = 5120，nk = 5120，ntimes = 10
实数（8），可分配，尺寸（：，

将Tensor核心引入标准Fortran相关推荐

A100 Tensor核心可加速HPC
A100 Tensor核心可加速HPC HPC应用程序的性能需求正在迅速增长.众多科学研究领域的许多应用程序都依赖于双精度(FP64)计算. 为了满足HPC计算快速增长的计算需求,A100 GPU支持 ...
enum 有什么好处_高新技术企业认定四个核心评分标准是什么？软著能加分吗？...
怎么快速申请软著下证?软件著作权申请需要多长时间?软件著作权对企业有什么作用?软著去哪里申请登记?提交材料后多久可以下证?大学生个人申请软著难吗?考研软著能加学分吗?软著的有效期是多长时间?评职称软著 ...
CSS核心内容-标准流、盒子模型、浮动、定位
CSS核心内容-标准流.盒子模型.浮动.定位,了解了核心内容才能用CSS设计出一个简单的页面一.基础在了解核心内容之前需要先了解HTML中的两种标签:块级元素,行内元素: 块级元素:一个块级元素占 ...
计算机美术基础课程标准,服装设计与工艺专业核心课程标准.doc
服装设计与工艺专业核心课程标准服装设计与工艺专业核心课程标准服装设计专业核心课程标准 [课程名称] 服装设计 [适用专业] 服装设计与工艺教育(职业中专) 前言课程性质关键词:设计(desig ...
高性能ARM SOC 核心板标准（SMARC2.1)简介
高性能Arm 处理器系统普遍采纳了核心板模式,将处理器和存储器等核心部件部署在一块小尺寸的PCB 上,通过金手指或者高密度接插件将IO信号引出.也有采用了邮票方式.这种结构大大简化了高性能计算设备的设 ...
金蝶记账王、迷你版、标准版引入凭证方法
金蝶记账王.迷你版.标准版等版本,由于是基础版本,不支持从excel直接导入凭证: 必须要生成dbf文件,才能从Excel引入凭证,导入凭证: 当然,如果你熟悉数据库,也可以打开数据库,然后从Exce ...
用NVIDIA Tensor Cores和TensorFlow 2加速医学图像分割
用NVIDIA Tensor Cores和TensorFlow 2加速医学图像分割 Accelerating Medical Image Segmentation with NVIDIA Tensor ...
c++ standard library_什么是C/C++的标准库？
简要介绍编写C/C ++应用程序的领域,标准库的作用以及它是如何在各种操作系统中实现的. 做为一个从事C/C++多年的程序员,从一开始就让我感到疑惑的是其内部结构:我所使用的内核函数和类从何而来? 谁 ...
什么是 C 和 C ++ 标准库？
我已经接触C++一段时间了,一开始就让我感到疑惑的是其内部结构:我所使用的内核函数和类从何而来? 谁发明了它们? 他们是打包在我系统中的某个地方吗? 是否存在一份官方的C ++手册?今天简要介绍编写C ...

将Tensor核心引入标准Fortran

将Tensor核心引入标准Fortran相关推荐

最新文章

热门文章