编译的目的是将源码转化为机器可识别的可执行程序,在早期,每次编译都需要重新构建所有东西,后来人们意识到可以让编译器自动完成一些工作,从而提升编译效率。

但“编译器不过是用于代码生成的软机器,你可以使用你想要的任何语言来生成代码”,真的是必要的吗?

诚然,编译器可以为你生成高性能的代码,但是你真的需要编译器吗?另一种方法是用 Assembly 编写程序,虽然有点夸大,但这种方法有两个主要缺陷:

1. 汇编代码不可移植;

2. 虽然在现代工具的辅助下变得容易了些,但 Assembly 编程仍然需要大量繁琐的工作。

值得庆幸的是,我们都生活在二十一世纪,这两个问题都已得到解决。第一个解决方案是 LLVM,最初,它意味着“低级虚拟机”,这正是我们可以确保可移植性的原因。简而言之,它需要用一些非常低级别的与硬件无关语言编写的代码,并为特定的硬件平台返回一些高度优化的原生代码。使用 LLVM,我们既具有低级编程的强大功能,又具有面向硬件微优化的自动化功能。

第二个问题的解决方法是使用“脚本”语言,Scheme、Python、Perl,甚至 bash 或 AWK 都可以消除繁琐的工作。

实验计划

首先,让我们生成一个完全内联展开的解决方案,并将其嵌入到基准测试代码中。该计划如下:

1. 使用 Clang 为基准生成 LLVM 中间代码,该基准用于测量 solve_5,一个不存在的函数;

2. 使 Python 在 LLVM 中生成线性求解器(linear solver)代码;

3. 使用 Python 脚本测试基准,用生成求解器替换 solve_5 调用;

4. 使用 LLVM 静态编译器将中间代码转换为机器代码;

5. 使用 GNU 汇编器和 Clang 的链接器将机器代码转换为可执行的二进制文件。

这就是它在 Makefile 中的样子:

Python 部分

我们需要 Python 中的线性求解器(linear solver),就像我们使用 C 和 C ++ 一样,此处代码为:

# this generates n-solver in LLVM code with LLVMCode objects.
# No LLVM stuff yet, just completely Pythonic solution
def solve_linear_system(a_array, b_array, x_array, n_value):def a(i, j, n):if n == n_value:return a_array[i * n_value + j]return a(i, j, n+1)*a(n, n, n+1) - a(i, n, n+1)*a(n, j, n+1)def b(i, n):if n == n_value:return b_array[i]return a(n, n, n+1)*b(i, n+1) - a(i, n, n+1)*b(n, n+1)def x(i):d = b(i,i+1)for j in range(i):d -= a(i, j, i+1) * x_array[j]return d / a(i, i, i+1)for k in range(n_value):x_array[k] = x(k)return x_array

当我们用数字运行时,我们可以得到数字。但我们想要代码,因此,我们需要制作一个假装成数字的对象(Object)来探测算法。该对象记录下算法想要执行的每一个操作,并准备好集成 LLVM 中间语言。

# this is basically the whole LLVM layer
I = 0
STACK = []class LLVMCode:# the only constructor for now is by double* instructiondef __init__(self, io, code = ''):self.io = ioself.code = codedef __getitem__(self, i):global I, STACKcopy_code = "%" + str(I+1)copy_code += " = getelementptr inbounds double, double* "copy_code += self.io +", i64 " + str(i) + "\n"copy_code += "%" + str(I+2)copy_code += " = load double, double* %" + str(I+1)copy_code += ", align 8\n"I += 2STACK += [I]return LLVMCode(self.io, copy_code)def __setitem__(self, i, other_llvcode):global I, STACKself.code += other_llvcode.codeself.code += "%" + str(I+1)self.code += " = getelementptr inbounds double, double* "self.code += self.io +", i64 " + str(i) + "\n"self.code += "store double %" + str(I)self.code += ", double* %" + str(I+1) + ", align 8\n"I += 1STACK = STACK[:-1]return selfdef general_arithmetics(self, operator, other_llvcode):global I, STACKself.code += other_llvcode.code;self.code += "%" + str(I+1) + " = f" + operatorself.code += " double %" + str(STACK[-2]) + ", %"self.code += str(STACK[-1]) + "\n";I += 1STACK = STACK[:-2] + [I]return selfdef __add__(self, other_llvcode):return self.general_arithmetics('add', other_llvcode)def __sub__(self, other_llvcode):return self.general_arithmetics('sub', other_llvcode)def __mul__(self, other_llvcode):return self.general_arithmetics('mul', other_llvcode)def __div__(self, other_llvcode):return self.general_arithmetics('div', other_llvcode)

接着,当我们使用这种对象运行求解器时,我们得到了一个用 LLVM 中间语言编写的全功能线性求解器。然后我们将其放入基准代码中进行速度测试(看它有多快)。

LLVM 中的指令有编号,我们希望保存枚举,因此将代码插入到基准测试中的函数很重要,但也不是很复杂。

# this replaces the function call
# and updates all the instructions' indices
def replace_call(text, line, params):global I, STACK# '%12 ' -> 12I = int(''.join([xi for xi in params[2] if xi.isdigit()]))first_instruction_to_replace = I + 1STACK = []replacement = solve_linear_system(LLVMCode(params[0]),LLVMCode(params[1]),LLVMCode(params[2]), 5).codedelta_instruction = I - first_instruction_to_replace + 1for i in xrange(first_instruction_to_replace, sys.maxint):not_found = sum([text.find('%' + str(i) + c) == -1for c in POSSIBLE_CHARS_NUMBER_FOLLOWS_WITH])if not_found == 4:# the last instruction has already been substitutedbreaknew_i = i + delta_instructionfor c in POSSIBLE_CHARS_NUMBER_FOLLOWS_WITH:# substitute instruction numbertext = text.replace('%' + str(i) + c, '%' + str(new_i) + c)
return text.replace(line, replacement)

实现解算器的整段代码提供了 Python-to-LLVM 层,其中代码插入只有 100 行!

基准

基准测试本身在 C 中。当我们运行 Makefile 时,它对 solve_5 的调用被 Python 生成的 LLVM 代码所取代。

Step 1. Benchmark C source code

Step 2. LLVM 汇编语言

Step 3. 调用替换后的 LLVM

Step 4. 本地优化装配

最值得注意的是 Python 脚本生成的超冗长中间代码如何变成一些非常紧凑且非常有效的硬件代码。同时它也是高度标量化的,但它是否足以与 C 和 C++ 的解决方案竞争呢?

以下是三种情况的近似数字(带有技巧的 C、C++ 与基于 LLVM 的 Python 的性能对比):

1. C 的技巧对 Clang 来说并不适用,因此测量 GCC 版本,其平均运行大约 70 毫秒;

2. C++ 版本是用 Clang 构建的,运行时间为 60 毫秒;

3. Python 版本(此处描述的版本)仅运行 55 毫秒。

当然,这种加速并不是关键,但这表明你可以用 Python 编写出胜过用 C 或 C++ 编写的程序。这也就暗示你不必学习一些特殊语言来创建高性能的应用程序或库。

结论

快速编译语言和慢速脚本语言之间的对立不过是虚张声势。原生代码生成的可能不是核心功能,而是类似于可插拔选项。像是 Python 编译器 Numba 或 Lua 的 Terra,其优势就在于你可以用一种语言进行研究和快速原型设计,然后使用相同的语言生成高性能的代码。

高性能计算没有理由保留编译语言的特权,编译器只是用于代码生成的软机器。你可以使用你想要的任何语言生成代码,我相信如果你愿意,你可以教 Matlab 生成超快的 LLVM 代码。

都有Python了,还要什么编译器相关推荐

  1. 为什么黑客都用python-为什么黑客都用Python

    广告关闭 2017年12月,云+社区对外发布,从最开始的技术博客到现在拥有多个社区产品.未来,我们一起乘风破浪,创造无限可能. python 在数据分析.数据挖掘.人工智能.web开发等方面都大有发挥 ...

  2. 为什么铺天盖地都是Python的广告?

    最近,知乎关于Python有一个热议问题: 甚至在抖音上,笔者有一次还看到Python占领了热搜!应该有很多不懂技术的吃瓜群众也被Python的热度炒懵了-- 但是,Python真的值得学吗?真的值得 ...

  3. 黑客都用Python?学习Python的4个理由!

    2019独角兽企业重金招聘Python工程师标准>>> Python 是一个高层次的结合了解释性.编译性.互动性和面向对象的脚本语言. 重点是,Python 是一种对初学者非常友好的 ...

  4. 为什么黑客用python-为什么黑客都用Python

    python支持功能强大的黑客攻击模块,而且Python提供多种库,用于支持黑客攻击,Python提供了ctypes库, 借助它, 黑客可以访问Windows.OS X.Linux等系统提供 DLL与 ...

  5. python好学-所有人都说Python 简单易学,为何你觉得难?

    记得刚学Python的时候,几乎所有人都说Python 简单易学,而对于编程零基础,只掌握Word和Excel的人来说,感觉真的好难. 学习之前网上的教材看了,Python的书也看了,包括<核心 ...

  6. 小学生学python-小学生都学Python了,你还不知道如何开始

    最近Python在我身边又火了一把,办公室5个人就有4个人买课件进行学习. 早先常常看到新闻,国外4-5岁的小孩开发APP,给MM开发游戏之类的.可以看到,国外对小孩编程的教育还是比较早的,通常也会使 ...

  7. python易学吗_所有人都说Python 简单易学,为何我觉得难?

    记得刚学Python的时候,几乎所有人都说Python 入门简单易学,而对于编程零基础,只掌握Word和Excel的人来说,感觉真的好难. 有许多自学的同学,学习之前网上的教材看了,Python的书也 ...

  8. 《看聊天记录都学不会Python到游戏实战?太菜了吧》(8)我们开始做一个数字小游戏吧

    本系列文章将会以通俗易懂的对话方式进行教学,对话中将涵盖了新手在学习中的一般问题.此系列将会持续更新,包括别的语言以及实战都将使用对话的方式进行教学,基础编程语言教学适用于零基础小白,之后实战课程也将 ...

  9. 《看聊天记录都学不会Python到游戏实战?太菜了吧》(10)无底洞的循环

    本系列文章将会以通俗易懂的对话方式进行教学,对话中将涵盖了新手在学习中的一般问题.此系列将会持续更新,包括别的语言以及实战都将使用对话的方式进行教学,基础编程语言教学适用于零基础小白,之后实战课程也将 ...

  10. 《看聊天记录都学不会Python到游戏实战?太菜了吧》(7)我用函数写了个特洛伊木马

    本系列文章将会以通俗易懂的对话方式进行教学,对话中将涵盖了新手在学习中的一般问题.此系列将会持续更新,包括别的语言以及实战都将使用对话的方式进行教学,基础编程语言教学适用于零基础小白,之后实战课程也将 ...

最新文章

  1. 一个Apache CollectionUtils.intersection 方法的简单问题
  2. 填充磁盘空间的工具和方法
  3. 100阶乘末尾有多少个零
  4. 多服务器 elk 搭建 [elasticsearch 7.0 ]
  5. python如何运行一个python程序_在python中,如何运行一个命令行程序,它在发送Ctrl+D之前不会返回...
  6. kafka幂等producer
  7. 消息称百度网盘青春版降速23倍:从52MB/s降至2.2MB/s
  8. 人到中年生活不易,特别是工作压力很大
  9. 求救数据库高手~~急急。。。
  10. Linux磁盘设备文件(sda,sdb,sdc…)变化问题
  11. mxm智能教育机器人无法智能对话_关于智能语音机器人使用中可能出现的问题
  12. Deep Homography Estimation - Pytorch实现
  13. JAVA计算机毕业设计校园闲置物品信息管理系统Mybatis+源码+数据库+lw文档+系统+调试部署
  14. P2P原理 和技术演变(概念性质)
  15. Unity面板显示中文属性
  16. OIM实现OIM用户修改、OIM用户Disable流程审批
  17. linux 6新扩分区识别,虚拟机中CentOS 6.5 添加扩展分区
  18. (图解 HTTP)一篇文章带你深入了解 HTTP 协议
  19. seq2seq + attention
  20. c语言练习打字程序,C语言代码输入练习

热门文章

  1. Transformer新玩法登Nature子刊
  2. 苹果让Transformer抛弃注意力机制,一切只为效率,项目已开源丨华人一作
  3. 阿尔伯塔大学博士毕业论文:基于图结构的自然语言处理
  4. 如何安装树莓派摄像头
  5. 正则表达式匹配单个字符(.、[]、\d、\D、\s、\S、\w、\W)
  6. 爬虫之使用verify参数忽略CA证书
  7. 通俗讲解操作系统的中断
  8. VUE的data数据对象
  9. 前一千页CVE 对应影响产品信息 JSON文件格式转成HTML
  10. 数字证书采用公钥体制进行加密和解密。每个用户有一个私钥,用它进行 (46)。。。