python一直被病垢运行速度太慢,但是实际上python的执行效率并不慢,慢的是python用的解释器Cpython运行效率太差。

“一行代码让python的运行速度提高100倍”这绝不是哗众取宠的论调。

我们来看一下这个最简单的例子,从1一直累加到1亿。

原始代码:

import time

def foo(x,y):

tt = time.time()

s = 0

for i in range(x,y):

s += i

print('Time used: {} sec'.format(time.time()-tt))

return s

print(foo(1,100000000))

结果:

Time used: 6.779874801635742 sec

4999999950000000

from numba import jit

import time

@jit

def foo(x,y):

tt = time.time()

s = 0

for i in range(x,y):

s += i

print('Time used: {} sec'.format(time.time()-tt))

return s

print(foo(1,100000000))

结果: Time used: 0.04680037498474121 sec 4999999950000000

是不是快了100多倍呢?

那么下面就分享一下“为啥numba库的jit模块那么牛掰?”

NumPy的创始人Travis Oliphant在离开Enthought之后,创建了CONTINUUM,致力于将Python大数据处理方面的应用。最近推出的Numba项目能够将处理NumPy数组的Python函数JIT编译为机器码执行,从而上百倍的提高程序的运算速度。

Numba项目的主页上有Linux下的详细安装步骤。编译LLVM需要花一些时间。 Windows用户可以从Unofficial Windows Binaries for Python Extension Packages下载安装LLVMPy、meta和numba等几个扩展库。

下面我们看一个例子:

import numba as nb

from numba import jit

@jit('f8(f8[:])')

def sum1d(array):

s = 0.0

n = array.shape[0]

for i in range(n):

s += array[i]

return s

import numpy as np

array = np.random.random(10000)

%timeit sum1d(array)

%timeit np.sum(array)

%timeit sum(array)

10000 loops, best of 3: 38.9 us per loop

10000 loops, best of 3: 32.3 us per loop

100 loops, best of 3: 12.4 ms per loop

numba中提供了一些修饰器,它们可以将其修饰的函数JIT编译成机器码函数,并返回一个可在Python中调用机器码的包装对象。为了能将Python函数编译成能高速执行的机器码,我们需要告诉JIT编译器函数的各个参数和返回值的类型。

我们可以通过多种方式指定类型信息,在上面的例子中,类型信息由一个字符串’f8(f8[:])’指定。其中’f8’表示8个字节双精度浮点数,括号前面的’f8’表示返回值类型,括号里的表示参数类型,’[:]’表示一维数组。

因此整个类型字符串表示sum1d()是一个参数为双精度浮点数的一维数组,返回值是一个双精度浮点数。

需要注意的是,JIT所产生的函数只能对指定的类型的参数进行运算:

print sum1d(np.ones(10, dtype=np.int32))

print sum1d(np.ones(10, dtype=np.float32))

print sum1d(np.ones(10, dtype=np.float64))

1.2095376009e-312

1.46201599944e+185

10.0

如果希望JIT能针对所有类型的参数进行运算,可以使用autojit:

from numba import autojit

@autojit

def sum1d2(array):

s = 0.0

n = array.shape[0]

for i in range(n):

s += array[i]

return s

%timeit sum1d2(array)

print sum1d2(np.ones(10, dtype=np.int32))

print sum1d2(np.ones(10, dtype=np.float32))

print sum1d2(np.ones(10, dtype=np.float64))

10000 loops, best of 3: 143 us per loop

10.0

10.0

10.0

autoit虽然可以根据参数类型动态地产生机器码函数,但是由于它需要每次检查参数类型,因此计算速度也有所降低。numba的用法很简单,基本上就是用jit和autojit这两个修饰器,和一些类型对象。下面的程序列出numba所支持的所有类型:

print [obj for obj in nb.__dict__.values() if isinstance(obj, nb.minivect.minitypes.Type)]

[size_t, Py_uintptr_t, uint16, complex128, float, complex256, void, int , long double,

unsigned PY_LONG_LONG, uint32, complex256, complex64, object_, npy_intp, const char *,

double, unsigned short, float, object_, float, uint64, uint32, uint8, complex128, uint16,

int, int , uint8, complex64, int8, uint64, double, long double, int32, double, long double,

char, long, unsigned char, PY_LONG_LONG, int64, int16, unsigned long, int8, int16, int32,

unsigned int, short, int64, Py_ssize_t]

工作原理

numba的通过meta模块解析Python函数的ast语法树,对各个变量添加相应的类型信息。然后调用llvmpy生成机器码,最后再生成机器码的Python调用接口。

meta模块

通过研究numba的工作原理,我们可以找到许多有用的工具。例如meta模块可在程序源码、ast语法树以及Python二进制码之间进行相互转换。下面看一个例子:

def add2(a, b):

return a + b

decompile_func能将函数的代码对象反编译成ast语法树,而str_ast能直观地显示ast语法树,使用这两个工具学习Python的ast语法树是很有帮助的。

from meta.decompiler import decompile_func

from meta.asttools import str_ast

print str_ast(decompile_func(add2))

FunctionDef(args=arguments(args=[Name(ctx=Param(),

id='a'),

Name(ctx=Param(),

id='b')],

defaults=[],

kwarg=None,

vararg=None),

body=[Return(value=BinOp(left=Name(ctx=Load(),

id='a'),

op=Add(),

right=Name(ctx=Load(),

id='b')))],

decorator_list=[],

name='add2')

而python_source可以将ast语法树转换为Python源代码:

from meta.asttools import python_source

python_source(decompile_func(add2))

def add2(a, b):

return (a + b)

decompile_pyc将上述二者结合起来,它能将Python编译之后的pyc或者pyo文件反编译成源代码。下面我们先写一个tmp.py文件,然后通过py_compile将其编译成tmp.pyc。

with open("tmp.py", "w") as f:

f.write("""

def square_sum(n):

s = 0

for i in range(n):

s += i**2

return s

""")

import py_compile

py_compile.compile("tmp.py")

下面调用decompile_pyc将tmp.pyc显示为源代码:

with open("tmp.pyc", "rb") as f:

decompile_pyc(f)

def square_sum(n):

s = 0

for i in range(n):

s += (i ** 2)

return s

llvmpy模块

LLVM是一个动态编译器,llvmpy则可以通过Python调用LLVM动态地创建机器码。直接通过llvmpy创建机器码是比较繁琐的,例如下面的程序创建一个计算两个整数之和的函数,并调用它计算结果。

from llvm.core import Module, Type, Builder

from llvm.ee import ExecutionEngine, GenericValue

# Create a new module with a function implementing this:

#

# int add(int a, int b) {

# return a + b;

# }

#

my_module = Module.new('my_module')

ty_int = Type.int()

ty_func = Type.function(ty_int, [ty_int, ty_int])

f_add = my_module.add_function(ty_func, "add")

f_add.args[0].name = "a"

f_add.args[1].name = "b"

bb = f_add.append_basic_block("entry")

# IRBuilder for our basic block

builder = Builder.new(bb)

tmp = builder.add(f_add.args[0], f_add.args[1], "tmp")

builder.ret(tmp)

# Create an execution engine object. This will create a JIT compiler

# on platforms that support it, or an interpreter otherwise

ee = ExecutionEngine.new(my_module)

# Each argument needs to be passed as a GenericValue object, which is a kind

# of variant

arg1 = GenericValue.int(ty_int, 100)

arg2 = GenericValue.int(ty_int, 42)

# Now let's compile and run!

retval = ee.run_function(f_add, [arg1, arg2])

# The return value is also GenericValue. Let's print it.

print "returned", retval.as_int()

returned 142

f_add就是一个动态生成的机器码函数,我们可以把它想象成C语言编译之后的函数。在上面的程序中,我们通过ee.run_function调用此函数,而实际上我们还可以获得它的地址,然后通过Python的ctypes模块调用它。

首先通过ee.get_pointer_to_function获得f_add函数的地址:

addr = ee.get_pointer_to_function(f_add)

addr

2975997968L

然后通过ctypes.PYFUNCTYPE创建一个函数类型:

import ctypes

f_type = ctypes.PYFUNCTYPE(ctypes.c_int, ctypes.c_int, ctypes.c_int)

最后通过f_type将函数的地址转换为可调用的Python函数,并调用它:

f = f_type(addr)

f(100, 42)

142

#在学习Python的过程中,往往因为没有资料或者没人指导从而导致自己不想学下去了,因此我特意准备了个群 592539176 ,群里有大量的PDF书籍、教程都给大家免费使用!不管是学习到哪个阶段的小伙伴都可以获取到自己相对应的资料!

numba所完成的工作就是:

解析Python函数的ast语法树并加以改造,添加类型信息;

将带类型信息的ast语法树通过llvmpy动态地转换为机器码函数,然后再通过和ctypes类似的技术为机器码函数创建包装函数供Python调用。

原作者:jerryxjr1220

如有侵权,请联系小编删除!

python速度_只需一行代码,让你的Python运算速度更加流畅!相关推荐

  1. Python神器!只需一行代码,纯文本秒变Markdown!

    机器之心报道 只要你有纯文本编辑器,加上一条语句,瞬间它就可以成为 Markdown 编辑器. Markdeep 是一个用来写纯文本的插件,它能以 Markdown 的语法与渲染方式纯文本,并在网页上 ...

  2. python实现英文新闻摘要自动提取_利用Python实现摘要自动提取,完美瘦身只需一行代码...

    原标题:利用Python实现摘要自动提取,完美瘦身只需一行代码 今天给大家推荐一个也可以用于关键字提取的算法TextRank,但主要实现的功能是快速从长篇新闻中抽取精准摘要. 前言介绍 TextRan ...

  3. 懒人必备!只需一行代码,就能导入所有的Python库

    今天给大家介绍一个懒人Python库--Pyforest. 使用一行代码,就能导入所有的Python库(本地已经安装的). GitHub地址:https://github.com/8080labs/p ...

  4. 只需一行代码,就能导入所有的Python库?

    作者 | 小F       责编 | 欧阳姝黎 大家好,我是小F- 今天给大家介绍一个懒人 Python 库-- Pyforest. 使用一行代码,就能导入所有的 Python 库(本地已经安装的). ...

  5. 【CVPR2020 Oral】只需一行代码就可提升迁移性能

    关注上方"深度学习技术前沿",选择"星标公众号", 精选文章,第一时间送达! 作者:Hassassin 知乎链接:https://zhuanlan.zhihu. ...

  6. 实现一个在JNI中调用Java对象的工具类,从此只需一行代码

    前言 我们知道在jni中执行一个java函数需要调用几行代码才行,如 jclass objClass = (*env).GetObjectClass(obj); jmethodID methodID ...

  7. 【Python】Modin,只需一行代码加速你的Pandas

    本文翻译自:Shrivarsheni的博客 Modin是一个Python第三方库,可以通过并行来处理大数据集.它的语法和pandas非常相似,因其出色的性能,能弥补Pandas在处理大数据上的缺陷. ...

  8. vscode代码提示只显示一行_模型秒变API只需一行代码,支持TensorFlow等框架

    选自GitHub 机器之心编译参与:一鸣.杜伟 还在为机器学习模型打包成 API 发愁?这个工具能让你一行代码直接打包. 专注于机器学习应用的人们知道,从训练好的模型到实际的工业生产工具还有一定的距离 ...

  9. [JavaScript]只需一行代码,轻松搞定快捷留言-V2升级版

    前天熬了大半宿发了一篇[一行代码轻松搞定快捷留言功能],同时发布了V1.0beta版的快捷留言功能和源代码,之所以是beta版,就是当时感觉虽然基本功能有了,但是还不够完善,特性也不一定合理,今天不知 ...

最新文章

  1. 让dwz 的表格或者表单显示竖滚动条的代码
  2. bgl 词典_深大版成语词典发布!不学不是深大人!深大快讯
  3. 文件服务器+好处,文件服务器 好处
  4. TeamCity : 自动触发 Build
  5. oracle 10g RAC app VIP ,ONS,GSD,ASM,OCR,VOTE名称及代表的涵义。
  6. VMware ubuntu16安装
  7. python怎么使用-如何使用 Python 开始建立
  8. SharePoint 2013连接非默认端口的SQL Server
  9. C#格式化小数位的方法
  10. .NET进销存系统开发笔记------之Gridview应用
  11. JavaEE基础(六)
  12. 制作整人计算机病毒,自己制作简单病毒---三行命令的整人BAT,弹出很多窗口,一直弹到内存耗...
  13. OpenCV/kornia/Pillow/Halcon/NI Vision/MIL/*计算机视觉资料汇总
  14. 超详细的 DNS 协议解析
  15. JS JavaScript
  16. 微信接收QQ邮箱提醒
  17. 桌面搜索项目正式启动
  18. 计算机组装员工资,电脑组装员实习体会感想
  19. 完全卸载Myeclipse
  20. 效用最大化准则:离散选择模型的核心(Probit模型上篇)——离散选择模型之七

热门文章

  1. Java高级-09【Map】
  2. Glide 缓存策略 内存缓存和磁盘缓存
  3. 如何做好Team leader
  4. Java中的四种访问修饰符:public、default、protect和private
  5. 初次接触CentOS
  6. 新一代大数据任务调度系统 - Apache DolphinScheduler 1.3.4 发布,推荐下载
  7. android实习日志_2016年3月11日Android实习日记
  8. zlkw什么意思_口碑评价格林姆斯gwl-zl6与w11区别哪款更好?图文爆料分析
  9. winform控件缩写(七)印刷
  10. 读《曾国藩传》的感想一二三