Python 中的可执行对象 eval,exec 和 compile 与其在深度学习训练中的应用实例

eval

计算指定表达式的值。也就是说它要执行的python代码只能是单个表达式(注意eval不支持任何形式的赋值操作),而不能是复杂的代码逻辑。

eval(source, globals=None, locals=None, /)

obj可以是字符串对象或者已经由compile编译过的代码对象。globals和locals是可选的,分别代表了全局和局部名称空间中的对象,其中globals必须是字典,而locals是任意的映射对象。

参数说明:

source:必选参数,可以是字符串,也可以是一个任意的code(代码)对象实例(可以通过complie函数创建)。如果它是一个字符串,它会被当作一个(使用globals和locals参数作为全局和本地命名空间的)python表达式进行分析和解释。

globals:可选参数,表示全局命名空间(存放全局变量),如果被提供,则必须是一个字典对象。

locals:可选参数,表示全局命名空间(存放局部变量),如果被提供,可以是任何映射对象。如果参数被忽略,那么它将会取与globals相同的值。

如果globals与locals都被忽略,那么它们将取eval()函数被调用环境下的全局命名空间和局部命名空间。

返回值:

如果source是一个code对象,且创建该code对象时,complie函数的mode参数是‘exec’,那么eval()函数的返回值是None;

否则,如果source是一个输出语句,如print(),则eval()返回结果为None;

否则,source表达式的结果就是eval()函数的返回值

例:

x = 10
def func():y = 20   #局部变量ya = eval("x+y")print("a:",a)      #x没有就调用全局变量b = eval("x+y",{"x":1,"y":2})     #定义局部变量,优先调用print("b:",b)c = eval("x+y",{"x":1,"y":2},{"y":3,"z":4})  print("c:",c)  d = eval("print(x,y)")print("d:",d)   #对于变量d,因为print()函数不是一个计算表达式,因此没有返回值
func()

输出:

a: 30
b: 3
c: 4
10 20
d: None

注意eval不能用于变量的赋值,例如:

eval('x = 3')
print(x)

输出:

Traceback (most recent call last):File "111111.py", line 1, in <module>eval('x = 3')File "<string>", line 1x = 3^
SyntaxError: invalid syntax

exec

动态执行python代码。也就是说exec可以执行复杂的python代码,而不像eval函数那样只能计算一个表达式的值。

exec(source, globals=None, locals=None, /)

source:必选参数,表示需要被指定的python代码。它必须是字符串或code对象。如果source是一个字符串,该字符串会先被解析为一组python语句,然后执行。如果source是一个code对象,那么它只是被简单的执行。

返回值:

exec函数的返回值永远为None。

eval()函数和exec()函数的区别:

eval()函数只能计算单个表达式的值,而exec()函数可以动态运行代码段。

eval()函数可以有返回值,而exec()函数返回值永远为None。

例:

我们把eval中的例子拿过来执行

x = 10
def func():y = 20a = exec("x+y")print("a:",a)b = exec("x+y",{"x":1,"y":2})print("b:",b)c = exec("x+y",{"x":1,"y":2},{"y":3,"z":4})print("c:",c)d = exec("print(x,y)")print("d:",d)
func()

输出:

#exec不会有任何返回值
a: None
b: None
c: None
10 20
d: None

例:

x = 10
expr = """
z = 30
sum = x + y + z   #一大包代码
print(sum)
"""
def func():y = 20exec(expr)   10+20+30exec(expr,{'x':1,'y':2}) 30+1+2exec(expr,{'x':1,'y':2},{'y':3,'z':4}) #30+1+3,x是定义全局变量1,y是局部变量func()

输出:

60
33
34

并且exec可用于赋值,例如:

exec('x = 3')
print(x)

输出:

3

complie

compile(source, filename, mode, flags=0, dont_inherit=False, optimize=-1)

参数说明

source:字符串或AST对象,表示需要进行编译的python代码

filename:指定需要编译的代码文件,如果不是文件读取代码则传递一些可辨认的值。

mode:用于标识必须当做那类代表来编译;如果source是由一个代码语句序列组成,则指定mode=‘exec’,如果source由单个表达式组成,则指定mode=‘eval’;如果source是由一个单独的交互式语句组成,则指定modo=‘single’。必须要指定,不然肯定会报错。

例:

s = """              #一大段代码
for x in range(10):print(x, end='')
print()
"""
code_exec = compile(s, '<string>', 'exec')   #必须要指定mode,指定错了和不指定就会报错。
code_eval = compile('10 + 20', '<string>', 'eval')   #单个表达式
code_single = compile('name = input("Input Your Name: ")', '<string>', 'single')   #交互式a = exec(code_exec)   #使用的exec,因此没有返回值
b = eval(code_eval)  c = exec(code_single)  #交互
d = eval(code_single)print('a: ', a)
print('b: ', b)
print('c: ', c)
print('name: ', name)
print('d: ', d)
print('name; ', name)

输出:

0123456789  #有print就会打印
Input Your Name: kebi
Input Your Name: kebi
a:  None
b:  30
c:  None
name:  kebi
d:  None
name;  kebi

在深度学习训练中的应用实例

首先介绍一个比较常用的记录指标和损失的util。

class AverageMeter(object):'''Computes and stores the average and current value'''def __init__(self):self.reset()def reset(self):self.val = 0self.avg = 0self.sum = 0self.count = 0def update(self, val, n=1):self.val = valself.sum += val * nself.count += nself.avg = self.sum / self.count

使用这个AverageMeter类,在每个step内update以下要记录的指标或者损失值,在每个epoch最后输出其avg到tensorboard即可。

配合上面介绍的可执行对象。


def epoch_forward(metrics_list):for metric in metrics_list:exec("{} = AverageMeter()".format(metric))    # 实例化一个对象,注意这里相当于是在赋值,要用exec,不能用evalfor data in loader:'''training loop'''for metric in metrics_list:                    # 每个step更新记录eval("{}.update(_{})".format(metric, metric))         # 这里在训练时统一用下划线加指标名命名每个step的值 如:_loss# 简单表达式 eval,exec都可       metrics_res_list = []                      # 每个epoch结束,返回记录的指标值for metric in metrics_list:metrics_res_list.append(eval("{}.avg".format(metric)))return metrics_res_list           # 返回记录的指标值def store_curve(writer, metrics_list, metrics_res_list, epoch):for i in range(len(metrics_list)):exec("writer.add_scalar('{}', {}, {})".format(metrics_list[i], metrics_res_list[i], epoch))      # 将记录的指标值输出到tensorboardif __name__ == "__main__":'''preparision for training (model, dataset, ...)'''writer = SummaryWriter("runs")for epoch in epochs:metrics_list = ['acc', 'loss'] # 给定要记录的指标或损失列表metrics_res_list = epoch_forward(metrics_list)store_curve(writer, metrics_list, metrics_res_list, epoch)

主要想法就是在之前保存指标时要写一大列相似的东西,觉得很繁琐,就想找到一个比较优雅的解决办法,以上这个自己设计的用可执行对象做的方法是比较不错的,每次要记录的指标有变动时只需在training loop里面计算好,然后改一下metrics_list即可。

注意在赋值时只能用exec。

留存问题

exec为什么不能在函数中用,只能在全局用。

前半部分介绍可执行对象参考博客:https://www.cnblogs.com/yangmingxianshen/p/7810496.html

Python 中的可执行对象 eval,exec 和 compile与其在深度学习训练中的应用实例相关推荐

  1. 深度学习训练中关于数据处理方式--原始样本采集以及数据增广

    版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/SMF0504/article/details/78695908 好久没有写博客,一直想重新调整自己的 ...

  2. 深度学习训练中为什么要将图片随机剪裁(Random Crop)

    ​概述 这篇文章是用Markdown重写的以前发布的文章.图像分类中,深度学习训练时将图片随机剪裁(random crop)已经成为很普遍的数据扩充(data augmentation)方法,随机剪裁 ...

  3. 深度学习训练中如何处理NaNs

    NaNs问题(Dealing with NaNs) 相信很多自己实现过深度学习模型或者训练过深度学习模型的人都会知道,产生NaNs或者Infs是一件特别常见的事情.但是NaNs的问题又往往很棘手,因为 ...

  4. 深度学习训练中噪声减小吗_【机器学习 155】DoubleEnsemble

    更新:根据大家评论区和私信的反馈,我们把文章重新更新了一版在 arxiv 上.这次更新主要修改了方法部分的叙述和其他一些typos.欢迎大家围观- 相信关注我专栏的也有很多对于金融感兴趣的同学,这里给 ...

  5. 深度学习训练中GPU占用0%

    在模型训练过程中,许多小伙伴会打开win10的任务管理器查看GPU的占用率,却发现一直是0%,下面来解决这个问题. 首先,将硬件加速GPU计划关闭. 重启之后,在任务管理器的GPU中,将3D切换为Cu ...

  6. <美团>深度学习训练中梯度消失的原因有哪些?有哪些解决方法?

    梯度消失产生的主要原因有:一是使用了深层网络,二是采用了不合适的损失函数. (1)目前优化神经网络的方法都是基于BP,即根据损失函数计算的误差通过梯度反向传播的方式,指导深度网络权值的更新优化.其中将 ...

  7. (三)大话深度学习编译器中的自动调优·Empirical Search

    前面的第一篇"(一)大话深度学习编译器中的自动调优·前言"与第二篇"(二)大话深度学习编译器中的自动调优·DSL与IR"分别介绍了背景与一些相关概念,这第三篇我 ...

  8. python神经网络训练_Python深度学习训练神经网络

    我们现在将学习如何训练神经网络.我们还将学习反向传播算法和Python深度学习中的反向传递. 我们必须找到神经网络权重的最佳值以获得所需的输出.为了训练神经网络,我们使用迭代梯度下降法.我们最初从权重 ...

  9. CMU | 深度学习模型中集成优化、约束和控制

    点上方蓝字计算机视觉联盟获取更多干货 在右上方 ··· 设为星标 ★,与你不见不散 仅作分享,不代表本公众号立场,侵权联系删除 转载于:专知 AI博士笔记系列推荐 周志华<机器学习>手推笔 ...

最新文章

  1. 配置多路由的静态路由
  2. 中部四省会打造人才信息云平台
  3. Windows平台九点提升权限终极技巧
  4. php spss,spss数据分析的一般步骤
  5. 100层楼2个鸡蛋,如何得知鸡蛋能承受几层的撞击
  6. shapefile中环状多边形处理问题
  7. 用另一种方式来讲解代理模式~
  8. 【html】表单元素练习
  9. 【转】winrar命令行详解
  10. 计算机课后感400字,观后感400字
  11. 10-新闻发布系统数据库-新闻管理数据操作
  12. java设置列宽_java用POI设置Excel的列宽
  13. 免费的人脸识别SDK(基于 Java 实现的人脸识别功能)
  14. 腾达u2无线网卡驱动Linux,腾达U2无线网卡驱动
  15. 右手坐标系下球面参数方程的推导
  16. 推荐系统组队学习之协同过滤
  17. 你应该知道的6个GameFi机制
  18. 新浪天气预报代码及城市代码
  19. Android番外篇 “adb”不是内部或外部命令,也不是可运行的程序或批处理文件
  20. 电脑辐射,电脑辐射危害大 五妙招正确防辐射

热门文章

  1. NullPointerException at org.mapstruct.ap.internal.processor.DefaultVersionInformation.createManifest
  2. IDEA创建工程时 报错 Initialization failed for 'https://start.spring.io'
  3. jenkins 远程启动tomcat报错:Neither the JAVA_HOME nor the JRE_HOME environment variable is defined
  4. rsync 一条命令实现远程文件传输
  5. html-初识表单post和get提交
  6. 获取redis中以某些字符串为前缀的KEY列表
  7. c 最大子序列和_最大连续子序列
  8. go 根据输入类型执行对应的方法_安全很重要:Go项目的安全评估技术
  9. pcb设计等长线误差_17种元器件PCB封装图鉴,美翻了(附PCB元件库)
  10. 发动机压缩比怎么计算公式_怎么判断发动机有积碳,发动机积碳多的症状有哪些...