PyTorch 1.0 中文文档：torch.autograd

译者：gfjiangly

torch.autograd 提供类和函数，实现任意标量值函数的自动微分。它要求对已有代码的最小改变—你仅需要用requires_grad=True关键字为需要计算梯度的声明Tensor。

torch.autograd.backward(tensors, grad_tensors=None, retain_graph=None, create_graph=False, grad_variables=None)

计算被给张量关于图的叶节点的梯度和。

图使用链式法则微分。如何任何tensors是非标量（例如他们的数据不止一个元素）并且要求梯度，函数要额外指出grad_tensors。它应是一个匹配长度的序列，包含可微函数关于相应张量的梯度（None是一个对所有张量可接受的值，不需要梯度张量）。

此函数在叶节点累积梯度 - 你可能需要在调用前把它初始化为0.

参数：

tensors (Tensor序列) – 计算导数的张量。
grad_tensors (Tensor 或 None序列) – 关于相应张量每个元素的梯度。标量张量或不需要梯度的可用None指定。如果None对所有grad_tensors可接受，则此参数可选。
retain_graph (bool, 可选) – 如果False，用于计算梯度的图将被释放。请注意，在几乎所有情况下，不需要将此选项设置为真，而且通常可以更有效地解决问题。默认为create_graph值。
create_graph (bool, 可选) – 如果True，则构造导数图，以便计算更高阶导数，默认False。

torch.autograd.grad(outputs, inputs, grad_outputs=None, retain_graph=None, create_graph=False, only_inputs=True, allow_unused=False)

计算和返回输出关于输入的梯度和。

grad_outputs 应是长度匹配输出的序列，包含关于输出每个元素的预计算梯度。如果一个输出不要求梯度，则梯度是None。

如果only_inputs是True，此函数将仅返回关于指定输入的梯度list。如果此参数是False，则关于其余全部叶子的梯度仍被计算，并且将累加到.grad属性中。

阅读全文／改进本文

PyTorch 1.0 中文文档：torch.autograd相关推荐

PyTorch 1.0 中文文档：torch.utils.bottleneck
译者: belonHan torch.utils.bottleneck是调试瓶颈bottleneck时首先用到的工具.它总结了python分析工具与PyTorch自动梯度分析工具在脚本运行中情况. ...
PyTorch 1.0 中文文档：torch.utils.checkpoint
译者: belonHan 注意 checkpointing的实现方法是在向后传播期间重新运行已被checkpint的前向传播段. 所以会导致像RNG这类(模型)的持久化的状态比实际更超前.默认情况下, ...
PyTorch 1.0 中文文档：torch.sparse
译者:hijkzzz 警告这个API目前还处于试验阶段,可能在不久的将来会发生变化. Torch支持COO(rdinate )格式的稀疏张量,这可以有效地存储和处理大多数元素为零的张量. 稀疏张量表 ...
PyTorch 1.0 中文文档正式接受校对 | ApacheCN
参与方式:https://github.com/apachecn/pytorch-doc-zh/blob/master/CONTRIBUTING.md 整体进度:https://github.com/ ...
PyTorch 1.0 中文文档：torch.onnx
译者:guobaoyo 示例:从Pytorch到Caffe2的端对端AlexNet模型这里是一个简单的脚本程序,它将一个在 torchvision 中已经定义的预训练 AlexNet 模型导出到 O ...
PyTorch 1.0 中文文档：torch.hub
译者:kunwuz torch.hub.load(github, model, force_reload=False, *args, **kwargs) 从github上加载一个带有预训练权重的模型. ...
PyTorch 1.0 中文文档：Torch 脚本
译者:keyianpai 创建 Torch 脚本代码将追踪和脚本化结合起来 Torch 脚本语言参考类型表达式语句变量解析 python值的使用调试内置函数 Torch脚本是一种从PyT ...
PyTorch 1.0 中文文档：torch.nn.init
译者:GeneZC torch.nn.init.calculate_gain(nonlinearity, param=None) 返回给定非线性函数的推荐的增益值.对应关系如下表: 非线性函数增益 ...
PyTorch 1.0 中文文档：torch.utils.model_zoo
译者:BXuan694 torch.utils.model_zoo.load_url(url, model_dir=None, map_location=None, progress=True) 由给 ...

PyTorch 1.0 中文文档：torch.autograd

PyTorch 1.0 中文文档：torch.autograd相关推荐

最新文章

热门文章