python求向量函数的雅可比矩阵_使用python,pytorch求海森Hessian矩阵

考虑一个函数$y=f(\textbf{x}) (R^n\rightarrow R)$，y的Hessian矩阵定义如下：

考虑一个函数:$$f(x)=b^Tx+\frac{1}{2}x^{T}Ax\\其中b^T=[1,3,5], A在代码中可读，可以自定义$$

求该函数在x = [0,0,0]处海森矩阵值的python代码如下：

本代码需要用到torch.autograd包中的核心函数torch.autograd.grad。相邻随笔中有详细参考解析。大致原理是人工求导并保留了计算图，所以求二阶导很方便。如果想求解析形式的海森矩阵或许matlab中有相关的包能实现。

import torch

# 定义函数

x = torch.tensor([0., 0, 0], requires_grad=True)

b = torch.tensor([1., 3, 5])

A = torch.tensor([[-5, -3, -0.5], [-3, -2, 0], [-0.5, 0, -0.5]])

y = b@x + 0.5*x@A@x

# 计算一阶导数,因为我们需要继续计算二阶导数,所以创建并保留计算图

grad = torch.autograd.grad(y, x, retain_graph=True, create_graph=True)

# 定义Print数组,为输出和进一步利用Hessian矩阵作准备

Print = torch.tensor([])

for anygrad in grad[0]: # torch.autograd.grad返回的是元组

Print = torch.cat((Print, torch.autograd.grad(anygrad, x, retain_graph=True)[0]))

print(Print.view(x.size()[0], -1))

输出结果如下：

python求向量函数的雅可比矩阵_使用python,pytorch求海森Hessian矩阵相关推荐

python求向量函数的雅可比矩阵_在python Numpy中求向量和矩阵的范数实例
np.linalg.norm(求范数):linalg=linear(线性)+algebra(代数),norm则表示范数. 函数参数 x_norm=np.linalg.norm(x, ord=None, ...
python求向量函数的雅可比矩阵_[数学] 向量函数的雅可比矩阵与链式法则
复习一下我的数学知识T_T 1. 回顾高等数学:多元数量函数的梯度回想高等数学中常见的多元数量函数$f:\mathbb{R}^{n}\rightarrow \mathbb{R}^{1}$,我们可以把 ...
python求n的阶乘并输出身份信息_python编程求n的阶乘_使用Python编程的阶乘
python编程求n的阶乘 Before we start implementing factorial using Python, let us first discuss what factori ...
python编程求n的阶乘_使用Python编程的阶乘
python编程求n的阶乘 Before we start implementing factorial using Python, let us first discuss what factori ...
python求5的阶乘_用python分享5的阶乘（咋办）用python计算阶乘
(急)用python计算阶乘小编需要用python列出一个阶乘的表. 小编不太清楚python的阶乘公式以阶乘reduce为逐次操作list里的每项,接收的参数为 2个,最后返回的为一个结果 &g ...
python做审计底稿视频_最新Python教学视频，每天自学俩小时，让你offer拿到手软...
2020最新Python零基础到精通资料教材,干货分享,新基础Python教材,看这里,这里有你想要的所有资源哦,最强笔记,教你怎么入门提升!让你对自己更加有信心,重点是资料都是免费的,免费!!! 如 ...
python输出一个月日历表_关于python一个月总结
今天是6月16了,我在上个月19号的时候敲下了人生中的第一行python的hello world代码.碰巧今天周末,明天又开始忙碌的上(mo)班(yu).趁着现在对这个月的学习做一个总结,也是理清思路 ...
python文本结构化处理_在Python中标记非结构化文本数据
python文本结构化处理 Labelled data has been a crucial demand for supervised machine learning leading to a n ...
python绘制繁花曲线代码_使用python和pygame绘制繁花曲线的方法
前段时间看了一期<最强大脑>,里面各种繁花曲线组合成了非常美丽的图形,一时心血来潮,想尝试自己用代码绘制繁花曲线,想怎么组合就怎么组合. 真实的繁花曲线使用一种称为繁花曲线规的小玩意绘制, ...

python求向量函数的雅可比矩阵_使用python,pytorch求海森Hessian矩阵

python求向量函数的雅可比矩阵_使用python,pytorch求海森Hessian矩阵相关推荐

最新文章

热门文章