《Eulerian video magnification for revealing subtle changes in the world》(EVM)

目录

《Eulerian video magnification for revealing subtle changes in the world》(EVM)

背景

方法

实验

总结


背景

视频的时空处理相结合可以放大细微的变化,从而揭示周围世界的一些重要方面。如人类皮肤的颜色随血液循环而略有变化,细微表情和微小运动(脉搏,心率,桥梁变化等)等人类难以肉眼观测到的方面放大后,方便进行后续分析。

方法

如上图所示。EVM 是基于光流法并利用一阶泰勒展开来实现运动放大的一种经典方法。可以揭示和放大视频中的小动作和变化,EVM 首先将输入帧进行金字塔分解(空间分解),应用滤波于每个金字塔内的级别,而不是原始图片上的级别,因为目标是放大金字塔各个级别包含运动频率。然后,该技术将所需频率乘以放大系数α(由用户定义); EVM 放大实际运动并允许我们可以识别肉眼无法察觉的运动,所需的放大值频率被加回到相同级别的未放大的频率以获得最终视频夸张的动作。

下面分别解释上一自然段中黑色部分。


金字塔分解

金字塔分解,将图像应用高斯模糊核,将原图与模糊后的图像相减得到拉普拉斯金字塔。

即拉普拉斯金字塔是由高斯金字塔得来的,我们将原始图像通过与卷积核进行卷积以及隔行隔列的下采样(减小尺度),重复这一过程,我们就可以得到完整的高斯金字塔。

将高斯金字塔的最顶层隔行隔列且与同一卷积核卷积得到上采样图像,将同层的高斯金字塔与该上采样图像做差,得到与该层拉普拉斯金字塔,重复这一过程就得到全部的拉普拉斯金字塔。

如果我们用上采样图像与拉普拉斯金字塔对应层相加就会得到同层高斯金字塔,重复这一过程我们就能得到原始图像。(用于EVM最后的图像重建)


滤波

欧拉视频放大采用标准视频序列作为输入,应用空间分解之后,然后对帧进行时域滤波。对特定信号放大之后,合成重构,得到结果。

低通滤波:滤除高频成分保留低频成分的方法

高通滤波:突出高频成分而使低频分量相对受到抑制的方法

带通滤波:保留特定频段的波的同时屏蔽其他频段

如下为不同的滤波器

上图列举的有三种滤波器,理想带通滤波器、巴特沃斯滤波器、无限冲激响应滤波器。一般来讲对于颜色的放大,我们选择理想带通滤波器,而对于动作的放大我们考虑巴特沃斯滤波器或者无限冲激响应滤波器。这是因为颜色的变化比较静思,我们需要陡峭的截止频率,以防止颜色观察错误。而对于运动放大比较‘’粗放‘’,若选用的频域滤波器具有陡峭的变化,则会使滤波结果图像产生“振铃”现象,我们选用巴特沃斯滤波器或者无限冲激响应滤波器可以避免。

用I(x,t)表示图像在空间x处和在时间t处的强度,则有

其中δ (t)代表位移函数,即代表从0到t时刻x的变化。使用一阶泰勒级数展开,则得到如下分解式子,

对I(x,t)使用带通滤波器进行滤波,δ (t)处于滤波的频带范围内,假设提取出了f(x)以外的所有信号,即B(x,t),如下


乘以放大系数α

对上式子进行放大处理,即乘以放大因子α之后与原信号相加:

联立上述式子,得到

之后利用泰勒展开式可以得到输出信号

上式子表明运动放大的整个过程,f(x)在时刻t的位移δ (t)被放大了(1+α)倍


加回

参考金字塔分解,重新看一下。


实验

我利用文章开源代码进行了实验,自行拍摄了一段脉搏变化的视频并进行放大,结果如下。无法上传视频好像,便截了关键图。

原始视频帧:

放大后的脉搏:

总结

由于基于光流思想的EVM算法采用修改运动区域像素值强度的方式实现运动信号的放大,当无法区分噪声信号和运动信号时,在放大信号的同时会一并将噪声放大,从而湮没运动信号,进而产生图像的伪影及运动信号的损坏,影响有效信息的提取。

EVM适合在高空间频率下使用较小的放大倍数,并且当放大倍数增加时会显著放大噪声。

本文为该运动放大系列下文章,系列目录如下:

运动放大、视频放大、Video Motion Magnification、Video Magnification_Alocus_的博客-CSDN博客目录背景方法拉格朗日法欧拉法线性欧拉方法非线性欧拉方法深度学习法总结挖坑,运动放大。如果关注的伙伴们多,我会尽快更新,才疏学浅,我会把我了解到的知识在本系列中写出来。背景人类肉眼难以观察到细微的变化,然而重要的信息往往潜藏在其中,视频放大技术能够让我们更好地观察到视频中的这些变化,并对其进行深入的分析和利用。方法主要分三大类,拉格朗日法、欧拉法(线性、非线性)、深度学习法拉格朗日法《Motion magnification》欧拉法https://blog.csdn.net/Crystal_remember/article/details/116781912

视频运动放大一:欧拉视频放大,《Eulerian video magnification for revealing subtle changes in the world》相关推荐

  1. 欧拉影像放大算法(Eulerian Video Magnification)的原理和实现

    原文:http://www.hahack.com/codes/eulerian-video-magnification/ 引言 人类的视觉感知存在有限的感知域.对于超出感知域的变化,我们无法感知.然而 ...

  2. 专题一:欧拉视频放大(线性)---理想带通滤波器对于大视频内存不足的改进

    问题 在线性欧拉视频关于窄频规律性运动放大中使用的理想带通滤波器会存在内存不足的问题. 也就是amplify_spatial_lpyr_temporal_ideal(-)里的ideal_bandpas ...

  3. 视频倒退编辑android,视频倒放剪辑app下载-视频倒放剪辑 v2.6.3 安卓版 - 下载吧...

    视频倒放剪辑app是一款多功能视频编辑软件,能够让您制作精美的短视频,应用主要是把视频进行倒放和替换,把原来的视频进行编辑,再根据个人的需要任意修改,打造完美的作品:此应用支持抖音.快手等各个短视频平 ...

  4. 视频倒放怎么制作?视频倒放方法分享。

    视频倒放是指将视频文件进行反向播放,即从结尾到开头进行播放.这种操作可以用于创意视频制作.审查视频细节.以及用于某些特殊效果的制作,需要注意的是,倒放视频可能会让观看者感到不适,因此在使用倒放视频时需 ...

  5. 专题一:欧拉视频放大(线性)------线性放大理论分析

    目录 前言 整体框架 空间滤波 空间滤波作用 时域滤波 放大 合成效果 前言 在对论文及程序有一定的理解之后,我们对欧拉线性放大的整体做一个总结,以加深理解. 整体框架 欧拉线性放大主要分为四个步骤, ...

  6. 专题一:欧拉视频放大(线性)------MATLAB代码解析(二.amplify_spatial_lpyr_temporal_iir())

    目录 代码及其注释 理解 代码及其注释 function amplify_spatial_lpyr_temporal_iir(vidFile, resultsDir, ...alpha, lambda ...

  7. 专题二:欧拉视频放大(基于相位)---原理解析

    目录 前言 实施的步骤 空间滤波.提取相位 时域滤 放大 合成 数学原理推导 前言 由于欧拉线性放大方法会不可避免的放大噪声,所以放大率和放大效果都会受到影响.而基于相位的放大方法不会放大噪声,只会平 ...

  8. 视频倒退编辑android,视频倒放剪辑软件下载-视频倒放剪辑 安卓版v2.6.3-PC6安卓网...

    视频倒放剪辑app,帮助你快剪辑视频的手机应用.在视频倒放剪辑软件中你可快速对视频倒放.剪辑,以及修改视频背景音乐,轻松制作出想要的视频. 基本简介 视频倒放剪辑app:倒放.剪辑.修改视频背景音乐! ...

  9. 专题一:欧拉视频放大(线性)------随时间改变放大系数

    目录 前言 理论推导 1.线性变化 2.正弦函数变化 代码更改 实际效果 前言 最近有小伙伴问我怎么设置随时间改变放大因子,实现在一个视频中放大倍数不断变化的效果.现在我们来看一下. 理论推导 首先我 ...

  10. 专题一:欧拉视频放大(线性)------MATLAB代码解析(一.maxPyrHt(imsz,filtsz))

    目录 绪论 代码及分析 绪论 今天开始我的课题研究知识的积累,估计这个专题我要写好久. 代码及分析 function height = maxPyrHt(imsz, filtsz)imsz = ims ...

最新文章

  1. 马云打响本地生活消费攻坚战,饿了么获手淘一级入口,美团危险了
  2. Cassandra 原理介绍
  3. C++:C++语言入门级基础知识考察点回顾之基本数据类型、流程控制
  4. 程序员偷偷深爱的 9 个不良编程习惯
  5. 3. 二进制中1的个数
  6. BROCADE 300和MD3200扩展柜FC SAN,截图
  7. 安装程序集'' policy.8.0.microsoft.vc80.atl,type=''win32-
  8. Python自动化办公知识点整理汇总
  9. html页面div高度相减,关于html:两个div底部div到高度调整与浏览器窗口
  10. c#_delegate_异步调用_BeginInvoke
  11. c++图书馆管理系统
  12. 概要设计和详细设计(软件)
  13. lcs算法 php,使用PHP编写的LCS算法
  14. 李笑来《自学是门手艺》经典语录
  15. BoomBeach海水效果实现
  16. 【年薪百万之IT界大神成长之路零】年薪百万之IT界大神成长之路
  17. 安装 truffle (CentOS7 与 Windows)
  18. foo, bar ,baz
  19. 关于uniapp cheneckbox复选框不显示对号的问题
  20. 【算法】计划看电影-java

热门文章

  1. SQL Server Management Studio(SSMS)对象资源管理器的使用以及查询分析器的使用
  2. 【大咖说】激活数据价值,永洪科技智胜法则
  3. Labelme对图像标注、json转化png格式
  4. eclipse html清理缓存,eclipse中的缓存怎么清理
  5. 交流电机,如何用低成本的方案测试电机堵转?
  6. win10计算机系统盘不足,Win10系统C盘空间不足?简单5招,教你安全清理C盘垃圾!...
  7. JAVA实验三(南邮)
  8. java后端应届生面试题,附答案解析
  9. ★房贷计算器 APP
  10. java网关详解_一篇让你彻底理解网关是什么的文章