【小波分析】一、小波分析入门基础介绍

文章目录

【小波分析】一、小波分析入门基础介绍
- 引入
- - 从线性代数谈起
  - 到高等数学
- 历史和发展
- - 傅里叶分析
  - 哈尔基
  - 加窗傅里叶变换
  - 小波分析
- 参考和致谢

引入

从线性代数谈起

我们在线性代数当中学过点、向量、矩阵，线性变换等一些概念，我们一起回顾一下，从而引出函数空间，为小波分析的介绍做准备。

我们知道在一个线性空间下，比如说三维的线性空间，有一个坐标系，我们喜欢叫 xxx 轴、yyy 轴、zzz 轴，在这个三维空间中的每一个点，都有一个坐标表达（点的表示），比如说 (x,y,z)(x,y,z)(x,y,z)，分别对应这这个点在每个坐标系上面的分量，或者说是这个点在分别在三个坐标轴下的投影。

线性变换 A\mathscr{A}A 对应这一个矩阵 AAA，得到新的向量 (x′,y′,z′)(x',y',z')(x′,y′,z′) 它作用于一个点（坐标表达为一个向量），它意味着什么呢？我们可以理解为，在原来的坐标系下，对这个点进行了一定的操作，变到了新的地方。一个更好地理解是，我们找到了一个新的坐标系，三轴为 x′x'x′ 轴、y′y'y′ 轴、z′z'z′ 轴，在这个新的坐标系下，原来这个点被表示为了(x′,y′,z′)(x',y',z')(x′,y′,z′)。也就是说，一个线性变换，其实对应的是一个坐标系的变换，线性变换作用于点，前后对应着点在不同坐标系下的表示。

举个例子，某个点在坐标系 O(x,y,z)O(x,y,z)O(x,y,z) 下的表示为 (x,y,z)(x,y,z)(x,y,z)，那么我们再给定一个新的坐标系 O(x′,y′,z′)O(x',y',z')O(x′,y′,z′)，不妨假设原点相同，它在新的坐标系下得坐标表示是什么呢？假设原空间的一组基向量为 (e1,e2,e3)(e_1,e_2,e_3)(e1,e2,e3)，变换后的一组基向量为 (e1′,e2′,e3′)(e_1',e_2',e_3')(e1′,e2′,e3′)，这里的 eie_iei 表示列向量。若把原空间的基向量写为后面那个空间的基向量的线性组合有，
(e1,e2,e3)=(e1′,e2′,e3′)A(e_1,e_2,e_3) = (e_1',e_2',e_3') A(e1,e2,e3)=(e1′,e2′,e3′)A
则有
(xyz)=A(x′y′z′)\left( \begin{array}{l} x\\y\\z \end{array}\right) = A\left( \begin{array} {l} x'\\y'\\z' \end{array}\right)⎝⎛xyz⎠⎞=A⎝⎛x′y′z′⎠⎞.

这里考虑的是两个坐标系原点的相同的情况。若两个若两个坐标系的坐标原点不同，再加个坐标平移量O−O′O-O'O−O′即可。当然，也可以把坐标写成 4 维的，矩阵也扩充成 4x4 的，然后把平移量融合到加出来的位置里面，在机器人运动学里面，经常这么搞。

从上面所述，我们知道了一个线性变换其实对应着一个坐标系的变换。不同矩阵的性质，其实也就对应着变换的不同性质。比如说正交矩阵（复数域下我们成为酉矩阵），其实就是把一个基向量是单位长度的标准正交系变成了另外一个标准正交系。换个角度看，它也对应着向量的旋转。其他矩阵的性质也有类似的集合意义。

线性代数这门学科本质上回答了两个问题：点的描述和线性变换的刻画。

到高等数学

很自然地，我们现在思考，如果把线性空间中的点和线性变换的刻画，往函数空间去推广一下会怎么样。假设现在空间中的每一个点刻画的是一个函数，线性空间的每个基，表示函数空间的基函数，线性变换，把从一组已知的基函数，变换到了另外一组基函数，把一组基函数张成的空间，变成了另外一组基函数张成的空间。这，就自然而然实现了从代数到分析的一个跨越。

所谓的变换，譬如说，傅里叶变换，小波变换，无非就是说找到一个变换，或者说找到了一个组新的基，把原空间里面的函数，在新的一组基下进行表示，进而，我们来研究同一个函数，在两个空间下得性质有什么样的联系和区别。这一组新的基，不是随随便便找的，它的寻找必然是有利于我们的某种需求，比如说更少维度的表达从而达到存储的压缩，等等。

历史和发展

傅里叶分析

傅里叶是一名伟大的法国科学家。拿破仑当政期间，法国科学院在全欧洲出了一个竞赛题，去描述热在介质中的传播规律。很多人去做了这个热试验，即拿一个管子，在一端加热，然后去测试管子每一点上的温度。傅里叶不仅做了实验，还给出了一个解决方式。他在 1807 年提出，解能写出这样的形式。
f(t)=∑k=−∞+∞αkeiktf(t)=\sum_{k=-\infty}^{+\infty} \alpha_{k} e^{i k t} f(t)=k=−∞∑+∞αkeikt
可以看得出，这里的基函数，不是别的，是这种三角函数，或者说 e 指数函数的一系列伸缩。简单地说，傅里叶给出了一个基，它能够解决热传导问题。现在很多相关的名词描述什么都非常成熟了，这都是后来的人给加的。原始的想法可以看傅里叶本人的专著《热的解析理论》。

傅里叶把他的想法整理了一下，寄到了法国科学院去，很遗憾，没有任何反应。当时有两派意见，一派认为，这玩意儿太简单了吧，几乎全是文字，没什么意思。另一派的数学家认为，这个吧，一个证明没有，净瞎扯。随手一丢，装箱子里去了。

后来傅里叶当官去了。之后拿破仑政府倒台了，但是傅里叶没受到太大牵连。那个时候，他对他的工作进一步进行了补充，即有了傅里叶变换。

傅里叶变换，就不要求函数是周期的了。它可以写成，
f(t)=12π∫−∞+∞F(ω)eiωtdtf(t) = \frac{1}{2 \pi} \int_{-\infty}^{+\infty} F(\omega) e^{i \omega t} d t f(t)=2π1∫−∞+∞F(ω)eiωtdt

上下两个式子何其相似。只不过把离散的kkk变成了频率ω\omegaω，离散求和变成了积分。

这时候，傅里叶又把他这个提交到了法国科学院，法国科学院，还是分成了两派。一派觉得他解决得很好，相当漂亮的变大。另外一派还是觉得没有数学证明，这个不行啊。后来，是确认傅里叶获奖了，但是不给钱。后来，别的学科就把这个公式拿去用，发现 work 得很好，逐渐就流行开了。很多东西，因为侧重点不一样，所以在很多人看起来，评价就不一样。咱们学数学的，似乎更倾向于要有一个漂亮的解析证明，工程的人，似乎关心它 work 不 work。比如说，神经网络，很多时候 work 得很好，但是可解释性差，所以数学的，比如说学统计的，就非常抵制它，但是工程上的人又非常地喜欢用它用到具体的问题上去算一些东西。

哈尔基

这个傅里叶分析，就这样发展了 100 年，直到 20 世纪初期，一个叫哈尔的哥们，他说，傅里叶这东西，也没啥了不起的，无非不就是说可以把一个函数展开为一些基函数的线性组合么，我随便就能找出这样的基函数来。

在 1908 年的国际数学家会议上，哈尔就提出了这样一个函数，
h(t)={10≤x<12−112≤x<10其他 h(t)=\left\{\begin{array}{ll} 1 & 0\leq x<\frac{1}{2} \\ -1& \frac{1}{2} \leq x<1 \\ 0 & \text {其他 } \end{array}\right. h(t)=⎩⎨⎧1−100≤x<2121≤x<1其他

hj,k(t)=2j2h(2jt−k)h_{j, k}(t)=2^{\frac{j}{2}} h\left(2^{j} t-k\right) hj,k(t)=22jh(2jt−k)
它构成了L2(R)L^{2}(\mathbb{R})L2(R)空间的一组标准正交基。可以看得出，这个hj,kh_{j,k}hj,k是对于hhh的伸缩和平移，2j2^j2j表示缩了2j2^j2j倍，−k-k−k表示往右拉了kkk个格子。可以举例的。

于是，哈尔说，任意函数，也能够写成这组基的线性组合。
f(t)=∑j∑kαjkhj,k(t)f(t)=\sum_{j} \sum_{k} \alpha_{j k} h_{j, k}(t) f(t)=j∑k∑αjkhj,k(t)
这个结果，也很遗憾，在数学家会议上没有引起任何注意。

1910年，这个工作在 siam 上发表了。就是说，傅里叶那个玩意儿，你能找一个基，函数能表示成他们任意的线性组合，我也能。

加窗傅里叶变换

再后来，就到了加窗傅里叶变换，窗，意味着窗口。Gabor 在 1946 年他的博士论文中，提到了一组新的基函数，给原来的三角基函数，加了一个窗口限制，即

g(t−ti)eiωtg\left(t-t_{i}\right) e^{i \omega t} g(t−ti)eiωt

更清楚一点，写成频率分量的表达，是
F(t0,w)=∫−∞+∞f(t)g(t−t0)e−iωtdtF\left({t_0}, w\right)=\int_{-\infty}^{+\infty} f(t) g\left(t-t_{0}\right) e^{-i \omega t} d t F(t0,w)=∫−∞+∞f(t)g(t−t0)e−iωtdt
这个表示一个信号f(t)f(t)f(t)，在时间点t=t0t=t_0t=t0的附近，频率为ω\omegaω的频率分量的大小。这里的附近的范围，是由窗函数ggg确定的。

Gabor 指出，把所有时间点附近的频率分量拼在一起，就是这个信号在这个频率上的分量表示，写成公式就是，
F(w)=∫−∞+∞F(t0,w)dt0F(w)=\int_{-\infty}^{+\infty} F\left(t_{0}, w\right) d t_0 F(w)=∫−∞+∞F(t0,w)dt0

那么，由傅里叶变换，一个信号，就可以表示为，
f(t)=∫−∞+∞F(ω)eiωtdω=∫−∞+∞∫−∞+∞F(t0,ω)eiωtdωdt0f(t)=\int_{-\infty}^{+\infty} F(\omega) e^{i \omega t} d \omega = \int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} F\left(t_{0}, \omega\right) e^{i\omega t} d \omega d t_{0} f(t)=∫−∞+∞F(ω)eiωtdω=∫−∞+∞∫−∞+∞F(t0,ω)eiωtdωdt0

这个东西一提出，学术界很快就接受了它。后来就出现了上百种窗函数，譬如高斯窗，矩形窗等。

小波分析

这个再往后，就到了19世纪80年代左右， Morlet ，一个搞地质学的兄弟，也就是提出小波变换这个概念的这个哥们。 Morlet 在处理一些地质勘探数据的时候，为了自己的方便，就开始琢磨了。

他说这个加窗的傅里叶变换，有点问题啊，就是说，窗函数宽度和 ω\omegaω 没关系。eiωte^{i \omega t}eiωt 是周期的正余弦函数，ω\omegaω越大，频率越高，抖得越厉害，每个周期长度就越小，这时候，截取的窗口就可以小一些。反之亦然。现有的窗函数，对于固定时间点附近的这个范围，似乎和ω\omegaω没有关系，这个不太合理啊。所以，心里萌生了以一种 “高频窄窗低频宽窗” 的思想。

基本想法是，希望能找到一个函数，在显著的时间内，有明显的波形，在这个显著的时间外，当然是希望没有。做不到没有，当然是希望越来越小，直至没有，在外面迅速地衰减。Morlet 提出了，

1∣a∣ψ(t−ba)\frac{1}{\sqrt{|a|}} \psi\left(\frac{t-b}{a}\right) ∣a∣1ψ(at−b)

这里的ψ\psiψ是满足一定要求的函数，后面还会提到。bbb 是位移参数，左加右减。aaa 是尺度参数，表示把这个波形放大了多少倍，体现的是快变信息和慢变信息。外面开根号aaa分之一，是为了能量的守恒，里面除aaa，外面除的是a\sqrt aa，因为能量是模方的表达，平方一下，刚好消掉。

同样，1978 年 Morlet 在国际会议上宣读自己的想法，也没激起什么浪花。1982 年刊登他的成果，很长时间内无人问津。

但是，这个时候，小波这个工具，已然悄悄萌芽。

参考和致谢

《Nonlinear approximation》 Ronald A. Devore 剑桥大学出版社

《小波十讲》Ingrid Daubechies 李建平等译国防工业出版社

《小波与算子》（第一卷） Y.Meyer 尤众译世界图书出版社

《小波变换与分数傅里叶变换：理论及应用》冉启文哈尔滨工业大学出版社

“小波理论及应用” 冉启文【哈尔滨工业大学】