小波分析一小波分析入门基础介绍
Posted 陆嵩
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了小波分析一小波分析入门基础介绍相关的知识,希望对你有一定的参考价值。
【小波分析】一、小波分析入门基础介绍
引入
从线性代数谈起
我们在线性代数当中学过点、向量、矩阵,线性变换等一些概念,我们一起回顾一下,从而引出函数空间,为小波分析的介绍做准备。
我们知道在一个线性空间下,比如说三维的线性空间,有一个坐标系,我们喜欢叫 x x x 轴、 y y y 轴、 z z z 轴,在这个三维空间中的每一个点,都有一个坐标表达(点的表示),比如说 ( x , y , z ) (x,y,z) (x,y,z),分别对应这这个点在每个坐标系上面的分量,或者说是这个点在分别在三个坐标轴下的投影。
线性变换 A \\mathscr{A} A 对应这一个矩阵 A A A,得到新的向量 ( x ′ , y ′ , z ′ ) (x',y',z') (x′,y′,z′) 它作用于一个点(坐标表达为一个向量),它意味着什么呢?我们可以理解为,在原来的坐标系下,对这个点进行了一定的操作,变到了新的地方。一个更好地理解是,我们找到了一个新的坐标系,三轴为 x ′ x' x′ 轴、 y ′ y' y′ 轴、 z ′ z' z′ 轴,在这个新的坐标系下,原来这个点被表示为了 ( x ′ , y ′ , z ′ ) (x',y',z') (x′,y′,z′)。也就是说,一个线性变换,其实对应的是一个坐标系的变换,线性变换作用于点,前后对应着点在不同坐标系下的表示。
举个例子,某个点在坐标系
O
(
x
,
y
,
z
)
O(x,y,z)
O(x,y,z) 下的表示为
(
x
,
y
,
z
)
(x,y,z)
(x,y,z),那么我们再给定一个新的坐标系
O
(
x
′
,
y
′
,
z
′
)
O(x',y',z')
O(x′,y′,z′),不妨假设原点相同,它在新的坐标系下得坐标表示是什么呢?假设原空间的一组基向量为
(
e
1
,
e
2
,
e
3
)
(e_1,e_2,e_3)
(e1,e2,e3),变换后的一组基向量为
(
e
1
′
,
e
2
′
,
e
3
′
)
(e_1',e_2',e_3')
(e1′,e2′,e3′),这里的
e
i
e_i
ei 表示列向量。若把原空间的基向量写为后面那个空间的基向量的线性组合有,
(
e
1
,
e
2
,
e
3
)
=
(
e
1
′
,
e
2
′
,
e
3
′
)
A
(e_1,e_2,e_3) = (e_1',e_2',e_3') A
(e1,e2,e3)=(e1′,e2′,e3′)A
则有
(
x
y
z
)
=
A
(
x
′
y
′
z
′
)
\\left( \\begin{array}{l} x\\\\y\\\\z \\end{array}\\right) = A\\left( \\begin{array} {l} x'\\\\y'\\\\z' \\end{array}\\right)
⎝⎛xyz⎠⎞=A⎝⎛x′y′z′⎠⎞.
这里考虑的是两个坐标系原点的相同的情况。若两个若两个坐标系的坐标原点不同,再加个坐标平移量 O − O ′ O-O' O−O′即可。当然,也可以把坐标写成 4 维的,矩阵也扩充成 4x4 的,然后把平移量融合到加出来的位置里面,在机器人运动学里面,经常这么搞 。
从上面所述,我们知道了一个线性变换其实对应着一个坐标系的变换。不同矩阵的性质,其实也就对应着变换的不同性质。比如说正交矩阵(复数域下我们成为酉矩阵),其实就是把一个基向量是单位长度的标准正交系变成了另外一个标准正交系。换个角度看,它也对应着向量的旋转。其他矩阵的性质也有类似的集合意义。
线性代数这门学科本质上回答了两个问题:点的描述和线性变换的刻画。
到高等数学
很自然地,我们现在思考,如果把线性空间中的点和线性变换的刻画,往函数空间去推广一下会怎么样。假设现在空间中的每一个点刻画的是一个函数,线性空间的每个基,表示函数空间的基函数,线性变换,把从一组已知的基函数,变换到了另外一组基函数,把一组基函数张成的空间,变成了另外一组基函数张成的空间。这,就自然而然实现了从代数到分析的一个跨越。
所谓的变换,譬如说,傅里叶变换,小波变换,无非就是说找到一个变换,或者说找到了一个组新的基,把原空间里面的函数,在新的一组基下进行表示,进而,我们来研究同一个函数,在两个空间下得性质有什么样的联系和区别。这一组新的基,不是随随便便找的,它的寻找必然是有利于我们的某种需求,比如说更少维度的表达从而达到存储的压缩,等等。
历史和发展
傅里叶分析
傅里叶是一名伟大的法国科学家。拿破仑当政期间,法国科学院在全欧洲出了一个竞赛题,去描述热在介质中的传播规律。很多人去做了这个热试验,即拿一个管子,在一端加热,然后去测试管子每一点上的温度。傅里叶不仅做了实验,还给出了一个解决方式。他在 1807 年提出,解能写出这样的形式。
f
(
t
)
=
∑
k
=
−
∞
+
∞
α
k
e
i
k
t
f(t)=\\sum_{k=-\\infty}^{+\\infty} \\alpha_{k} e^{i k t}
f(t)=k=−∞∑+∞αkeikt
可以看得出,这里的基函数,不是别的,是这种三角函数,或者说 e 指数函数的一系列伸缩。简单地说,傅里叶给出了一个基,它能够解决热传导问题。现在很多相关的名词描述什么都非常成熟了,这都是后来的人给加的。原始的 想法可以看傅里叶本人的专著《热的解析理论》。
傅里叶把他的想法整理了一下,寄到了法国科学院去,很遗憾,没有任何反应。当时有两派意见,一派认为,这玩意儿太简单了吧,几乎全是文字,没什么意思。另一派的数学家认为,这个吧,一个证明没有,净瞎扯。随手一丢,装箱子里去了。
后来傅里叶当官去了。之后拿破仑政府倒台了,但是傅里叶没受到太大牵连。那个时候,他对他的工作进一步进行了补充,即有了傅里叶变换。
傅里叶变换,就不要求函数是周期的了。它可以写成,
f
(
t
)
=
1
2
π
∫
−
∞
+
∞
F
(
ω
)
e
i
ω
t
d
t
f(t) = \\frac{1}{2 \\pi} \\int_{-\\infty}^{+\\infty} F(\\omega) e^{i \\omega t} d t
f(t)=2π1∫−∞+∞F(ω)eiωtdt
上下两个式子何其相似。只不过把离散的 k k k变成了频率 ω \\omega ω,离散求和变成了积分。
这时候,傅里叶又把他这个提交到了法国科学院,法国科学院,还是分成了两派。一派觉得他解决得很好,相当漂亮的变大。另外一派还是觉得没有数学证明,这个不行啊。后来,是确认傅里叶获奖了,但是不给钱。后来,别的学科就把这个公式拿去用,发现 work 得很好,逐渐就流行开了。 很多东西,因为侧重点不一样,所以在很多人看起来,评价就不一样。咱们学数学的,似乎更倾向于要有一个漂亮的解析证明,工程的人,似乎关心它 work 不 work。比如说,神经网络,很多时候 work 得很好,但是可解释性差,所以数学的,比如说学统计的,就非常抵制它,但是工程上的人又非常地喜欢用它用到具体的问题上去算一些东西。
哈尔基
这个傅里叶分析,就这样发展了 100 年,直到 20 世纪初期,一个叫哈尔的哥们,他说,傅里叶这东西,也没啥了不起的,无非不就是说可以把一个函数展开为一些基函数的线性组合么,我随便就能找出这样的基函数来。
在 1908 年的国际数学家会议上,哈尔就提出了这样一个函数,
h
(
t
)
=
{
1
0
≤
x
<
1
2
−
1
1
2
≤
x
<
1
0
其他
h(t)=\\left\\{\\begin{array}{ll} 1 & 0\\leq x<\\frac{1}{2} \\\\ -1& \\frac{1}{2} \\leq x<1 \\\\ 0 & \\text {其他 } \\end{array}\\right.
h(t)=⎩⎨⎧1−100≤x<2121≤x<1其他
h j , k ( t ) = 2 j 2 h ( 2 j t − k ) h_{j, k}(t)=2^{\\frac{j}{2}} h\\left(2^{j} t-k\\right) hj,k(t)=22j小波分析二小波分析基础知识