Kalman filtering卡尔曼滤波和Particle Filter粒子滤波及其MATLAB实现

Posted 2022-10-12 好奇小圈

文章目录

• 前言
• 一、基本概念和铺垫
• • 1.两个假设
  • 2.卡尔曼滤波（线性）
  • 3.粒子滤波（非线性）
• 二、粒子滤波具体步骤
• • 1.重要性采样Importance Sampling&SIS
  • • Monte Carlo Method:
    • Importance Sampling:
    • Sequential Importance Sampling:
  • 2.重采样Re-sampling
  • • 轮盘赌法
    • 其余方法
    • 基本粒子滤波Basic Particle Filter
  • 3.SIR Filter
• 三、MATLAB程序实现
• 总结

---

前言

通过寻找一组在状态空间中传播的随机样本来近似的表示概率密度函数，用样本均值代替积分运算，进而获得系统状态的最小方差估计的过程，这些样本被形象的称为“粒子”，故而叫粒子滤波。如有错误还望指出。参考自：机器学习-白板推导系列(十六)-粒子滤波（Particle Filter）

---

一、基本概念和铺垫

1.两个假设

齐次Markov假设：状态变量z_t只与上一个时刻的z_t-1有关。
观测独立假设：观测变量x_t只与对应z_t有关。

2.卡尔曼滤波（线性）

公式：
$$z_t=g(z_{t-1},u,\epsilon )=A\cdot z_{t-1}+B+\epsilon ，$$
其中，$A$、$B$为矩阵，$\epsilon$为符合高斯分布的随机变量$\epsilon \sim N(0,Q)$，$u$为外部输入，根据情况可有也可以没有。
$$x_t=h(z_t,u,\delta )=C\cdot z_t+D+\delta .$$
其中，$C$、$D$为矩阵，$\delta$为符合高斯分布的随机变量$\delta \sim N(0,R)$。
问题：求解$p(z_t|x_1,...,x_t)$

Step1:Prediction预测——给$z_t$一个先验
$$p(z_t|x_1,...,x_{t-1})={\int }_{z_{t-1}}p(z_t|z_{t-1})\cdot p(z_{t-1}|x_1,...,x_{t-1})d{z}_{t-1}$$
Step2:Update更新——求$z_t$的后验
$$p(z_t|x_1,...,x_t)\propto p(x_t|z_t)\cdot p(z_t|x_1,...,x_{t-1})$$

3.粒子滤波（非线性）

由于其非线性特性，难以求出解析解，因此通过采样求出后验。

二、粒子滤波具体步骤

1.重要性采样Importance Sampling&SIS

Monte Carlo Method:

由大数定理可有求得期望，
$$E_{z|x}[f(z)]=\int f(z)\cdot p(z|x)dx\approx \frac{1}{N}\sum _{i=1}^{N}f(z^i)$$
其中$N$个样本，$z^i\sim p(z|x)$

Importance Sampling:

引入一个新的可行的提议分布（proposed distribution）$q(z|x)$，同样利用大数分布，可得，
$$E_{z|x}[f(z)]=\int f(z)\cdot \frac{p(z|x)}{q(z|x)}\cdot q(z|x)dx\approx \frac{1}{N}\sum _{i=1}^{N}f(z^i)\cdot \frac{p(z^i|x)}{q(z^i|x)}=\frac{Kalman\; Filters}{N}$$

卡尔曼滤波（Kalman Filter） 的进一步讨论

Kalman FilterExtended Kalman Filter以及Unscented Kalman Filter介绍

从马尔可夫模型（Markov model）到卡尔曼滤波（Kalman filtering）

[Math]理解卡尔曼滤波器 (Understanding Kalman Filter)

[Math]理解卡尔曼滤波器 (Understanding Kalman Filter) zz