随机过程9 - 高斯分布及其非线性性质

Posted 2022-12-01 Ciaran-byte

高斯分布及其非线性性质

文章目录

• 高斯分布及其非线性性质
• • 1. 概述
  • 2. Polynonial
  • • 2.1 高阶矩
    • • 2.1.1 一维高斯的高阶矩
      • 2.1.2 多维高斯高阶矩
    • 2.2 平方器
    • • 2.2.1 相关函数
      • 2.2.2 分布函数
  • 3. Precewise Linear
  • • 3.1 硬限幅器(极化)
    • • 3.1.1 定义
      • 3.1.2 相关函数
  • 4. Price Theorem -- 分析非线性系统的工具
  • • 4.1 公式定义
    • 4.2 公式证明
    • 4.3 price theorem的应用
    • • 4.3.1 price theorem 与 hard limiter
      • 4.3.2 price theorem 与 square device
      • 4.3.3 price theorem 与 ReLU
  • 5. Exponential
  • 6. Triangometry
  • 7. 小结

1. 概述

  前面介绍了高斯分布和高斯的一些线性性质。这里会针对高斯分布的非线性变换进行介绍。也就是一个高斯分布，应该非线性变换之后，会得到具有怎么样的统计特性的函数。这里我们会介绍这样的一些非线性变换：多项式、分段线性、指数函数和三角函数

$$\begin{gathered} \text{(1) Polynonial} \\ \text{(2) Precewise Linear} \\ \text{(3) Exponential} \\ \text{(4) Triangometry} \end{gathered}$$

2. Polynonial

2.1 高阶矩

  在多项式非线性变换中，需要用到高斯过程的高阶矩这个工具，因此我们首先介绍一下高斯过程的高阶矩

2.1.1 一维高斯的高阶矩

  首先介绍一维高斯的高阶矩

$$\begin{gathered} \text{High Order} \\ Z\sim N(0,{\sigma }^2) \\ {f}_Z(x)=\frac{1}{\sqrt{2\pi }\sigma }exp(-\frac{x^2}{2{\sigma }^2}) \\ E(Z^k)=\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^{+\infty }{x}^{k}exp(-\frac{x^2}{2{\sigma }^2})dx \end{gathered}$$

  我们要求后面的积分

$$\text{Let }{I}_n={\int }_{-\infty }^{+\infty }{x}^{k}exp(-\frac{x^2}{2{\sigma }^2})dx$$

  可以使用分部积分

$$\begin{gathered} I_n={\int }_{-\infty }^{+\infty }{x}^{k}exp(-\frac{x^2}{2{\sigma }^2})dx \\ =-{\sigma }^2{\int }_{-\infty }^{+\infty }{x}^{k-1}dexp(-\frac{x^2}{2{\sigma }^2}) \\ =-{\sigma }^2{x}^{k-1}exp(-\frac{x^2}{2{\sigma }^2}){|}_{-\infty }^{+\infty }+{\sigma }^2{\int }_{-\infty }^{+\infty }exp(-\frac{x^2}{2{\sigma }^2})d{x}^{k-1}=(k-1){\sigma }^2{\int }_{-\infty }^{+\infty }{x}^{k-2}exp(-\frac{x^2}{2{\sigma }^2})dx \end{gathered}$$

  由于分部积分前一段中，指数增长的速度远远大于多项式增长速度，因此前一半是0。后一半可以得到一个递推式

$$I_n=(k-1){\sigma }^2{I}_{n-2}$$

  因此可以得到一个分段的函数

E ( Z k ) = 1 2 π σ I k = ( k − 1 ) ( k − 3 ) . . . 1 ∗ σ k k = 2 m 0 k = 2 m − 1 = ( k − 1 ) ! ! σ k k = 2 m 0 k = 2 m − 1 E(Z^k)=\\frac1\\sqrt2\\pi\\sigmaI_k = \\begincases (k-1)(k-3)...1 *\\sigma^k & k=2m \\\\ 0 & k = 2m-1 \\endcases \\\\ = \\begincases (k-1)!! \\sigma^k & k=2m \\\\ 0 & k = 2m-1 \\endcases E(Zk)=2π ​σ1​I随机过程8 - 多元高斯分布及其线性性质

随机过程8 - 多元高斯分布及其线性性质

随机过程8 - 多元高斯分布及其线性性质

随机过程10 -高斯过程与布朗运动

随机过程10 -高斯过程与布朗运动

随机过程 1 - 相关与随机过程