日常矩阵正态分布参数检验问题

Posted 2023-03-06 囚生CY

最近给凯爹做的一个苦力活，统计检验这个东西说实话也挺有趣，跟算法设计一样，好的检验真的是挺难设计的，就有近似算法的那种感觉，检验很难保证size和power都很理想，所以就要做tradeoff，感觉这个假设检验的思路还是挺有趣，所以破例记录一下。

今天阳历生日（其实我每年都是过农历生日），凯爹职场情场皆得意，前脚拿到offer，后脚抱得美人归，说到底凯爹还是个挺励志的人，二战时吃那么多苦，如今终于是苦尽甘来（这不狠宰他一手哈哈哈哈哈哈哈哈

---

文章目录

• 假设检验① $H_0:A,B$是对角阵
• • 1 生成模拟数据$X$
  • 2 虽然生成模拟数据时已知$A,B$，但假设$A,B$未知，对其进行估计。
  • • 2.1 第一种估计方法：Naive
    • 2.2 第二种估计方法：Sample
    • 2.3 第三种估计方法：Banded（只可对代表时间维度的矩阵$B$使用）
  • 3 对$A,B$的估计值进行假设检验
  • • 3.1 假设检验① $H_0:B$是对角阵
    • 3.2 类似地，假设检验① $H_0:A$是对角阵
    • 3.3 检验协方差$A$哪些位置不为0
    • 3.4 检验协方差$B$哪些位置不为0
  • 4 上述1-3步骤，每组参数设置$p,q,n,z$（共8种组合）重复1000次
  • • 4.1 对于每组参数设置，计算1000次试验后假设检验①的size
    • 4.2 对于每组参数设置，计算1000次试验后假设检验①的power
  • Appendix 代码实现
• 假设检验② $H_0:R_A^1=R_A^2$
• • 5 生成模拟数据$X$
  • 6 估计${\tilde{B}}^{(g)}$的3种方法
  • • 6.1 第一种估计方法：Naive
    • 6.2 第二种估计方法：Sample
    • 6.3 第三种估计方法：Banded
  • 7 对两个协相关矩阵$A$的相关系数矩阵$R_A^{(g)}$进行假设检验
  • • 7.1 假设检验② $H_0:R_A^1=R_A^2$，即第一组和第二组的相关系数矩阵是否相同
    • 7.2 检验相关系数矩阵$R_A^1$和$R_A^2$哪些位置不同
  • 8 上述5-7步骤，每组参数设置$p,q,n,z$（共8种组合），重复1000次
  • 代码实现

---

假设检验① $H_0:A,B$是对角阵

1 生成模拟数据$X$

对于matrix normal distribution，$M{N}_{pq}(0,A,B)$，$0$代表零均值，$A,B$分别是行与列的协方差。从分布中抽取两组模拟数据，$X^{(1)}=(X_1^{(1)},...,X_{n1}^{(1)}),X^{(2)}=(X_1^{(2)},...,X_{n2}^{(2)})$，$X_1^{(1)}$维度为$p\times q$。两组数据的分布中$A$不一样，$B$一样，$n_1=n_2=n$

参数设置：$p=10,20,q=10,20,n=5,8$

矩阵$A_{p\times p}=$
$$\{\begin{array}{rl}& H_0:I\\ & H_1:\frac{I+U+\delta I}{1+\delta }\end{array}$$

矩阵$B_{q\times q}:b_{ij}=0.4^{|i-j|},1\le i,j\le q$

其中$\delta =|{\lambda }_{\min }(I+U)|+0.05$，${\lambda }_{\min }$

5.2 多元线性回归完成广告投放销售额预测——python实战

线性代数笔记：概率矩阵分解 Probabilistic Matrix Factorization （PMF）

人工智能数学基础 | 目录 | 00

讲讲共线性问题

讲讲共线性问题