2 - 混合线性模型（Mixed models）

Posted 2023-05-11

参考技术A

这次是介绍混合线性模型的一些基础特性

从线性模型变转变为混合模型，是为解决实际问题

混合模型是在康奈尔大学建立的， 为什么在这里？

首先对线性模型（y = Wb + e ）拓展,W → [X Z]
modeling y(对于E(y) 和var(y))
是有选择指数算法（SI）和广义线性（GLS）的结合

** y = Xβ + Zu + e **
其中： y 为观测值vector（已知）； β 为fixed effects（未知）; u 为random effects（未知）; e为残差（未知）; X与Z 为关联y与β，u的矩阵（已知）

根据y的建模，求出的目标为： β, u,

** y = Xβ + Zu + e **

如 X = [1 0 24
0 1 34
1 0 23
1 0 27]
表示为：4个观察值在2个牛场（前2列），第3列是产犊年龄；

混合模型有可以成为混合方程组（Mixed model equations, MME)

或者简写 Cs = r
需要已知各个未知变量的(co)variances（方差组分）：

估计(co)variances（R与G），现行主流的一些算法：
1. REML（DF-, EM-, AI-.. 都是基于Maximum Likelihood）
2. MCMC("Gibbs Sampling")
3. Others as Method R(基于BLUP properties) （个人没使用过）
variance components estimation(VCF) methods on their own => special class
上述3种的主流算法以后再详细介绍

回归正题，接着看MME： y = Xβ + Zu + e ，
如果简写为： y = Wb +e（类似OLS）
则上述两个式子都求解：

注意这里W = [ X Z]
这个 u 的估计量有两个主要的不足：

怎么比较u _OLS 和u _SI ?
是需要比较(Z\'Z) ^-1 Z\' 与Cov(u,y)(Var(y)) ^-1

因为：
Cov(u,y) = GZ\' = AZ\'(σ _g ) ² ;
Var(y) = V = ZGZ\'+R = ZAZ\'(σ _g ) ² + I (σ _e ) ²
所以带入下公式：

则：

SI的u 可以转为：

两个无亲缘关系的公牛S 和T，均有三个女儿，其六个女儿的母牛也没有亲缘关系
我们想计算这两个公牛对各自儿女表型的遗传贡献
采两种计算方法：

数据如下：

给出如下定义：

则表型值y的方差结构：

y的协方差结构：

y的方差-协方差矩阵：

根据前面的公式：Var(y) = ZZ\'(σ _g ) ² + I (σ _e ) ²

Cov(u,y)的方差协方差矩阵：

使用SI解出：

选择指数的权重：
根据

SI: 最小化预测Var(T-I)的误差方差 ， 同时也最大T与I的相关
OLS： 最小误差方差，最终由观测值（残差）的方差加权
GLS： 最小化权重误差方差（最小二乘）， 参考观测值之间的协方差
MME: mixed models, 同时最小化误差方差和random effectde 预测误差方差
BLUP是由SI演变而来

mixed-integer programming(混合整数规划)

整数规划问题是一个数学优化或可行性规划，其中一些或所有的变量被限制为整数。在许多情况下，该术语指整数线性规划（ILP），其中目标函数和约束（整数约束除外）是线性的。整数规划是NP完全的。特别地，0-1整数线性规划的特殊情况是Karp 21 NP完全问题之一，其中未知量是二进制的，并且只需要满足限制条件。

如果某些决策变量（其中一些或所有的变量被限制为整数）不是离散的，则该问题称为混合整数规划问题。