MATLAB Tensor 和 N-Way 工具箱张量补全功能评测

Posted 2022-10-13 陆嵩

MATLAB Tensor 和 N-Way 工具箱张量补全功能评测

文章目录

• • MATLAB Tensor 和 N-Way 工具箱张量补全功能评测
  • • 各种乘积表示
    • ALS 算法
    • cp_als VS parafac VS parafac with NaN
    • cp_opt VS cp_wopt
    • 改进 cp_als

在 MATLAB 中，比较成熟的工具箱有 tensor toolbox、n-way toolbox 和 TT-Toolbox (TT=Tensor Train) 。那么，在这些工具箱中，具有通过张量分解进行张量补全功能的有：

• cp_wopt（CP 基于优化）：张量工具箱中用于处理缺失数据的加权直接优化 (WOPT) 方法。它是 cp_opt 基于缺失数据的一种改进。
• parafac（CP 基于 ALS）：nway 工具箱中的 CP 分解函数，缺失数据设置为 NaN，使用 EM 算法进行处理。它是基于 cp_als 的一种算法的改进。
• tucker（TUCKER 分解）：nway 工具箱中的 tucker 分解函数，缺失数据设置为 NaN 即可。

各种乘积表示

Kronecker 乘积就是拿坐标矩阵的每一个元素去分别乘右边的矩阵，张成一个大矩阵。即
$$\mathbf{A}\otimes \mathbf{B}=\left[\begin{array}{cccc}{a}_{11}\mathbf{B}& a_{12}\mathbf{B}& \cdots & a_{1J}\mathbf{B}\\ a_{21}\mathbf{B}& a_{22}\mathbf{B}& \cdots & a_{2J}\mathbf{B}\\ ⋮& ⋮& \ddots & ⋮\\ a_{I1}\mathbf{B}& a_{I2}\mathbf{B}& \cdots & a_{IJ}\mathbf{B}\end{array}\right]$$
Khatri-Rao 乘积就是把相同列数的两个矩阵的对应列分别做 Kronecker 乘积，即
$$\mathbf{A}\odot \mathbf{B}=\left[\begin{array}{llll}{\mathbf{a}}_1\otimes {\mathbf{b}}_1& {\mathbf{a}}_2\otimes {\mathbf{b}}_2& \cdots & {\mathbf{a}}_K\otimes {\mathbf{b}}_K\end{array}\right]$$
Hadamard 乘积就是两个相同规模的矩阵，矩阵对应相乘
$$\mathbf{A}\ast \mathbf{B}=\left[\begin{array}{cccc}{a}_{11}{b}_{11}& a_{12}{b}_{12}& \cdots & a_{1J}{b}_{1J}\\ a_{21}{b}_{21}& a_{22}{b}_{22}& \cdots & a_{2J}{b}_{2J}\\ ⋮& ⋮& \ddots & ⋮\\ a_{I1}{b}_{I1}& a_{I2}{b}_{I2}& \cdots & a_{IJ}{b}_{IJ}\end{array}\right]$$
乘积满足如下法则：
$$\begin{array}{rl}& \\ (\mathbf{A}\otimes \mathbf{B})(\mathbf{C}\otimes \mathbf{D})& =\mathbf{AC}\otimes \mathbf{BD}\\ (\mathbf{A}\otimes \mathbf{B}{)}^{†}& ={\mathbf{A}}^{†}\otimes {\mathbf{B}}^{†}\\ \mathbf{A}\odot \mathbf{B}\odot \mathbf{C}& \\ (\mathbf{A}\odot \mathbf{B}{)}^{\top }(\mathbf{A}\odot \mathbf{B})& \\ (\mathbf{A}\odot \mathbf{B}{)}^{†}& \end{array}$$

torch和numpy的对比

torch7学习——Tensor

教程 | 如何通过PyTorch上手Tensor Comprehensions？

tensorflow中的1维卷积--conv1d用法

将tensor张量转换成图片格式并保存