MATLAB:使用插值替换缺失值 (NaN)

Posted

技术标签:

【中文标题】MATLAB:使用插值替换缺失值 (NaN)【英文标题】:MATLAB: Using interpolation to replace missing values (NaN) 【发布时间】:2011-04-07 10:28:09 【问题描述】:

我有一个元胞数组,每个元胞数组都包含一系列值作为行向量。序列包含一些由NaN 表示的缺失值。

我想使用某种插值方法替换所有 NaN,我如何在 MATLAB 中做到这一点?我也愿意接受有关如何处理这些缺失值的其他建议。

考虑这个示例数据来说明问题:

seq = randn(1,10); randn(1,7); randn(1,8);
for i=1:numel(seq)
    %# simulate some missing values
    ind = rand( size(seqi) ) < 0.2;
    seqi(ind) = nan;
end

结果序列:

seq1
ans =
     -0.50782     -0.32058          NaN      -3.0292     -0.45701       1.2424          NaN      0.93373          NaN    -0.029006
seq2
ans =
      0.18245      -1.5651    -0.084539       1.6039     0.098348     0.041374     -0.73417
seq3
ans =
          NaN          NaN      0.42639     -0.37281     -0.23645       2.0237      -2.2584       2.2294

编辑:

根据回复,我认为存在混淆:显然我不是在处理随机数据,上面显示的代码只是数据结构的一个示例。

实际数据是某种形式的处理信号。问题是在分析过程中,如果序列包含缺失值,我的解决方案将失败,因此需要过滤/插值(我已经考虑使用每个序列的平均值来填补空白,但我希望有更强大的东西)

【问题讨论】:

在您的示例中,我认为您很难找到一种插入缺失值的方法。插值要求数据点之间存在某种关系。通常这可能是它们来自时间序列(所以一个很好的猜测是可以从附近的点推断出缺失的部分)。在您的示例数据中,您试图猜测仅基于其他硬币翻转的“硬币翻转”。如果您可以向我们提供有关您的具体示例的更多信息,我们可以提供更多帮助。 @JudoWill:我认为他只是用随机数据作为人们玩的例子。 【参考方案1】:

好吧,如果您正在处理时间序列数据,那么您可以使用 Matlab 的内置插值函数。

这样的事情应该适合你的情况,但你需要稍微调整一下......即。如果您没有等间距采样,则需要修改 times 行。

nseq = cell(size(seq))
for i = 1:numel(seq)
    times = 1:length(seqi);
    mask =  ~isnan(seqi);
    nseqi = seqi;
    nseqi(~mask) = interp1(times(mask), seqi(mask), times(~mask));

end

您需要使用interp1 的选项来确定哪些选项最适合您的情况。

【讨论】:

谢谢,在我的情况下,我需要更改 times 向量,因为值是以 3 秒为基础记录的 ...现在我在想它,只要序列被同等采样,不是吗? 是的,只要它们的采样相同,这并不重要......但我尽量做到明确。【参考方案2】:

我会使用inpaint_nans,这是一种旨在通过插值替换一维或二维矩阵中的 nan 元素的工具。

seq1 = [-0.50782 -0.32058 NaN -3.0292 -0.45701 1.2424 NaN 0.93373 NaN -0.029006];
seq2 = [0.18245 -1.5651 -0.084539 1.6039 0.098348 0.041374 -0.73417];
seq3 = [NaN NaN 0.42639 -0.37281 -0.23645 2.0237];

for i = 1:3
  seqi = inpaint_nans(seqi);
end

seq:
ans =
 -0.50782 -0.32058 -2.0724 -3.0292 -0.45701 1.2424 1.4528 0.93373 0.44482 -0.029006

ans =
  0.18245 -1.5651 -0.084539 1.6039 0.098348 0.041374 -0.73417

ans =
  2.0248 1.2256 0.42639 -0.37281 -0.23645 2.0237

【讨论】:

【参考方案3】:

如果您有权访问系统识别工具箱,则可以使用MISDATA 函数来估计缺失值。根据documentation:

此命令线性插值 缺失值来估计第一个 模型。然后,它使用这个模型 将缺失数据估计为 通过最小化输出参数 得到的预测误差 重建数据。

基本上,该算法在估计缺失数据和估计模型之间交替进行,其方式类似于期望最大化 (EM) 算法。

估计的模型可以是任何线性模型idmodel (AR/ARX/..),或者如果未给出,则使用默认顺序状态空间模型。

以下是如何将其应用于您的数据:

for i=1:numel(seq)
    dat = misdata( iddata(seqi(:)) );
    seqi = dat.OutputData;
end

【讨论】:

【参考方案4】:

使用griddedInterpolant

还有一些其他功能,例如 interp1。对于曲线图,样条曲线是查找缺失数据的最佳方法。

【讨论】:

虽然此链接可能会回答问题,但最好在此处包含答案的基本部分并提供链接以供参考。如果链接页面发生更改,仅链接答案可能会失效。 - From Review @Michel 这不是仅链接的答案。答案是要使用的函数的名称 - 该链接只是指向该函数文档的链接。 @jwg 您的问题处于低质量审查中。您可能想分享如何使用该功能,而不仅仅是功能名称和链接。【参考方案5】:

正如 JudoWill 所说,您需要假设数据之间存在某种关系。

一个简单的选择是计算整个系列的平均值,并将其用于缺失数据。另一个简单的选择是取 n 个前一个值和 n 个下一个值的平均值。

但要非常小心:如果您丢失了数据,通常最好处理这些丢失的数据,而不是编造一些可能会破坏您的分析的虚假数据。

【讨论】:

【参考方案6】:

考虑以下示例

X=一些 Nx1 数组 Y=F(X),其中包含一些 NaN

然后使用

X1=X(find(~isnan(Y))); Y1=Y(find(~isnan(Y)));

现在对 X1 和 Y1 进行插值以计算所有 X 处的所有值。

【讨论】:

以上是关于MATLAB:使用插值替换缺失值 (NaN)的主要内容,如果未能解决你的问题,请参考以下文章

pandas dataframe缺失值(np.nan)处理:识别缺失情况删除0值填补均值填补中位数填补加缺失标签插值填充详解及实例

Matlab:在具有 34 个字段的 1*1 结构中查找和替换缺失值

pandas使用replace函数将所有的无穷大值np.inf替换为缺失值np.nan使用pandas的fillna函数用经验固定值填充缺失值np.nan

处理逻辑回归的 NaN(缺失)值 - 最佳实践?

pandas(12):数据清洗(缺失值)

如何在熊猫中使用 python 循环替换缺失值? [关闭]