Pandas 内插返回的 NaN

Posted

技术标签:

【中文标题】Pandas 内插返回的 NaN【英文标题】:Pandas Interpolate Returning NaNs 【发布时间】:2014-08-10 13:47:41 【问题描述】:

我正在尝试以 60hz (~16ms) 的间隔对位置数据进行基本插值。当我尝试在数据帧上使用 pandas 0.14 插值时,它告诉我我的数据集中只有 NaN(不是真的)。当我尝试在从数据帧中提取的单个系列上运行它时,它返回相同的系列而没有填充 NaN。我尝试使用不同的方法将索引设置为整数,摆弄插值函数的轴和限制参数- 没有骰子。我做错了什么?

df.head(5) : 
         x        y        ms
0  20.5815  14.1821  333.3333
1      NaN      NaN       350
2  20.6112  14.2013  366.6667
3      NaN      NaN  383.3333
4  20.5349  14.2232       400


df = df.set_index(df.ms) # set indices to milliseconds

当我尝试运行时

df.interpolate(method='values')

我收到此错误:

---------------------------------------------------------------------------
TypeError                                 Traceback (most recent call last)
<ipython-input-462-cb0f1f01eb84> in <module>()
     12 
     13 
---> 14 df.interpolate(method='values')
     15 
     16 

/Users/jsb/anaconda/lib/python2.7/site-packages/pandas/core/generic.pyc in interpolate(self, method, axis, limit, inplace, downcast, **kwargs)
   2511 
   2512         if self._data.get_dtype_counts().get('object') == len(self.T):
-> 2513             raise TypeError("Cannot interpolate with all NaNs.")
   2514 
   2515         # create/use the index

TypeError: Cannot interpolate with all NaNs.

我也尝试过运行单个系列,它只返回我输入的内容:

temp = df.x
temp.interpolate(method='values')

333.333333    20.5815
350.000000        NaN
366.666667    20.6112
383.333333        NaN
400.000000    20.5349 Name: x, dtype: object

编辑:

感谢 Jeff 启发解决方案。

添加:

df[['x','y','ms']] = df[['x','y','ms']].astype(float)

之前

df.interpolate(method='values')

插值成功了。

【问题讨论】:

你能显示 df.info();你可能有对象 dtypes df0.info() Float64Index:100 个条目,0.0 到 1650.0 数据列(共 3 列):x 46 个非空对象 y 46 个非-null object ms 100 个非空对象 dtypes: object(3) 它们是对象 dtypes - 它们应该被转换成什么东西吗? object dtypes 不好。只有类似字符串的应该是object dtype。您是如何生成/阅读这些内容的? 他们刚刚被输入了 vanilla pd.csv_read。我唯一做的就是用df = df[1:].reset_index(drop=True) 删除一个额外的标题行,然后用df.rename(columns='X center':'x', 'Y center': 'y',inplace=True) 重命名列。有什么我做错了吗? 【参考方案1】:

根据您对 Jeff 的启发进行的编辑,以启发解决方案。

添加:

df = df.astype(float)

之前

df.interpolate(method='values')

插值对我也有用。除非您对列集进行子选择,否则您不需要指定列。

【讨论】:

【参考方案2】:

我无法重现错误(请参阅下面的可复制/粘贴示例),您能否确保您显示的数据实际上代表您的数据?

In [137]: from StringIO import StringIO

In [138]: df = pd.read_csv(StringIO("""         x        y        ms
     ...: 0  20.5815  14.1821  333.3333
     ...: 1      NaN      NaN       350
     ...: 2  20.6112  14.2013  366.6667
     ...: 3      NaN      NaN  383.3333
     ...: 4  20.5349  14.2232       400"""), delim_whitespace=True)

In [140]: df = df.set_index(df.ms)

In [142]: df.interpolate(method='values')
Out[142]: 
                 x         y        ms
ms                                    
333.3333  20.58150  14.18210  333.3333
350.0000  20.59635  14.19170  350.0000
366.6667  20.61120  14.20130  366.6667
383.3333  20.57305  14.21225  383.3333
400.0000  20.53490  14.22320  400.0000

【讨论】:

我运行了你的,它也被复制了。我还做了以下添加 NaN 行:df = df.reindex(pd.Series(arange(0,hz2ms(60)*100,hz2ms(60)))),其中 hz2ms 是返回 1000/hz 的辅助函数

以上是关于Pandas 内插返回的 NaN的主要内容,如果未能解决你的问题,请参考以下文章

当所有值都是 NaN 时,Pandas 重新采样以返回 NaN

pandas df.resample('D').sum() 返回 NaN

Pandas corr() 过于频繁地返回 NaN

Pandas 映射将所有值返回为 NaN [重复]

pandas.Series() 使用 DataFrame Columns 创建返回 NaN 数据条目

.diff() 函数仅在 pandas 数据框中返回 NaN 值