如何摆脱从 CSV 文件读取的 pandas DataFrame 中的“未命名:0”列?

Posted

技术标签:

【中文标题】如何摆脱从 CSV 文件读取的 pandas DataFrame 中的“未命名:0”列?【英文标题】:How to get rid of "Unnamed: 0" column in a pandas DataFrame read in from CSV file? 【发布时间】:2022-01-24 04:01:53 【问题描述】:

我有一种情况,有时当我从df 读取csv 时,我会得到一个名为unnamed:0 的不需要的类似索引的列。

file.csv

,A,B,C
0,1,2,3
1,4,5,6
2,7,8,9

CSV 是这样读取的:

pd.read_csv('file.csv')

   Unnamed: 0  A  B  C
0           0  1  2  3
1           1  4  5  6
2           2  7  8  9

这很烦人!有没有人知道如何摆脱这种情况?

【问题讨论】:

不要假设 CSV 文件一定是用 pandas 或 OP 写出的。 (通常,CSV 来自其他用户/工具/脚本,因此他们无法控制其格式。)因此,read_csv(..., index_col=[0]) 解决方法是主要的,而不是“Do pd.to_csv(..., index=False)”。 【参考方案1】:

这是索引列,传递pd.to_csv(..., index=False)首先不写出未命名的索引列,请参阅to_csv() docs。

例子:

In [37]:
df = pd.DataFrame(np.random.randn(5,3), columns=list('abc'))
pd.read_csv(io.StringIO(df.to_csv()))

Out[37]:
   Unnamed: 0         a         b         c
0           0  0.109066 -1.112704 -0.545209
1           1  0.447114  1.525341  0.317252
2           2  0.507495  0.137863  0.886283
3           3  1.452867  1.888363  1.168101
4           4  0.901371 -0.704805  0.088335

比较:

In [38]:
pd.read_csv(io.StringIO(df.to_csv(index=False)))

Out[38]:
          a         b         c
0  0.109066 -1.112704 -0.545209
1  0.447114  1.525341  0.317252
2  0.507495  0.137863  0.886283
3  1.452867  1.888363  1.168101
4  0.901371 -0.704805  0.088335

您还可以选择通过传递index_col=0 告诉read_csv 第一列是索引列:

In [40]:
pd.read_csv(io.StringIO(df.to_csv()), index_col=0)

Out[40]:
          a         b         c
0  0.109066 -1.112704 -0.545209
1  0.447114  1.525341  0.317252
2  0.507495  0.137863  0.886283
3  1.452867  1.888363  1.168101
4  0.901371 -0.704805  0.088335

【讨论】:

很多时候,您从其他地方获得的数据集已经包含此列,因此了解如何使用正确的参数生成“正确的”数据集并没有真正的帮助。有没有办法在它已经存在时加载它时消除它? @CalvinKu 不幸的是,read_csv 没有 skipcols arg,在读取 csv 后,您可以只执行 df = df.drop(columns=df.columns[0]) 或者您可以先读取列,然后将列减去第一列类似于cols = pd.read_csv( ....., nrows=1).columns,然后再次重新读取df = pd.read_csv(....., usecols=cols[1:]),这避免了读取多余列然后将其删除的开销 最好在read_csv(..., index_col=[0]) 中包含方括号。也避免tickling the whole pre-0.16.1 deprecated index_col = False bug。 @smci 我看到了@cs95 发布的类似解决方案。只是想知道index_col=[0]index_col=0 更好吗? @MrRobot:我发布了上面的链接,告诉你原因:index_col = False was deprecated way back in 0.16.1,Python 无法真正区分bool Falseint 0,所以index_col = 0 也被弃用了.将列表括号放在零周围:[0].【参考方案2】:

这通常是由于您的 CSV 已与(未命名的)索引 (RangeIndex) 一起保存。

(实际上需要在保存 DataFrame 时进行修复,但这并不总是一种选择。)

解决方法:read_csvindex_col=[0] 参数

IMO,最简单的解决方案是将未命名的列读取为索引。为pd.read_csv 指定一个index_col=[0] 参数,这将在第一列中读取为索引。 (注意方括号)。

df = pd.DataFrame('x', index=range(5), columns=list('abc'))
df

   a  b  c
0  x  x  x
1  x  x  x
2  x  x  x
3  x  x  x
4  x  x  x

# Save DataFrame to CSV.
df.to_csv('file.csv')

【参考方案3】:

要获取所有未命名的列,您还可以使用正则表达式,例如df.drop(df.filter(regex="Unname"),axis=1, inplace=True)

【讨论】:

这对我来说非常有效,因为上面的 str.match 为我的日期格式的列名创建了 nans【参考方案4】:

另一种可能发生这种情况的情况是,如果您的数据被错误地写入您的csv 以使每一行都以逗号结尾。当您尝试将其读入df 时,这将在您的数据末尾留下一个未命名的列Unnamed: x

【讨论】:

我用usecols=range(0,10)截掉了未命名的列 这方面的一个例子是有诸如musical_instruments_store.csvcolor,item\nbrown,piano, 之类的数据: - 您在第一行缺少一列(例如,在这种情况下为空的价格,所以它应该是colour, item, price) - 第二行尾随逗号,因此需要清理数据(因此应改为 brown,piano【参考方案5】:

您可以对未命名的列执行以下操作:

    删除未命名的列 重命名它们(如果你想使用它们)

文件.csv

,A,B,C
0,1,2,3
1,4,5,6
2,7,8,9

#读取文件 df = pd.read_csv('file.csv')

方法一:删除未命名的列

# delete one by one like column is 'Unnamed: 0' so use it's name
df.drop('Unnamed: 0', axis=1, inplace=True)

#delete all Unnamed Columns in a single code of line using regex
df.drop(df.filter(regex="Unnamed"),axis=1, inplace=True)

方法 2:重命名未命名的列

df.rename(columns = 'Unnamed: 0':'Name', inplace = True)

如果您想在输入文件中写出空白标题,只需选择上面的“名称”为“”。

【讨论】:

只有方法 2 对我有用。非常感谢。完成了我的最后期限!【参考方案6】:

只需使用以下命令删除该列:del df['column_name']

【讨论】:

这可能是最简单的方法 @AnshumanKumar:不,不是,最简单的方法就是使用read_csv(..., index_col=[0])。通常对于 pandas,尝试解决问题而不是花 5 分钟阅读文档然后进行试验直到您解决它只会导致/推迟进一步的问题。诚然,pandas 文档不清楚、不完整且代码滞后(欢迎使用开源!)。这就是 github 的用途。【参考方案7】:

这样做很简单:

df = df.loc[:, ~df.columns.str.contains('^Unnamed')]

【讨论】:

【参考方案8】:

或者:

df = df.drop(columns=['Unnamed: 0'])

【讨论】:

【参考方案9】:
from IPython.display import display
import pandas as pd
import io


df = pd.read_csv('file.csv',index_col=[0])
df = pd.read_csv(io.StringIO(df.to_csv(index=False)))
display(df.head(5))

【讨论】:

以上是关于如何摆脱从 CSV 文件读取的 pandas DataFrame 中的“未命名:0”列?的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 pandas 从 GitHub 读取 CSV 文件

如何使用 pandas 从文件夹中读取和组合具有相似名称的 .csv 文件

如何在streamlit中从用户读取csv文件并转换为pandas数据框

如何使用代理上的熊猫从 url 读取_csv 文件?

pandas 可以自动从 CSV 文件中读取日期吗?

python pandas没有从csv文件中读取第一列