使用 Pandas DataFrame 将列表等列值转换为多行
Posted
技术标签:
【中文标题】使用 Pandas DataFrame 将列表等列值转换为多行【英文标题】:converting list like column values into multiple rows using Pandas DataFrame 【发布时间】:2018-09-18 12:38:36 【问题描述】:CSV 文件:(sample1.csv)
Location_City, Location_State, Name, hobbies
Los Angeles, CA, John, "['Music', 'Running']"
Texas, TX, Jack, "['Swimming', 'Trekking']"
我想将 CSV 的 hobbies 列转换为以下输出
Location_City, Location_State, Name, hobbies
Los Angeles, CA, John, Music
Los Angeles, CA, John, Running
Texas, TX, Jack, Swimming
Texas, TX, Jack, Trekking
我已将csv读入dataframe
,但不知道如何转换?
data = pd.read_csv("sample1.csv")
df=pd.DataFrame(data)
df
【问题讨论】:
你能澄清一下爱好列中的值是列表还是字符串? 当它进入数据帧时,它显示 dtype:object 【参考方案1】:您可以使用findall
或extractall
从hobbies
列中获取列表,然后用chain.from_iterable
展平并重复其他列:
a = df['hobbies'].str.findall("'(.*?)'").astype(np.object)
lens = a.str.len()
from itertools import chain
df1 = pd.DataFrame(
'Location_City' : df['Location_City'].values.repeat(lens),
'Location_State' : df['Location_State'].values.repeat(lens),
'Name' : df['Name'].values.repeat(lens),
'hobbies' : list(chain.from_iterable(a.tolist())),
)
或者创建Series
,删除第一级和join
为原来的DataFrame
:
df1 = (df.join(df.pop('hobbies').str.extractall("'(.*?)'")[0]
.reset_index(level=1, drop=True)
.rename('hobbies'))
.reset_index(drop=True))
print (df1)
Location_City Location_State Name hobbies
0 Los Angeles CA John Music
1 Los Angeles CA John Running
2 Texas TX Jack Swimming
3 Texas TX Jack Trekking
【讨论】:
【参考方案2】:我们可以使用0.25.0
版本中引入的pandas.DataFrame.explode
函数来解决这个问题,如果您有相同或更高版本,您可以使用以下代码。
爆破函数参考:https://pandas.pydata.org/docs/reference/api/pandas.DataFrame.explode.html
import pandas as pd
import ast
data =
'Location_City': ['Los Angeles','Texas'],
'Location_State': ['CA','TX'],
'Name': ['John','Jack'],
'hobbies': ["['Music', 'Running']", "['Swimming', 'Trekking']"]
df = pd.DataFrame(data)
# Converting a string representation of a list into an actual list object
list_eval = lambda x: ast.literal_eval(x)
df['hobbies'] = df['hobbies'].apply(list_eval)
# Exploding the list
df = df.explode('hobbies')
print(df)
Location_City Location_State Name hobbies
0 Los Angeles CA John Music
0 Los Angeles CA John Running
1 Texas TX Jack Swimming
1 Texas TX Jack Trekking
【讨论】:
以上是关于使用 Pandas DataFrame 将列表等列值转换为多行的主要内容,如果未能解决你的问题,请参考以下文章
pandas将dataframe的索引转化为列表list数据(convert dataframe index into a list)
pandas将列表list插入到dataframe的单元格中pandas使用read_csv函数读取文件并设置保留数值的前置0( leading zeroes)