如何使用嵌套字典列表展平熊猫数据框中的列
Posted
技术标签:
【中文标题】如何使用嵌套字典列表展平熊猫数据框中的列【英文标题】：How to flatten a column in a pandas dataframe with a list of nested dictionaries 【发布时间】：2020-09-06 16:06:31 【问题描述】：我收到了单个 JSON（500 个 JSON）并通过 append() 方法将它们添加到现有列表的末尾进行了修改。
d_path = r'--PATH HERE--'
d_files = [f for f in listdir(d_path) if isfile(join(d_path,f))]
n = num_data
d_dicts=[]
for counter,d_file in enumerate(d_files):
with open(d_path+'\\'+d_file,encoding="utf8") as json_data:
d_dicts.append(json.load(json_data))
if counter == num_data:
break
在这一步之后，我尝试使用 json_normalize 将 JSON 数据标准化为一个平面表（Pandas DataFrame，总共 500 行）。
df = json_normalize(d)
其他信息：
class 'pandas.core.frame.DataFrame'
dtypes: float64(8), int64(3), object(9)
到目前为止，除了一列之外，它运行良好。我最终得到了一列，每行都有一个字典列表。我试图寻找解决方案，但找不到对我有帮助的解决方案。 每行都有一个嵌套字典。
这是一个名为 Info_column 的列的三行示例，其中包含虚构数据但结构相同：
Info_column
[**'Greeting':** 'Good day', 'Group': '1.2', 'Window': None,
'Value1': 17.0, 'Value2': 13.23, 'Value3': 11.0,
'Date1': '2013-09-04', 'Date2': '2012-09-05', 'Date3': '2015-07-22',
'Married': False, 'Country': None,
'Person': ['Age': '25', 'Number': '82', 'Value4': 19.2,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]]
['Greeting': 'Good afternoon', 'Group': '1.4', 'Window': None,
'Value1': 12.0, 'Value2': 9.23, 'Value3': 2.0,
'Date1': '2016-09-04', 'Date2': '2016-09-16', 'Date3': '2016-07-05',
'Married': True, 'Country': Germany,
'Person': ['Age': '30', 'Number': '9', 'Value4': 10.0,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]]
['Greeting': 'Good evening', 'Group': '3.0', 'Window': True,
'Value1': 24.0, 'Value2': 15.5, 'Value3': 2.0,
'Date1': '2019-02-01', 'Date2': '2019-05-05', 'Date3': '2018-05-03',
'Married': False, 'Country': Spain,
'Person': ['Age': '24', 'Number': '12', 'Value4': 8.2,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]]
正确的方法是什么？
我的目标是将此列中每一行的信息作为我的数据框中的附加列。
我需要的列作为我的 DataFrame df 中其他列旁边的附加列：
Greeting, Group, Window, Value1, Value2, Value3, Date1, Date2, Date3, Married, Country, Person_Age, Person_Number, Person_Value4, Person_Column1, Person_Column2, Person_Column3, Person_Column4
非常感谢您的帮助
问候， 爱丽儿
【问题讨论】：
输入似乎不是有效的 python 格式。实际上，这三行并没有包含在更大的列表或结构中。Info_column 实际上是一个 pandas 数据框列？
嗨，Alexandre，我在问题中添加了第一步。希望对您有所帮助，给您带来的困惑深表歉意。在使用 append() 方法将所有 JSON 放在一个列表中并使用 json_normalize 之后，它在除下面显示的列之外的所有列上都运行良好。每行都有一个嵌套字典，我不知道如何解决这个问题
【参考方案1】：
您可以尝试以下方法：
def f(x):
d =
# Each element of the dict
for k,v in x.items():
# Check value type
if isinstance(v,list):
# If list: iter sub dict
for k_s, v_s in v[0].items():
d["_".format(k, k_s)] = v_s
else: d[k] = v
return pd.Series(d)
out = df.join(df["Info_column"].apply(f))\
.drop("Info_column", axis=1)
解释：
所有问题都是关于扁平化Info_column。为此，我们定义了一个扁平化函数："flatten"。它执行以下操作：
list：
遍历所有子元素并将它们添加到输出中
父键是当前键的前缀
其他：添加元素
使用apply 将flatten 函数应用于Info_column
使用join将当前数据帧与上一步的输出连接起来
使用drop 和axis=1 删除Info_column。
完整代码+插图：
# Create dummy dataset with 3 columns
data = [["a", 1, 'Greeting': 'Good day', 'Group': '1.2', 'Window': None,
'Value1': 17.0, 'Value2': 13.23, 'Value3': 11.0,
'Date1': '2013-09-04', 'Date2': '2012-09-05', 'Date3': '2015-07-22',
'Married': False, 'Country': None,
'Person': ['Age': '25', 'Number': '82', 'Value4': 19.2,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]],
["b", 5, 'Greeting': 'Good afternoon', 'Group': '1.4', 'Window': None,
'Value1': 12.0, 'Value2': 9.23, 'Value3': 2.0,
'Date1': '2016-09-04', 'Date2': '2016-09-16', 'Date3': '2016-07-05',
'Married': True, 'Country': "Germany",
'Person': ['Age': '30', 'Number': '9', 'Value4': 10.0,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]],
["c", 2, 'Greeting': 'Good evening', 'Group': '3.0', 'Window': True,
'Value1': 24.0, 'Value2': 15.5, 'Value3': 2.0,
'Date1': '2019-02-01', 'Date2': '2019-05-05', 'Date3': '2018-05-03',
'Married': False, 'Country': "Spain",
'Person': ['Age': '24', 'Number': '12', 'Value4': 8.2,
'Column1': None, 'Column2': None, 'Column3': None, 'Column4': None]]]
df = pd.DataFrame(data, columns=["colA", "colB", "Info_column"])
print(df)
# colA colB Info_column
# 0 a 1 'Greeting': 'Good day', 'Group': '1.2', 'Wind...
# 1 b 5 'Greeting': 'Good afternoon', 'Group': '1.4',...
# 2 c 2 'Greeting': 'Good evening', 'Group': '3.0', '...
# Step 1
def flatten(x):
d =
# Each element of the dict
for k,v in x.items():
# Check value type
if isinstance(v,list):
# If list: iter sub dict
for k_s, v_s in v[0].items():
d["_".format(k, k_s)] = v_s
else: d[k] = v
return pd.Series(d)
# Step 2
print(df["Info_column"].apply(flatten))
# Greeting Group Window Value1 Value2 Value3 ... Person_Number Person_Value4 Person_Column1 Person_Column2 Person_Column3 Person_Column4
# 0 Good day 1.2 None 17.0 13.23 11.0 ... 82 19.2 None None None None
# 1 Good afternoon 1.4 None 12.0 9.23 2.0 ... 9 10.0 None None None None
# 2 Good evening 3.0 True 24.0 15.50 2.0 ... 12 8.2 None None None None
# [3 rows x 18 columns]
# Step 3
print(df.join(df["Info_column"].apply(flatten)))
# colA colB Info_column Greeting ... Person_Column1 Person_Column2 Person_Column3 Person_Column4
# 0 a 1 'Greeting': 'Good day', 'Group': '1.2', 'Wind... Good day ... None None None None
# 1 b 5 'Greeting': 'Good afternoon', 'Group': '1.4',... Good afternoon ... None None None None
# 2 c 2 'Greeting': 'Good evening', 'Group': '3.0', '... Good evening ... None None None None
# [3 rows x 21 columns]
# Step 4
out = df.join(df["Info_column"].apply(flatten)).drop("Info_column", axis=1)
print(out)
# colA colB Greeting Group Window Value1 ... Person_Number Person_Value4 Person_Column1 Person_Column2 Person_Column3 Person_Column4
# 0 a 1 Good day 1.2 None 17.0 ... 82 19.2 None None None None
# 1 b 5 Good afternoon 1.4 None 12.0 ... 9 10.0 None None None None
# 2 c 2 Good evening 3.0 True 24.0 ... 12 8.2 None None None None
# [3 rows x 20 columns]
print(out.columns)
# Index(['colA', 'colB', 'Greeting', 'Group', 'Window', 'Value1', 'Value2',
# 'Value3', 'Date1', 'Date2', 'Date3', 'Married', 'Country', 'Person_Age',
# 'Person_Number', 'Person_Value4', 'Person_Column1', 'Person_Column2',
# 'Person_Column3', 'Person_Column4'],
# dtype='object')
【讨论】：
您好 Alexandre，非常感谢您的帮助！我尝试使用它，但得到了 AttributeError：'list' 对象没有属性 'items'。所以我将 [0] 添加到“for k,v in row.items():”（现在：for k,v in row[0].items():) 现在它可以工作了，但他只给了我第一个像你的例子中的行。我怎样才能让他遍历我列中的所有行？ 你能用 2 或 3 行的样本更新问题吗 您好 Alexandre，感谢您的回复！我将问题更新为 3 行 您好 Alexandre，抱歉回复晚了。结果很完美！我只将 x.items() 中的 k,v: 切换为 x[0].items() 中的 k,v: 非常感谢！你为我省去了很多麻烦:) 完美！以上是关于如何使用嵌套字典列表展平熊猫数据框中的列的主要内容，如果未能解决你的问题，请参考以下文章