python中DataFrame数据合并merge()和concat()方法详解

 更新时间:2022年07月05日 08:38:26   作者:侯小啾  
Pandas提供了很多合并Series和Dataframe的强大的功能,通过这些功能可以方便的进行数据分析,下面这篇文章主要给大家介绍了关于python中DataFrame数据合并merge()和concat()方法的相关资料,需要的朋友可以参考下

merge()

1.常规合并

①方法1

指定一个参照列,以该列为准,合并其他列。

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")
df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

②方法2

要实现该合并,也可以通过索引来合并,即以index列为基准。将left_index 和 right_index 都设置为True
即可。(left_index 和 right_index 都默认为False,left_index表示左表以左表数据的index为基准, right_index表示右表以右表数据的index为基准。)

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

df_merge = pd.merge(df1, df2, left_index=True, right_index=True)
print(df_merge)

相比方法①,区别在于,如图,方法②合并出的数据中有重复列。

重要参数

pd.merge(right,how=‘inner’, on=“None”, left_on=“None”, right_on=“None”, left_index=False, right_index=False )

参数描述
left左表,合并对象,DataFrame或Series
right右表,合并对象,DataFrame或Series
how合并方式,可以是left(左合并), right(右合并), outer(外合并), inner(内合并)
on基准列 的列名
left_on左表基准列列名
right_on右表基准列列名
left_index左列是否以index为基准,默认False,否
right_index右列是否以index为基准,默认False,否

其中,left_index与right_index 不能与 on 同时指定。

合并方式 left right outer inner

准备数据‘

新准备一组数据:

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '004', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

inner(默认)

使用来自两个数据集的键的交集

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

outer

使用来自两个数据集的键的并集

df_merge = pd.merge(df1, df2, on='id', how="outer")
print(df_merge)

left

使用来自左数据集的键

df_merge = pd.merge(df1, df2, on='id', how='left')
print(df_merge)

right

使用来自右数据集的键

df_merge = pd.merge(df1, df2, on='id', how='right')
print(df_merge)

2.多对一合并

import pandas as pd

df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 101, 104],
                    'num2': [110, 102, 121],
                    'num3': [105, 120, 113]})
df2 = pd.DataFrame({'id': ['001', '001', '003'],
                    'num4': [80, 86, 79]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

如图,df2中有重复id1的数据。

合并

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

合并结果如图所示:

依然按照默认的Inner方式,使用来自两个数据集的键的交集。且重复的键的行会在合并结果中体现为多行。

3.多对多合并

如图表1和表2中都存在多行id重复的。

import pandas as pd
df1 = pd.DataFrame({'id': ['001', '002', '002', '002', '003'],
                    'num1': [120, 101, 104, 114, 123],
                    'num2': [110, 102, 121, 113, 126],
                    'num3': [105, 120, 113, 124, 128]})
df2 = pd.DataFrame({'id': ['001', '001', '002', '003', '001'],
                    'num4': [80, 86, 79, 88, 93]})
print(df1)
print("=======================================")
print(df2)
print("=======================================")

df_merge = pd.merge(df1, df2, on='id')
print(df_merge)

concat()

pd.concat(objs, axis=0, join=‘outer’, ignore_index:bool=False,keys=None,levels=None,names=None, verify_integrity:bool=False,sort:bool=False,copy:bool=True)

参数描述
objsSeries,DataFrame或Panel对象的序列或映射
axis默认为0,表示列。如果为1则表示行。
join默认为"outer",也可以为"inner"
ignore_index默认为False,表示保留索引(不忽略)。设为True则表示忽略索引。

其他重要参数通过实例说明。

1.相同字段的表首位相连

首先准备三组DataFrame数据:

import pandas as pd
df1 = pd.DataFrame({'id': ['001', '002', '003'],
                    'num1': [120, 114, 123],
                    'num2': [110, 102, 121],
                    'num3': [113, 124, 128]})
df2 = pd.DataFrame({'id': ['004', '005'],
                    'num1': [120, 101],
                    'num2': [113, 126],
                    'num3': [105, 128]})
df3 = pd.DataFrame({'id': ['007', '008', '009'],
                    'num1': [120, 101, 125],
                    'num2': [113, 126, 163],
                    'num3': [105, 128, 114]})


print(df1)
print("=======================================")
print(df2)
print("=======================================")
print(df3)

合并

dfs = [df1, df2, df3]
result = pd.concat(dfs)
print(result)

如果想要在合并后,标记一下数据都来自于哪张表或者数据的某类别,则也可以给concat加上 参数keys

result = pd.concat(dfs, keys=['table1', 'table2', 'table3'])
print(result)

此时,添加的keys与原来的index组成元组,共同成为新的index。

print(result.index)

2.横向表合并(行对齐)

准备两组DataFrame数据:

import pandas as pd
df1 = pd.DataFrame({'num1': [120, 114, 123],
                    'num2': [110, 102, 121],
                    'num3': [113, 124, 128]}, index=['001', '002', '003'])
df2 = pd.DataFrame({'num3': [117, 120, 101, 126],
                    'num5': [113, 125, 126, 133],
                    'num6': [105, 130, 128, 128]}, index=['002', '003', '004', '005'])

print(df1)
print("=======================================")
print(df2)

当axis为默认值0时:

result = pd.concat([df1, df2])
print(result)

横向合并需要将axis设置为1

result = pd.concat([df1, df2], axis=1)
print(result)

对比以上输出差异。

  • axis=0时,即默认纵向合并时,如果出现重复的行,则会同时体现在结果中
  • axis=1时,即横向合并时,如果出现重复的列,则会同时体现在结果中。

3.交叉合并

result = pd.concat([df1, df2], axis=1, join='inner')
print(result)

总结

到此这篇关于python中DataFrame数据合并merge()和concat()方法的文章就介绍到这了,更多相关python数据合并merge()和concat()方法内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Python安装OpenCV的示例代码

    Python安装OpenCV的示例代码

    这篇文章主要介绍了Python安装OpenCV的示例代码,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-03-03
  • Python Unittest原理及基本使用方法

    Python Unittest原理及基本使用方法

    这篇文章主要介绍了Python Unittest原理及基本使用方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11
  • Python脚本传参数argparse模块的使用

    Python脚本传参数argparse模块的使用

    这篇文章主要介绍了Python脚本传参数argparse模块的使用,文章围绕argparse模块的相关资料展开具体的使用方法,具有一的参考价值,需要的小伙伴可以参考一下
    2022-03-03
  • Python语法def语句及复杂用法实例探究

    Python语法def语句及复杂用法实例探究

    在 Python 中,def 是用于定义函数的关键字,本文将深入介绍def的用法和特点,详细说明如何定义函数、传递参数、返回值以及更复杂的用法
    2024-01-01
  • django中间件及自定义中间件的实现方法

    django中间件及自定义中间件的实现方法

    中间件就是在目标和结果之间进行的额外处理过程,在Django中就是request和response之间进行的处理,相对来说实现起来比较简单,这篇文章主要介绍了django中间件以及自定义中间件 ,需要的朋友可以参考下
    2023-06-06
  • python MultipartEncoder传输zip文件实例

    python MultipartEncoder传输zip文件实例

    这篇文章主要介绍了python MultipartEncoder传输zip文件实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-04-04
  • Python实现合并与拆分多个PDF文档中的指定页

    Python实现合并与拆分多个PDF文档中的指定页

    这篇文章主要为大家详细介绍了如何使用Python实现将多个PDF文档中的指定页合并生成新的PDF以及拆分PDF,感兴趣的小伙伴可以参考一下
    2025-03-03
  • Python多线程采集二手房源数据信息流程详解

    Python多线程采集二手房源数据信息流程详解

    这篇文章主要介绍了Python多线程采集二手房源数据信息流程,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习吧
    2023-05-05
  • pycharm修改file type方式

    pycharm修改file type方式

    今天小编就为大家分享一篇pycharm修改file type方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-11-11
  • 详解利用django中间件django.middleware.csrf.CsrfViewMiddleware防止csrf攻击

    详解利用django中间件django.middleware.csrf.CsrfViewMiddleware防止csrf

    这篇文章主要介绍了详解利用django中间件django.middleware.csrf.CsrfViewMiddleware防止csrf攻击,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-10-10

最新评论