python pandas模糊匹配 读取Excel后 获取指定指标的操作

 更新时间:2021年03月05日 11:07:02   作者:D_grey  
这篇文章主要介绍了python pandas模糊匹配 读取Excel后 获取指定指标的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

1.首先读取Excel文件

数据代表了各个城市店铺的装修和配置费用,要统计出装修和配置项的总费用并进行加和计算;

2.pandas实现过程

import pandas as pd
#1.读取数据
df = pd.read_excel(r'./data/pfee.xlsx')
print(df)

cols = list(df.columns)
print(cols)

#2.获取含有装修 和 配置 字段的数据
zx_lists=[]
pz_lists=[]
for name in cols:
 if '装修' in name:
  zx_lists.append(name)
 elif '配置' in name:
  pz_lists.append(name)
print(zx_lists)
print(pz_lists)

#3.对装修和配置项费用进行求和计算
df['装修-求和'] =df[zx_lists].apply(lambda x:x.sum(),axis=1)
df['配置-求和'] = df[pz_lists].apply(lambda x:x.sum(),axis=1)
print(df)

补充:pandas 中dataframe 中的模糊匹配 与pyspark dataframe 中的模糊匹配

1.pandas dataframe

匹配一个很简单,批量匹配如下

df_obj[df_obj['title'].str.contains(r'.*?n.*')] #使用正则表达式进行模糊匹配,*匹配0或无限次,?匹配0或1次

pyspark dataframe 中模糊匹配有两种方式

2.spark dataframe api, filter rlike 联合使用

df1=df.filter("uri rlike 
 'com.tencent.tmgp.sgame|%E8%80%85%E8%8D%A3%E8%80%80_|android.ugc.live|\
 %e7%88f%e8%a7%86%e9%a2%91|%E7%%8F%E8%A7%86%E9%A2%91'").groupBy("uri").\
 count().sort("count", ascending=False)

注意点:

1.rlike 后面进行批量匹配用引号包裹即可

2.rlike 中要匹配特殊字符的话,不需要转义

3.rlike '\\\\bapple\\\\b' 虽然也可以匹配但是匹配数量不全,具体原因不明,欢迎讨论。

In [5]: df.filter("name rlike '%'").show()
+---+------+-----+
|age|height| name|
+---+------+-----+
| 4| 140|A%l%i|
| 6| 180| i%ce|
+---+------+-----+

3.spark sql

spark.sql("select uri from t where uri like '%com.tencent.tmgp.sgame%' or uri like 'douyu'").show(5)

如果要批量匹配的话,就需要在后面继续添加uri like '%blabla%',就有点繁琐了。

对了这里需要提到原生sql 的批量匹配,regexp 就很方便了,跟rlike 有点相似

mysql> select count(*) from url_parse where uri regexp 'android.ugc.live|com.tencent.tmgp.sgame';
+----------+
| count(*) |
+----------+
|  9768 |
+----------+
1 row in set (0.52 sec)

于是这里就可以将sql中regexp 应用到spark sql 中

In [9]: spark.sql('select * from t where name regexp "%l|t|_"').show()
+---+------+------+
|age|height| name|
+---+------+------+
| 1| 150|Al_ice|
| 4| 140| A%l%i|
+---+------+------+

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。如有错误或未考虑完全的地方,望不吝赐教。

相关文章

  • 详解Python函数中的几种参数

    详解Python函数中的几种参数

    这篇文章主要为大家介绍了Python参数的使用,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-12-12
  • 如何使用Tkinter进行窗口的管理与设置

    如何使用Tkinter进行窗口的管理与设置

    Tkinter是Python的标准GUI库,它实际是建立在Tk技术上的。在大多数Unix平台以及Windows系统上都可用
    2021-06-06
  • pandas将Series转成DataFrame的实现

    pandas将Series转成DataFrame的实现

    本文主要介绍了pandas将Series转成DataFrame的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-01-01
  • python数据可视化之日期折线图画法

    python数据可视化之日期折线图画法

    这篇文章主要为大家详细介绍了python数据可视化之日期折线图画法,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-04-04
  • 如何遍历python中的对象属性

    如何遍历python中的对象属性

    这篇文章主要介绍了如何遍历python中的对象属性问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-11-11
  • 解决.ui文件生成的.py文件运行不出现界面的方法

    解决.ui文件生成的.py文件运行不出现界面的方法

    今天小编就为大家分享一篇解决.ui文件生成的.py文件运行不出现界面的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-06-06
  • Python中随机休眠技术原理与应用详解

    Python中随机休眠技术原理与应用详解

    在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,"随机休眠"就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧
    2025-03-03
  • PyCharm在新窗口打开项目的方法

    PyCharm在新窗口打开项目的方法

    今天小编就为大家分享一篇PyCharm在新窗口打开项目的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01
  • 使用Python对网易云歌单数据分析及可视化

    使用Python对网易云歌单数据分析及可视化

    这篇文章主要介绍了使用Python对网易云歌单数据分析及可视化,本项目以数据采集、处理、分析及数据可视化为项目流程,需要的朋友可以参考下
    2023-03-03
  • python中退出多层循环的方法

    python中退出多层循环的方法

    这篇文章主要介绍了python中退出多层循环的方法,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2018-11-11

最新评论