pandas数据处理清洗实现中文地址拆分案例
更新时间：2021年06月16日 10:47:16 作者：Lu-顺
因为后续数据分析工作需要用到地理维度进行分析，所以需要把login_place字段进行拆分成：国家、省份、地区。感兴趣的可以了解一下
一、案例场景
字段login_place，一共267725行记录,随机15条记录如下：
后续数据分析工作需要用到地理维度进行分析，所以需要把login_place字段进行拆分成：国家、省份、地区。
二、初步方案
第三方中文分词库：jieba，可以对文本进行拆分。使用参考资料：jieba库的使用。
初步方案：
- 用jieba.cut()将文本拆分为单词列表list_word;
- 分支判断list_word长度，赋值国家、城市、地区。
代码：（抽取1000条记录，看一下我这台机器的运行时间）
%%time
# 地区拆分
for i in range(1000):
list_word=[word for word in jieba.cut(df.iloc[i,0])]
if len(list_word)==1:
if '中国' in df.iloc[i,0]:
df.loc[i,'国家']=df.iloc[i,0][0:2]
df.loc[i,'省份']=df.iloc[i,0][2:]
else:
df.loc[i,'国家']=df.iloc[i,0]
elif len(list_word)==2:
df.loc[i,'国家']=list_word[0]
df.loc[i,'省份']=list_word[1]
else:
df.loc[i,'国家']=list_word[0]
df.loc[i,'省份']=list_word[1]
df.loc[i,'地区']=list_word[2]
if i%100==0:
print(f'{round(i*100/(int(1000)),2)}%')
1000条用了1min 37秒。如果全部进行数据解析等待时间应该很久很久。有很多重复的记录，这里先去重，再跑一次代码。
去重之后，只有404不重复的记录。
再跑一遍代码，并且把结果保存到本地文件‘df_test.xlsx'。便于查看jieba第三方分词库对本次数据拆分是不是想要的结果。
国家：
‘国家'这一列，中国台湾没有拆分出来。
代码试了一下，发现‘中国台湾'确实拆分不了。证实了台湾确实中国不可缺失的一部分。
省份：
‘省份'这一列拆分的更加糟糕。
总结：总数据集运行时间长，切词不准确。需要优化拆分方案！
三、优化方案
在上面查看Excel文件时候发现‘login_place'字段的数据有以下特点：
- 整个数据集分类两类：‘中国'和外国；
- 中国的省份大多是两个字，除了‘黑龙江'和‘内蒙古'；
- 外国的，只有国家记录。
优化方案：
- 对国家判断，形成分支：中国和外国；
- 对于中国，再判断省份是不是‘黑龙江'和‘内蒙古'。
- 不是：可以直接切分[2:4]，提取省份。[4:]，提取地区；
- 是：[2:5]提取省份。[5:]提取地区
%%time
# 地区拆分
for i in range(df.shape[0]):
if '中国' in df.iloc[i,0] :
df.loc[i,'国家'] = '中国'
if ('内蒙古' in df.iloc[i,0]) or ('黑龙江' in df.iloc[i,0]):
# print(df.iloc[i,0])
df.loc[i,'省份'] = df.iloc[i,0][2:5]
if len(df.iloc[i,0]) > 5:
df.loc[i,'地区'] = df.iloc[i,0][5:]
else:
df.loc[i,'省份'] = df.iloc[i,0][2:4]
df.loc[i,'地区'] = df.iloc[i,0][4:]
else:
list_word = [word for word in jieba.cut(df.iloc[i,0])]
if len(list_word) == 1:
df.loc[i,'国家'] = df.iloc[i,0][0:2]
df.loc[i,'省份'] = df.iloc[i,0][2:]
else:
df.loc[i,'国家'] = list_word[0]
df.loc[i,'省份'] = list_word[1]
if i%100==0:
print(f'{round(i*100/(int(df.shape[0])),2)}%')
保存Excel文件，再次查看拆分情况。经过去重后的测试集拆分符合想要的结果。
运行未去重源数据集结果：
到此这篇关于pandas数据处理清洗实现中文地址拆分案例的文章就介绍到这了,更多相关pandas 中文地址拆分内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
这篇文章主要为大家介绍了Python异常处理之常见异常类型绝佳实践详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2023-09-09
这篇文章主要介绍了Python写一个简单上课点名系统，文章围绕Python得性概念资料写一个简的得上课点名系统，并附上详细的代码即过程总结,需要的朋友可以参考一下，希望对你有所帮助2021-11-11
本篇文章主要介绍了详解python之多进程和进程池(Processing库)，非常具有实用价值，需要的朋友可以参考下2017-06-06
ROS通过一个叫CvBridge的功能包，将获取的图像数据转换成OpenCV的格式，OpenCV处理之后，传回给ROS进行图像显示（应用），这篇文章主要介绍了Python中ROS和OpenCV结合处理图像问题,需要的朋友可以参考下2022-06-06
本文主要介绍了Jupyter notebook运行后打不开网页的问题解决，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-03-03
这篇文章主要介绍了python 求两个向量的顺时针夹角操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-03-03
这篇文章主要介绍了python如何给字典的键对应的值为字典项的字典赋值，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-07-07
这篇文章主要介绍了Python入门(六)Python数据类型,Python是一门非常强大好用的语言,也有着易上手的特性,本文为入门教程,需要的朋友可以参考下2023-04-04
在这个数字化时代,数据的安全和隐私变得越来越重要,所以本文小编就来带大家实现一个简单但功能强大的加密解密系统,并深入探讨它是如何工作的,有兴趣的可以了解下2023-09-09
python3 tkinter实现点击一个按钮跳出另一个窗口的方法
今天小编就为大家分享一篇python3 tkinter实现点击一个按钮跳出另一个窗口的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
最新评论