pandas的to_datetime时间转换使用及学习心得
前言
昨天在网赛中做了一道题，虽然是外国人的Englis题目，但是内容很有学习的价值，值得仔细的学习，今天就把我所收获的一部分记录下来。其一：做个学习的资料记录。其二：分享出来，供大家参考。
（收获了对处理大数据的又一次认识！！！）
这是一道将DataFrame的日期数据转换为python能认识的题目。这里重点讲一下to_datetime的部分使用。
首先说一下：
- 1/17/07 has the format "%m/%d/%y"
- 17-1-2007 has the format "%d-%m-%Y"
这是一部分的时间转换格式，通过以上的格式，你可以将DataFrame中的时间格式转换为以下等python格式：
0 2007-03-02 1 2007-03-22 2 2007-04-06 3 2007-04-14 4 2007-04-15 Name: date_parsed, dtype: datetime64[ns]
看见没有dtype:datetime64，这是转换过后的形式，其实你可以将原数据使用dtype查看列，来看它的格式。你会发现它是object形式的。这里说一下。这个object格式一般是python用来记录可变化的兑现的格式。这个格式它并不能认出是时间格式，尽管我们一眼就能看出（人和机器的区别在此）。
data = pd.read_csv('path') #这里我们得到data数据
data['date'].heade() #查看一下日期列的样子
0 01/02/1965 1 01/04/1965 2 01/05/1965 3 01/08/1965 4 01/09/1965 Name: Date, dtype: object
可以看出它为object格式，并非日期格式。
data['date_parsed'] = pd.to_datetime(data['date'],format="%m/%d/%y")
上面为 我们按python格式转换时间，并添加到新的一列中去。
dara['date_parsed'].head() #查看一下结果
0 1965-01-02 1 1965-01-04 2 1965-01-05 3 1965-01-08 4 1965-01-09 Name: data_parsed, dtype: datetime64[ns]
可以看到不论形式还是类型都改变了，当然这只是一点皮毛，如果只是这里点，这个博客意义不大
其实在使用上面语句转换时间是，并不是这么顺利：
/opt/conda/lib/python3.6/site-packages/pandas/core/tools/datetimes.py in _convert_listlike(arg, box, format, name, tz) 271 try: 272 result = array_strptime(arg, format, exact=exact, --> 273 errors=errors) 274 except tslib.OutOfBoundsDatetime: 275 if errors == 'raise': pandas/_libs/tslibs/strptime.pyx in pandas._libs.tslibs.strptime.array_strptime() ValueError: time data '1975-02-23T02:58:41.000Z' does not match format '%m/%d/%Y' (match)
一部分错误信息如上。
面对加载都要加载半天的数据出了错误，你真的是无助的，如果要去看数据怕是要看一天。
当然有人会说不是有错误信息吗？当然我知道，但是一但当信息量大了以后，当时是茫然的。花了半天查找其他时间的转换方式。无果。于是静下心来发现问题。可以看出它说有一下格式不能转换。
'1975-02-23T02:58:41.000Z'
所以我又换了一种格式将时分秒都匹配了，又提醒年月日不匹配。反复的验证后发现应该是原数据有问题，部分时间并不是同意的格式。哈哈发现问题了，我们可以修改了。
我第一次的修改方式为：
data['over_long'] = data['Date'].apply(len) #添加一列记录没行时间的长度 data.loc[data['over_long'] > 10] #输出大于正常数据的行 这里会发现缺失有那么几行在作怪！！！
normal_dates = data.loc[data['over_long'] < 11] #筛选出正常数据 normal_dates = normal_dates.copy() #拷贝 normal_dates['data_parsed'] = pd.to_datetime(normal_dates['Date'],format='%m/%d/%Y') #再次转换时间，发现没有报错了 哈哈 normal_dates['data_parsed'].head(10) #输出查看没问题的
以上是我的第一次解决方法。
后续在别人的指导下了解了其他的几种更好的方法。（毕竟我删除数据的方式不好）
第一种和第二种：
data['date_parsed'] = pd.to_datetime(data['Date'], format = "%m/%d/%Y", errors = 'coerce')
data['date_parsed'] = pd.to_datetime(data['Date'],infer_datetime_format=True)
两个都能实现我试了一下。毕竟对to_datetime不太熟悉所以犯了错。
OK！全部完成了。但是我想说的以上都不是最重要的。
最重要的是一种经验的掌握。当你面对大量的数据时千万不要紧张，它们也是小数据构成的，只要冷静下来，你就能想到方法来解决。这才是我想说的！！！与君共勉。
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对脚本之家的支持。
相关文章
这篇文章主要介绍了python导入时小括号的大作用，非常的简单实用，希望这个小技巧能够帮到大家2017-01-01
在本篇文章里小编给大家分享了关于python调用java类的方法，需要的朋友们可以参考下。2020-07-07
这篇文章主要介绍了Pytest运行方式及参数使用详细教程,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2023-06-06
下面小编就为大家带来一篇django定期执行任务(实例讲解)。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-11-11
这篇文章主要介绍了Python 实现ARP扫描与欺骗，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习吧2022-10-10
本文主要介绍了Python提取PDF中的图片的实现示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-07-07
这篇文章主要为大家详细介绍了使用Python的matplotlib库生成随机漫步图，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-08-08
在 Python 编程中,我们经常需有时候,我们可能需要将多个文本文件合并成一个文件,要处理文本文件,本文就来介绍下如何使用 wxPython 模块编写一个简单的程序,能够让用户选择多个文本文件,感兴趣的可以了解下2023-08-08
今天小编就为大家分享一篇pycharm 将python文件打包为exe格式的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
密码的使用最早可以追溯到古罗马时期，《高卢战记》有描述恺撒曾经使用密码来传递信息，即所谓的“恺撒密码”。本文将利用Python实现简易的凯撒密码，感兴趣的可以了解一下2022-09-09
最新评论