脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Python中文分词工具之结巴分词

Python中文分词工具之结巴分词用法实例总结【经典案例】

 更新时间：2017年04月15日 10:27:00   作者：捂汗县长  
这篇文章主要介绍了Python中文分词工具之结巴分词用法,结合实例形式总结分析了Python针对中文文件的读取与分词操作过程中遇到的问题与解决方法,需要的朋友可以参考下

本文实例讲述了Python中文分词工具之结巴分词用法。分享给大家供大家参考，具体如下：

结巴分词工具的安装及基本用法，前面的文章《Python结巴中文分词工具使用过程中遇到的问题及解决方法》中已经有所描述。这里要说的内容与实际应用更贴近——从文本中读取中文信息，利用结巴分词工具进行分词及词性标注。

示例代码如下：

#coding=utf-8
import jieba
import jieba.posseg as pseg
import time
t1=time.time()
f=open("t_with_splitter.txt","r") #读取文本
string=f.read().decode("utf-8")
words = pseg.cut(string) #进行分词
result="" #记录最终结果的变量
for w in words:
   result+= str(w.word)+"/"+str(w.flag) #加词性标注
f=open("t_with_POS_tag.txt","w") #将结果保存到另一个文档中
f.write(result)
f.close()
t2=time.time()
print("分词及词性标注完成，耗时："+str(t2-t1)+"秒。") #反馈结果

其中t_with_splitter.txt文件内容如下：

脚本之家是国内专业的网站建设资源、脚本编程学习类网站，提供asp、php、asp.net、javascript、jquery、vbscript、dos批处理、网页制作、网络编程、网站建设等编程资料。

Python2.7.9平台运行后出现如下图所示的错误提示：

查阅相关资料后发现，需要在开头加上：

import sys
reload(sys)
sys.setdefaultencoding( "utf-8" )

最终代码应为：

#coding=utf-8
import jieba
import jieba.posseg as pseg
import time
import sys
reload(sys)
sys.setdefaultencoding( "utf-8" )
t1=time.time()
f=open("t_with_splitter.txt","r") #读取文本
string=f.read().decode("utf-8")
words = pseg.cut(string) #进行分词
result="" #记录最终结果的变量
for w in words:
   result+= str(w.word)+"/"+str(w.flag) #加词性标注
f=open("t_with_POS_tag.txt","w") #将结果保存到另一个文档中
f.write(result)
f.close()
t2=time.time()
print("分词及词性标注完成，耗时："+str(t2-t1)+"秒。") #反馈结果

运行成功：

Editplus打开t_with_POS_tag.txt文件如下图所示：

更多关于Python相关内容可查看本站专题：《Python字典操作技巧汇总》、《Python字符串操作技巧汇总》、《Python常用遍历技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》及《Python入门与进阶经典教程》

希望本文所述对大家Python程序设计有所帮助。

您可能感兴趣的文章:

相关文章

  • python文件及目录操作代码汇总

    python文件及目录操作代码汇总

    这篇文章主要介绍了python文件及目录操作代码汇总,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-07-07
  • Python浅析生成器generator的使用

    Python浅析生成器generator的使用

    生成器generator在循环过程中，按照某种算法推算数据，不必创建容器存储完整的结果，从而节省内存空间。数据量越大，优势越明显。以上作用也称之为延迟操作或惰性操作，通俗的讲就是在需要的时候才计算结果，而不是一次构建出所有结果
    2022-07-07
  • python获取http请求响应头headers中的数据的示例

    python获取http请求响应头headers中的数据的示例

    这篇文章主要介绍了python获取http请求响应头headers中的数据，本文通过示例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-02-02
  • Python3之外部文件调用Django程序操作model等文件实现方式

    Python3之外部文件调用Django程序操作model等文件实现方式

    这篇文章主要介绍了Python3之外部文件调用Django程序操作model等文件实现方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-04-04
  • pycharm中:OSError:[WinError 1455]页面文件太小无法完成操作问题的多种解决方法

    pycharm中:OSError:[WinError 1455]页面文件太小无法完成操作问题的多种解决方法

    这篇文章主要给大家介绍了关于pycharm中:OSError:[WinError 1455]页面文件太小无法完成操作问题的多种彻底解决方法,文中通过图文介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2023-02-02
  • 使用npy转image图像并保存的实例

    使用npy转image图像并保存的实例

    这篇文章主要介绍了使用npy转image图像并保存的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-07-07
  • Python使用日志模块快速调试代码并记录异常信息

    Python使用日志模块快速调试代码并记录异常信息

    本文详细介绍了Python logging日志模块的使用方法，包括如何在代码中使用logging记录调试信息、如何设置日志级别、如何记录异常信息等。通过本文的指南，读者可以快速学会如何使用logging模块进行调试，并保留有用的日志信息，便于后续排查问题和优化代码
    2023-04-04
  • python误差棒图errorbar()函数实例解析

    python误差棒图errorbar()函数实例解析

    这篇文章主要介绍了python误差棒图errorbar()函数实例解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-02-02
  • 一文详解Python中Reduce函数轻松解决复杂数据聚合

    一文详解Python中Reduce函数轻松解决复杂数据聚合

    这篇文章主要为大家介绍了Python中Reduce函数轻松解决复杂数据聚合示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-08-08
  • 定位python内存泄漏问题及解决

    定位python内存泄漏问题及解决

    这篇文章主要介绍了定位python内存泄漏问题及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-11-11

最新评论