通过Python的jieba库对文本进行分词

文章目录

• 前言
• 一、jieba库是什么？
• 二、安装jieba库
• 三、查看jieba版本
• 四、使用方法
• • 1.引入库
  • 2.定义需要分词的文本
  • 3.使用分词模式进行分词
  • • 3.1精确模式(默认)
    • 3.2全模式
    • 3.3搜索引擎模式
  • 4.将分词结果转换为列表
  • 5.打印分词结果
  • 6.分词效果对比
  • • 6.1精确模式(默认)
    • 6.2全模式
    • 6.3搜索引擎模式
• 总结

---

大家好，我是空空star，本篇给大家分享一下通过Python的jieba库对文本进行分词。

---

Python的jieba库是一个中文分词工具，它可以将一段中文文本分割成一个一个的词语，方便后续的自然语言处理任务，如文本分类、情感分析等。jieba库使用了基于前缀词典的分词方法，能够处理中文的各种复杂情况，如歧义词、新词等。它还提供了多种分词模式，如精确模式、全模式、搜索引擎模式等，以适应不同场景的需求。此外，jieba库还支持用户自定义词典，使得分词结果更加准确。

 pip install jieba

 pip show jieba

Name: jieba
Version: 0.42.1
Summary: Chinese Words Segmentation Utilities
Home-page: https://github.com/fxsjy/jieba
Author: Sun, Junyi
Author-email: ccnusjy@gmail.com
License: MIT
Requires:
Required-by:

1.引入库

import jieba

2.定义需要分词的文本

text = "我爱发动态，我喜欢使用搜索引擎模式进行分词"

3.使用分词模式进行分词

3.1精确模式(默认)

试图将句子最精确地切开，适合文本分析。

seg_list = jieba.cut(text)

3.2全模式

把句子中所有的可能成词的词语都扫描出来，速度很快，但是不能解决歧义。

seg_list = jieba.cut(text, cut_all=True)

3.3搜索引擎模式

在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。

seg_list = jieba.cut_for_search(text)

4.将分词结果转换为列表

word_list = list(seg_list)

5.打印分词结果

print(word_list)

6.分词效果对比

6.1精确模式(默认)

[‘我爱发’, ‘动态’, ‘，’, ‘我’, ‘喜欢’, ‘使用’, ‘搜索引擎’, ‘模式’, ‘进行’, ‘分词’]

6.2全模式

[‘我’, ‘爱’, ‘发动’, ‘动态’, ‘，’, ‘我’, ‘喜欢’, ‘使用’, ‘搜索’, ‘搜索引擎’, ‘索引’, ‘引擎’, ‘模式’, ‘进行’, ‘分词’]

6.3搜索引擎模式

[‘我爱发’, ‘动态’, ‘，’, ‘我’, ‘喜欢’, ‘使用’, ‘搜索’, ‘索引’, ‘引擎’, ‘搜索引擎’, ‘模式’, ‘进行’, ‘分词’]

---

来源地址：https://blog.csdn.net/weixin_38093452/article/details/130688568