我是靠谱客的博主 潇洒裙子,最近开发中收集的这篇文章主要介绍python之中文分词1、安装和使用jieba2、分词练习3、为jieba添加自定义的词典4、知识点普及5、搜索引擎模式,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

目录

1、安装和使用jieba

2、分词练习

3、为jieba添加自定义的词典

4、知识点普及

1)分词文件怎么写

2)jieba.cut()参数说明

5、搜索引擎模式


1、安装和使用jieba

直接用命令:pip3 install jieba就可以了,如图所示表示成功。

2、分词练习

import jieba

if __name__ == '__main__':
    seg_gu=jieba.cut("故宫的重要景点:乾清宫", cut_all=False)
    print("Full Mode:", '/'.join(seg_gu))

 结果:Prefix dict has been built successfully.
Full Mode: 故宫/的/重要/景点/:/乾/清宫

可以看到“乾清宫”在分词时被分成了“乾”和“清宫”。这样是不对的,怎么办?

3、为jieba添加自定义的词典

创建一个dict.txt文件,然后在文件中写:

乾清宫 5 ns
黄琉璃瓦 4
云计算 5
李小福 2 nr
八一双鹿 nz
凯特琳 2 nz

修改代码:

import jieba

if __name__ == '__main__':
    jieba.load_userdict("/Users/chengsi/Desktop/Poision/eggs/crawlers/dict.txt")
    seg_gu=jieba.cut("故宫的重要景点:乾清宫", cut_all=False)
    print("Full Mode:", '/'.join(seg_gu))

结果:Prefix dict has been built successfully.
Full Mode: 故宫/的/重要/景点/:/乾清宫

4、知识点普及

1)分词文件怎么写

词典格式是一个词占一行:每一行分3个部分,一部分为词语,另一部分为词频,最后为词性。ns为地点名词,nz为其它转悠名词,a是形容词,v是动词,d是副词。

2)jieba.cut()参数说明

cut_all=True 全模式; cut_all=False 精确模式

5、搜索引擎模式

    # 搜索引擎模式
    text="我来自北京清华大学"
    qinghua=jieba.cut_for_search(text)
    print("搜索引擎模式:", '/'.join(qinghua))

 

最后

以上就是潇洒裙子为你收集整理的python之中文分词1、安装和使用jieba2、分词练习3、为jieba添加自定义的词典4、知识点普及5、搜索引擎模式的全部内容,希望文章能够帮你解决python之中文分词1、安装和使用jieba2、分词练习3、为jieba添加自定义的词典4、知识点普及5、搜索引擎模式所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(41)

评论列表共有 0 条评论

立即
投稿
返回
顶部