我是靠谱客的博主 勤劳小蝴蝶,最近开发中收集的这篇文章主要介绍基于Python实现的拼音输入法AI拼音输入法-AI,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

拼音输入法-AI

一、 算法介绍与编程实现

算法基于二元字模型,基于隐马尔可夫模型进行实现。

在这里插入图片描述
在这里插入图片描述

基于以上算式,依据拼音序列推断可能性最大的的中文字符串,即求解以下问题:

在这里插入图片描述

  1. 最终得到:

在这里插入图片描述

程序见 src 文件夹,其中 data_prep.py 将拼音字符表、二元字统计等内容以字典形式存储到 pkl 文件中;而 hmm.py 中的 predict 函数调用这些数据计算转移概率
在这里插入图片描述
等参数,在此基础上按照 Viterbi 算法进行中文字符串的预测。

二、 效果展示

用网络学堂发布的“拼音输入法测试样例.txt”进行测试,设置在这里插入图片描述
,得到字、句准确率如下。

测试字数3643
测试句数365
字准确率0.7977
句准确率0.3205

效果好的例子:

ren gong zhi neng ji shu fa zhan xun meng

人工智能技术发展迅猛

人工智能技术发展迅猛

jin nian qing kuang bu tai hao

今年情况不太好

今年情况不太好

ji dong che jia shi yuan pei xun shou ce

机动车驾驶员培训手册

机动车驾驶员培训手册

ni zai gan shen me a tuan zhang

你在干什么啊团长

你在干什么啊团长

效果不好的例子:

新闻中语料的频次不同于现实中的常用语:

wo qu gei ni mai yi ge ju zi

我去给你买一个橘子

我去给你买一个巨资

ta yang le yi zhi qing wa dang chong wu

他养了一只青蛙当宠物

他养了一致青瓦当宠物

新闻语料库可能未覆盖一些专有名词

wei ji bai ke shi yi ge wang luo bai ke quan shu xiang mu

维基百科是一个网络百科全书项目

违纪伯克是一个网罗伯克全数项目

gei a yi dao yi bei ka bu qi nuo

给阿姨倒一杯卡布奇诺

给阿姨到一杯咖不奇诺

③ 二元字模型只用到上一个字,存在缺陷,可能需要用到三元/四元模型

ni de li jie shi dui de

你的理解是对的

你的理解释对的

对多音字的学习有所欠缺

qing bu yao shu ru qi guai de ju zi

请不要输入奇怪的句子

情不要输入奇怪的车子

综上,可以看出本次使用的模型有两个主要缺陷:

  1. 只用上一个字进行推断,没有结合前文的信息,因此需要考虑再用三元字模型进行修正。
  2. 对多音字的处理不当,没有对发射概率进行学习,因此会输出一些不常用的多音字(比如“车(ju1)”)。

这些都是值得改进的地方。此外如果再用一些日常对话的语料库,准确率应该也会有所提升。

三、 参数选择

改变在这里插入图片描述
中的在这里插入图片描述
取值,得到准确率如下:

字准确率句准确率
0.60.79040.2904
0.70.79630.3014
0.850.80020.3178
0.90.79770.3205
0.950.79930.3205
10.80070.3233
可见平滑化处理对于本次学习并没有显著的帮助,而过小时准确率反而会下降.

最后

以上就是勤劳小蝴蝶为你收集整理的基于Python实现的拼音输入法AI拼音输入法-AI的全部内容,希望文章能够帮你解决基于Python实现的拼音输入法AI拼音输入法-AI所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(46)

评论列表共有 0 条评论

立即
投稿
返回
顶部