12.NLP中的RNN、LSTM、GRU1.N-gram 语言模型2.NNLM语言模型3.RNNLM 语言模型4.RNN5.LSTM结构6.GRU 结构7.基于 Keras 的 LSTM 和 GRU 文本分类
一般自然语言处理的传统方法是将句子处理为一个词袋模型（Bag-of-Words，BoW），而不考虑每个词的顺序，比如用朴素贝叶斯算法进行垃圾邮件识别或者文本分类。在中文里有时候这种方式没有问题，因为有些句子即使把词的顺序打乱，还是可以看懂这句话在说什么.但有时候不行，词的顺序打乱，句子意思就变得让人不可思议了。是一种语言模型（Language Model，LM），是一个基于概率的判别模型，它的输入是一句话（词的顺序序列），输出是这句话的概率，即这些词的联合概率（Joint Probability
