RNN学习笔记序列模型文本处理拉普拉斯平滑（Laplace smoothing），循环神经网络深度循环神经网络编码器与解码器结构应用信息论应用信息论
RNN学习序列模型马尔可夫条件我们使用 xt−1,…,xt−τxt−1,…,xt−τ 而不是 xt−1,…,x1xt−1,…,x1 来估计 xtxt。只要这种近似是精确的，我们就说序列满足 马尔可夫条件（Markov condition）。训练时始终要尊重其时间顺序，即永远不要基于未来的数据进行训练。序列模型的估计需要专门的统计工具，两种较流行的选择是自回归模型和隐变量自回归模型。对于直到时间步 tt 的观测序列，其在时间步 t+kt+k 的预测输出是“kk步预测”。随着我们对预测时间 kk
